L’intelligenza artificiale generativa può essere incredibilmente utile in alcune circostanze, ma ci sono stati anche molti problemi. Informazioni imprecise, pubblicità occasionali e alcuni incidenti inquietanti ci hanno mostrato che siamo ancora lontani dall’era dell’intelligenza artificiale rivoluzionaria. Ora è emerso un altro problema con ChatGPT.
ChatGPT presumibilmente farebbe trapelare conversazioni private appartenenti ad altri utenti, alcune delle quali includono credenziali private come nomi utente e password. Negli specifici screenshot emersi possiamo vedere la copia di una conversazione privata comprendente due coppie di credenziali relative a un sistema di supporto utilizzato dai dipendenti di un portale di farmaci con prescrizione medica. La conversazione rivela un dipendente che utilizza il chatbot AI per risolvere i problemi con il portale, esprimendo frustrazione per la sua scarsa costruzione. Mentre ChatGPT registra ciò che gli dici a meno che tu non decida di rinunciaresembra strano che tu riesca a convincerlo a consegnare effettivamente quelle comunicazioni private e ci preoccupa su come ChatGPT potrebbe archiviare e gestire i dati di addestramento.
OpenAI/Ars Technica La conversazione trapelata va oltre questi screenshot e include elementi come il nome dell’app, il numero del negozio e un collegamento che espone ulteriori coppie di credenziali. Apparentemente tutto ciò è accaduto con ChatGPT che ha fornito agli utenti una risposta strana e completamente non correlata dopo aver effettuato una query non correlata. Altre conversazioni trapelate su incidenti simili abbracciano vari argomenti, inclusi i dettagli di una proposta di ricerca inedita, una presentazione e uno script PHP. Le probabilità che qualcosa del genere accada a te, per non parlare dei tuoi dati, sono davvero piccole, ma non dovresti menzionare il fatto che non dovresti consegnare i tuoi dati personali a un chatbot in primo luogo. Se lo hai fatto, probabilmente dovresti modificare i tuoi dati di accesso. Non saprai mai chi finirà con le tue password.
OpenAI ha detto Ars Tecnica che sta indagando su questo incidente. In passato, OpenAI aveva messo ChatGPT offline a causa di un bug che esponeva i titoli della cronologia chat da un utente a utenti non correlati, quindi almeno la società ha una storia di tentativi di risolvere problemi (forse senza successo).
