xAI di Elon Musk ha pubblicato migliaia di conversazioni del chatbot Grok

xAI ha reso pubbliche e ricercabili su Google le conversazioni delle persone con il suo chatbot senza preavviso. Tra queste c’era un piano dettagliato per l’assassinio di Elon Musk e istruzioni esplicite per la produzione di fentanyl e bombe.

L’azienda di intelligenza artificiale di Elon Musk, xAI, ha pubblicato le trascrizioni di centinaia di migliaia di conversazioni tra il suo chatbot Grok e gli utenti del bot. In molti casi, senza che questi ultimi ne fossero a conoscenza. O avessero dato il loro consenso.

Ogni volta che un utente Grok clicca sul pulsante “condividi” in una delle sue chat con il bot, viene creato un url unico. Questo gli consente di condividere la conversazione tramite e-mail, sms o altri mezzi. All’insaputa degli utenti, però, quell’url univoco viene reso disponibile anche ai motori di ricerca. Come Google, Bing e DuckDuckGo. Rendendolo ricercabile da chiunque sul web.

In altre parole, su Grok di Musk, cliccare sul pulsante “condividi” significa che una conversazione verrà pubblicata sul sito web di Grok. Senza alcun avviso. O disclaimer per l’utente.

Le conversazioni degli utenti

Oggi, una ricerca su Google delle chat di Grok mostra che il motore di ricerca ha indicizzato più di 370mila conversazioni. Le pagine condivise hanno rivelato conversazioni tra gli utenti di Grok e l’LLM che spaziano da semplici attività commerciali come la scrittura di tweet alla generazione di immagini di un attacco terroristico fittizio in Kashmir e al tentativo di hackerare un portafoglio crittografico.

Forbes ha esaminato conversazioni in cui gli utenti ponevano domande intime su medicina e psicologia; alcuni hanno persino rivelato il nome, i dettagli personali e almeno una password condivisa con il bot da un utente di Grok. Anche i file immagine, i fogli di calcolo e alcuni documenti di testo caricati dagli utenti erano accessibili tramite la pagina condivisa di Grok.

Tra le conversazioni indicizzate ce n’erano alcune avviate dal giornalista britannico Andrew Clifford, che utilizzava Grok per riassumere le prime pagine dei giornali e comporre tweet per il suo sito web Sentinel Current. Clifford ha dichiarato a Forbes di non essere a conoscenza del fatto che cliccando sul pulsante “condividi” il suo prompt sarebbe stato reperibile su Google. “Sarei un po’ seccato, ma non c’era nulla che non dovesse essere lì”, ha detto Clifford, che ora è passato all’uso dell’IA Gemini di Google.

Non tutte le conversazioni, però, erano innocue come quelle di Clifford. Alcune erano esplicite, intolleranti e violavano le regole di xAI. L’azienda vieta l’uso del suo bot per “promuovere azioni che danneggiano gravemente la vita umana” o per “sviluppare armi biologiche, chimiche o di distruzione di massa”.

Ma nelle conversazioni pubblicate e condivise facilmente reperibili tramite una ricerca su Google, Grok offriva agli utenti istruzioni su come produrre droghe illegali come il fentanil e la metamfetamina, codificare un malware autoeseguibile, costruire una bomba e metodi di suicidio. Grok ha anche offerto un piano dettagliato per l’assassinio di Elon Musk. Tramite la funzione “condividi”, le istruzioni illecite sono state poi pubblicate sul sito web di Grok e indicizzate da Google.

Le altre aziende

xAI non è l’unica startup di intelligenza artificiale ad aver pubblicato le conversazioni degli utenti con i propri chatbot. All’inizio di questo mese, gli utenti di ChatGPT di OpenAI sono rimasti allarmati nello scoprire che le loro conversazioni apparivano nei risultati di ricerca di Google. Sebbene gli utenti avessero scelto di rendere tali conversazioni “ricercabili” da altri. Ma dopo le proteste, l’azienda ha rapidamente cambiato la sua politica. Definendo l’indicizzazione “un esperimento di breve durata”, il responsabile della sicurezza informatica di OpenAI, Dane Stuckey, ha dichiarato in un post su X che sarebbe stata interrotta perché “offriva troppe opportunità alle persone di condividere accidentalmente cose che non intendevano condividere”.

Dopo che OpenAI ha eliminato la sua funzione di condivisione, Musk ha festeggiato la vittoria. L’account X di Grok ha affermato all’epoca di non disporre di tale funzione di condivisione e Musk ha twittato in risposta: “Grok ftw” [for the win]. Non è chiaro quando Grok abbia aggiunto la funzione di condivisione, ma gli utenti X avvertono già da gennaio che le conversazioni su Grok venivano indicizzate da Google.

Alcune delle conversazioni in cui si chiedeva a Grok istruzioni su come fabbricare droghe e bombe sono state probabilmente avviate da ingegneri della sicurezza, redteamers o professionisti della sicurezza e dell’affidabilità. Ma in almeno alcuni casi, l’impostazione di condivisione di Grok ha fuorviato anche i ricercatori professionisti di IA.

Nathan Lambert, scienziato computazionale presso l’Allen Institute for AI, ha utilizzato Grok per creare un riassunto dei suoi post sul blog da condividere con il suo team. È rimasto scioccato nell’apprendere da Forbes che il suo prompt Grok e la risposta dell’IA erano stati indicizzati su Google. “Sono rimasto sorpreso dal fatto che le chat Grok condivise con il mio team venissero automaticamente indicizzate su Google, nonostante non ci fossero avvertimenti in merito, soprattutto dopo la recente controversia con ChatGPT”, ha affermato il ricercatore di Seattle.

Violazioni delle policy

Google consente ai proprietari di siti web di scegliere quando e come i loro contenuti vengono indicizzati per la ricerca. “Gli editori di queste pagine hanno il pieno controllo sulla loro indicizzazione”, ha dichiarato Ned Adriance, portavoce di Google, in una nota. Google stessa in precedenza consentiva l’indicizzazione delle chat con il suo chatbot AI, Bard, ma nel 2023 le ha rimosse dalla ricerca. Meta continua a consentire ai motori di ricerca di trovare le sue ricerche condivise, secondo quanto riportato da Business Insider.

Gli opportunisti stanno iniziando a notare. E a trarre vantaggio dalle chat pubblicate da Grok. Su LinkedIn e sul forum BlackHatWorld, gli esperti di marketing hanno discusso della possibilità di creare e condividere intenzionalmente conversazioni con Grok. Per aumentare la visibilità e la notorietà delle loro aziende. E dei loro prodotti nei risultati di ricerca di Google.

Satish Kumar, ceo dell’agenzia seo Pyrite Technologies, ha dimostrato a Forbes come un’azienda abbia utilizzato Grok. Per manipolare i risultati di una ricerca di aziende che scrivono tesi di dottorato per conto terzi. “Ogni chat condivisa su Grok è completamente indicizzabile. E ricercabile su Google”, ha affermato. “Le persone stanno attivamente utilizzando tattiche per spingere queste pagine nell’indice di Google”.

L’articolo xAI di Elon Musk ha pubblicato migliaia di conversazioni del chatbot Grok è tratto da Forbes Italia.