“Mi hanno puntato le armi addosso, ero terrorizzato”: l’Ai scambia un pacchetto di patatine per una pistola, la polizia interviene e ammanetta uno studente

Un sistema di intelligenza artificiale progettato per prevenire le sparatorie scolastiche ha scambiato un pacchetto di patatine Doritos per una pistola, facendo scattare immediatamente l’allarme e portando la polizia ad ammanettare uno studente minorenne la cui unica colpa è stata quella di aver scelto la merenda “sbagliata”. È l’incredibile episodio avvenuto lunedì 27 ottobre fuori dalla Kenwood High School di Baltimora, nel Maryland: la notizia sta facendo il giro del mondo sollevando seri interrogativi sull’affidabilità di queste tecnologie di sorveglianza.

Il protagonista, suo malgrado, della vicenda è Taki Allen, un giovane studente del liceo: terminate le lezioni, si era seduto con gli amici fuori da scuola e stava mangiando uno spuntino quando, all’improvviso, diversi agenti di polizia si sono diretti verso di lui con le armi spianate. “All’inizio non avevo capito dove stessero andando”, ha raccontato Taki all’emittente televisiva WBAL-TV 11 News (affiliata della Cnn). “Poi hanno cominciato a camminare verso di me e mi hanno intimato ‘Inginocchiati a terra!’ e io ho pensato: ‘Cosa?’“. Il ragazzo è stato costretto a inginocchiarsi, è stato ammanettato e perquisito, ma gli agenti non hanno trovato alcuna arma. Solo a quel punto gli hanno mostrato l’immagine che aveva fatto scattare l’allarme: una foto scattata dalle telecamere di sicurezza in cui Taki teneva in mano il sacchetto delle patatine: “Stavo solo tenendo un pacchetto di Doritos con due mani e un dito fuori, e hanno detto che sembrava una pistola“, ha spiegato lo studente.

Da circa un anno, le scuole della contea di Baltimora utilizzano un sistema di intelligenza artificiale dell’azienda Omnilert, che analizza in tempo reale i video delle telecamere per individuare potenziali armi. Se il software rileva una minaccia, invia un alert automatico alla scuola e alla polizia. In questo caso, però, qualcosa nel protocollo di verifica umana è andato storto: come spiegato dalla preside, Katie Smith, il dipartimento di sicurezza della scuola aveva effettivamente esaminato e annullato l’allarme dell’AI. Ma la preside stessa, non rendendosi conto dell’annullamento, ha segnalato l’alert all’agente di sicurezza scolastico, che ha quindi chiamato la polizia, dando il via all’intervento armato. La società Omnilert ha confermato alla Cnn che “il processo ha funzionato come previsto”, pur esprimendo dispiacere per l’accaduto. La scuola si è prontamente scusata con il ragazzo, la sua famiglia e le famiglie anche degli altri studenti presenti al momento dell’intervento, riconoscendo quanto “sconvolgente” sia stato l’incidente per Taki e per gli altri giovani che hanno assistito; tuttavia l’accaduto ha suscitato grande indignazione. Il nonno, Lamont Davis, ha chiesto che vengano presi provvedimenti: “Nessuno vuole che questo accada al proprio figlio. Qualcosa va fatto, devono esserci cambiamenti e chi ha sbagliato deve renderne conto”. “È stato fatto un errore grave”, ha ammesso la sovrintendente scolastica, Myriam Rogers. “Il nostro obiettivo è garantire la sicurezza degli studenti e non metterli in situazioni traumatiche come queste”.

La notizia dell’episodio sta facendo il giro del mondo scatenando il dibattito sull’opportunità di utilizzare dei sistemi di sorveglianza nelle scuole basati sull’intelligenza artificiale: solo pochi giorni fa, infatti, un episodio simile negli Stati Uniti, dove l’allerta è massima viste le sparatorie avvenute negli ultimi anni. In quel caso a far scattare l’allarme, provocando un intervento simile della polizia, era stata una domanda fatta per scherzo da uno studente a Chatgpt: “Come ammazzare il mio amico nel bel mezzo della lezione”, il prompt da lui inserito.

L'articolo “Mi hanno puntato le armi addosso, ero terrorizzato”: l’Ai scambia un pacchetto di patatine per una pistola, la polizia interviene e ammanetta uno studente proviene da Il Fatto Quotidiano.