Deepfake, la startup italiana che smaschera i video creati con l’intelligenza artificiale

L’intelligenza artificiale generativa è sempre più a portata di mano nel mondo di oggi. Bastano pochi click per creare dei contenuti video verosimili ma artificiali. Ed è sempre più difficile distinguere il vero dal falso. Per questo la startup italiana IdentifAi ha creato una piattaforma in grado di svelare se un video è reale o no con pochi click. Come? Tramite l’intelligenza artificiale stessa.

“Usiamo dei modelli di AI degenerativa che funzionano nel modo opposto al modello di AI generativa – spiega il fondatore di IdentifAi Marco Ramilli, esperto in cybersicurezza con oltre 15 anni di esperienza – l’AI generativa prende come dati di ingresso dei testi o delle immagini per creare dei contenuti, noi invece prendiamo dei contenuti già creati e li decomponiamo cercando di capire se sono stati generati o se sono reali”. La verifica di un video avviene attraverso dei “motori di intelligenza artificiale antagonisti” che vengono “addestrati a verificare la veridicità di un video”. Ogni frame del video viene così analizzato e giudicato prima di arrivare alla valutazione finale. La percentuale di accuratezza del giudizio sul video si avvicina al 95 per cento.

Uno strumento che può essere utile sia per le grandi aziende sia per i semplici cittadini. “Oggi la maggior parte dei processi che noi viviamo come l’onboarding bancario o assicurativo, avviene attraverso processi digitali” spiega Ramilli facendo riferimento ai diversi campi di applicazione nei quali IdentifAi è stato utilizzato negli scorsi mesi. “Pensiamo al mondo delle assicurazioni, quando due automobili si scontrano, esiste un limite entro il quale l’agenzia assicurativa non invia un perito e dunque ci si affida alle foto o ai video del carrozziere” spiega Ramilli. Se fino a qualche anno fa servivano delle competenze avanzate per modificarli, adesso bastano pochi click. E diventa fondamentale distinguere il vero dal falso per evitare di venire truffati.

Un altro esempio? “Sui social sta prendendo sempre più piede il fenomeno di influencer che pubblicano dei video realistici mentre fanno delle cose impossibili da fare. C’è chi si fa il bagno nel cemento fino a quando non diventa solido e chi beve benzina direttamente dalla pompa. Video che sembrano veri e possono creare degli effetti emulazione”. E poi c’è il caso di una squadra di calcio che si è rivolta a IdentifAi per smascherare dei provini video di calciatori che sembravano veri ma non lo erano. “Certamente ci sono gli osservatori che verificano la bravura di un calciatore ma è un processo costoso che interviene solo dopo una prima fase di analisi dei video. E alcuni di questi video erano stati modificati”.

La nuova frontiera delle truffe viaggia infatti sul web. Secondo l’osservatorio europeo di IdentifAi, oggi il 5 per cento delle truffe viene effettuata con l’AI. Un dato che può sembrare irrilevante ma basta pensare che soltanto sei mesi fa, la percentuale si attestava sullo 0,5 per cento. La crescita è stata esponenziale. E secondo le stime di IdentifAi, nel giro di due o tre anni si potrà arrivare al 70 per cento.

Che fare dunque? Per Ramilli gli sviluppatori hanno una responsabilità precisa. Non basta dire che l’intelligenza artificiale è neutra e dipende dall’uso che se ne fa. “Credo che chi sviluppa queste tecnologie debba metterci delle ‘friction’ (degli attriti) per far sì che sia più facile utilizzarle per gli scopi positivi rispetto a quelli negativi”. Occorre fare come gli ingegneri che a metà degli anni Novanta introdussero il coltello con la punta arrotondata per spalmare la Nutella. “Un coltello normale può essere usato in maniera negativa o positiva, ma gli ingegneri dell’epoca avevano introdotto degli attriti per poterlo usare soltanto solo positivamente. Lo stesso dovrebbero fare gli sviluppatori con l’intelligenza artificiale”.

L'articolo Deepfake, la startup italiana che smaschera i video creati con l’intelligenza artificiale proviene da Il Fatto Quotidiano.