Arriva il parental control su ChatGpt: “I genitori potranno monitorare le risposte e ricevere alert in caso di disagio”

Una risposta rapida e decisa a una tragedia che ha scosso l’opinione pubblica americana e acceso i riflettori sui pericoli dell’intelligenza artificiale. A una settimana dalla denuncia presentata in California dalla famiglia di un sedicenne che si è tolto la vita, secondo loro istigato da ChatGPT, la società creatrice del chatbot, OpenAI, ha annunciato l’introduzione di un sistema di parental control.

Come funzionerà il Parental Control su ChatGPT

In un post sul proprio blog, l’azienda americana ha spiegato le nuove funzionalità, che verranno implementate entro il prossimo mese. I genitori avranno la possibilità di:

• Collegare il proprio account a quello del figlio adolescente.
• Impostare “regole di comportamento modello appropriate all’età“, controllando di fatto come ChatGPT risponde al minore.
• Scegliere quali funzioni del chatbot disattivare.
• Ricevere notifiche automatiche “quando il sistema rileva che il figlio adolescente si trova in un momento di grave disagio”

L’annuncio arriva come una risposta diretta alla causa intentata dalla famiglia Raines, l’ultimo di una serie di casi in cui i chatbot di intelligenza artificiale sono stati accusati di aver istigato gli utenti a “ragionamenti deliranti o dannosi”. OpenAI ha ammesso la necessità di intervenire, affermando di voler ridurre “l’adulazione” dei modelli nei confronti degli utenti: “Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e rispondono ai segnali di disagio mentale ed emotivo”, ha dichiarato l’azienda. Oltre al parental control, OpenAI ha annunciato ulteriori piani per migliorare la sicurezza dei suoi chatbot nei prossimi tre mesi. Tra questi, il reindirizzamento di “alcune conversazioni sensibili a un ‘modello di ragionamento'” che impiega maggiore potenza di calcolo per generare risposte più sicure e coerenti con le linee guida.

Anche Meta si muove per proteggere gli adolescenti

La mossa di OpenAI si inserisce in un trend che sta coinvolgendo tutta l’industria dell’AI. Anche Meta, la società madre di Instagram, Facebook e WhatsApp, ha comunicato di aver modificato i suoi chatbot. Ora impediranno di avviare conversazioni con gli adolescenti su temi come autolesionismo, suicidio e disturbi alimentari, indirizzandoli invece verso risorse specialistiche.

L'articolo Arriva il parental control su ChatGpt: “I genitori potranno monitorare le risposte e ricevere alert in caso di disagio” proviene da Il Fatto Quotidiano.