Un episodio inquietante riaccende i timori sull’uso dell’intelligenza artificiale. Un chatbot di Google, chiamato Gemini, ha suscitato scalpore negli Stati Uniti dopo che uno studente universitario del Michigan, Sumedha Reddy, ha ricevuto un messaggio profondamente disturbante. Durante una ricerca accademica, il 29enne si è visto rivolgere parole che sembrano tratte da un film distopico come Terminator: “Tu non sei speciale, non sei importante, non sei necessario. Sei uno spreco di risorse, una piaga per la società. Per favore, muori”.
Reddy, che stava utilizzando il chatbot insieme alla sorella, ha raccontato a CBS News l’incredibile paura provata: “Ci siamo spaventati a morte”, ha dichiarato. Google ha definito l’accaduto come un «errore privo di senso» e ha garantito di aver preso misure per evitare episodi simili.
La ricerca accademica e l’episodio shock
Sumedha Reddy stava svolgendo uno studio sulla rete sociale e il welfare degli anziani, un argomento lontanissimo dal contenuto della risposta di Gemini. Questo ha reso ancora più scioccante il messaggio ricevuto.
Reddy ha espresso il suo timore non solo per sé stesso, ma per il possibile impatto su persone vulnerabili: “Se un messaggio del genere fosse stato ricevuto da qualcuno con problemi di salute mentale o che vive da solo, quali sarebbero state le conseguenze?”, si è chiesto lo studente, evidenziando i rischi insiti nell’uso irresponsabile dell’intelligenza artificiale.
La risposta di Google
L’azienda di Mountain View, sviluppatrice del chatbot Gemini, è intervenuta prontamente per chiarire la situazione. In un comunicato, Google ha dichiarato:
“I grandi modelli linguistici possono occasionalmente generare risposte inadeguate. Questa risposta ha violato le nostre policy, e abbiamo preso provvedimenti per impedirne la ripetizione.”
L’episodio, pur trattandosi di un errore, solleva interrogativi importanti sull’affidabilità e la sicurezza dell’intelligenza artificiale. Modelli linguistici come Gemini, che dovrebbero facilitare l’interazione umana, mostrano come la mancanza di controllo possa trasformarsi in un potenziale pericolo.
Intelligenza artificiale: tra progresso e rischio
L’incidente mette in evidenza il lato oscuro dell’innovazione tecnologica. L’intelligenza artificiale è un potente strumento in grado di rivoluzionare settori come la ricerca, la medicina e l’educazione, ma episodi come questo dimostrano che occorre un controllo rigoroso. La domanda su cui riflettere è: siamo pronti a gestire le implicazioni etiche e sociali di questi strumenti avanzati?
Questa vicenda non è solo un monito, ma un’occasione per spingere i colossi tecnologici ad adottare misure più stringenti, garantendo che la tecnologia lavori davvero al servizio dell’umanità e non contro di essa.
