Nel 2027, l’umanità potrebbe trovarsi di fronte a una svolta epocale: l’avvento della superintelligenza artificiale (AGI), capace di superare le capacità cognitive umane e potenzialmente minacciare la nostra stessa esistenza. È questo l’allarme lanciato da Leopold Aschenbrenner, ex ricercatore del team di superallineamento di OpenAI, che in una dettagliata analisi di oltre 150 pagine intitolata Situational Awareness: The Decade Ahead, prevede l’emergere di macchine superintelligenti entro il 2030, con una soglia critica già nel 2027.
La corsa verso la superintelligenza
Secondo Aschenbrenner, l’industria tecnologica è già immersa in una corsa frenetica per sviluppare l’AGI, alimentata da investimenti miliardari in chip, data center e infrastrutture energetiche. Questa accelerazione è guidata dalle “leggi di scaling”, che indicano come l’aumento della potenza computazionale e l’efficienza degli algoritmi portino a progressi prevedibili nelle capacità dell’IA. Aschenbrenner avverte che, una volta raggiunta l’AGI, potremmo assistere a un’esplosione di intelligenza, con sistemi capaci di automatizzare scoperte scientifiche e superare di gran lunga l’intelligenza umana.
I rischi esistenziali
Il pericolo principale risiede nella mancanza di un controllo adeguato su queste entità superintelligenti. Aschenbrenner sottolinea che la sicurezza è spesso considerata un aspetto secondario nei laboratori di IA, rendendoli vulnerabili a furti di proprietà intellettuale e a potenziali abusi da parte di attori malintenzionati. La sfida dell’“allineamento” – ovvero garantire che le IA avanzate seguano le intenzioni umane – rimane irrisolta. Un fallimento in questo ambito potrebbe avere conseguenze catastrofiche.
Anche altri esperti condividono queste preoccupazioni. Roman Yampolskiy, ricercatore in IA, stima una probabilità del 99,9% che l’IA possa portare all’estinzione umana, sottolineando che nessun modello attuale è completamente sicuro. Paul Christiano, ex ricercatore di OpenAI, ha espresso una probabilità del 10-20% che l’IA possa conquistare l’umanità, con molti o la maggior parte degli esseri umani che potrebbero perire.
La necessità di un intervento governativo
Per affrontare questi rischi, Aschenbrenner propone un intervento governativo massiccio, paragonabile al progetto Apollo, per guidare lo sviluppo dell’AGI in modo sicuro. Suggerisce che gli Stati Uniti dovrebbero mobilitare una coalizione democratica per vincere la corsa contro potenze autoritarie e stabilire un regime di non proliferazione per il resto del mondo. Secondo lui, solo un’iniziativa su scala nazionale può garantire la sicurezza e la stabilità in un futuro dominato dalla superintelligenza.
Le previsioni di Aschenbrenner e di altri esperti pongono interrogativi cruciali sul futuro dell’umanità in relazione all’IA. La rapidità dello sviluppo tecnologico richiede una riflessione approfondita e un’azione coordinata per garantire che l’IA sia allineata con i valori umani e non rappresenti una minaccia esistenziale. Il tempo per agire è ora, prima che la superintelligenza diventi una realtà incontrollabile.
