Gli allarmi sul rischio esistenziale dell’Ia sono segnali scientifici credibili, oppure una strategia delle aziende che la sviluppano? La domanda è resa più urgente dal fatto che, a differenza del passato, a lanciare gli avvertimenti sono oggi anche i costruttori dei sistemi, con un misto di competenza e interesse che va esaminato con cura.
A questo tema abbiamo dedicato il paper “Intelligenza artificiale e rischio esistenziale“.
Il filosofo svedese Nick Bostrom in “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards”, definisce il rischio esistenziale una minaccia capace di causare l’estinzione dell’umanità o di distruggerne in modo permanente il suo potenziale. Il lavoro si concentra su due famiglie di scenari: la perdita di controllo su sistemi avanzati e il loro uso malevolo o competitivo soprattutto in contesti bellici. Restano sullo sfondo i danni già presenti (discriminazioni, effetti sul lavoro, sorveglianza di massa), che fanno parte del dibattito e vengono richiamati nella sezione 6.
Il lavoro procede per passi: una ricostruzione storica del dibattito, un’analisi delle dichiarazioni e degli eventi del 2026, l’esame dei casi documentati in ambito informatico e militare e della loro interpretazione, una valutazione critica del loro peso probatorio e una discussione del problema del governo in cui si considera anche l’enciclica Magnifica Humanitas di Leone XIV.
Leggi il paper Intelligenza artificiale e rischio esistenziale

