L'intelligenza artificiale è pericolosa? Può davvero ribellarsi?

L'intelligenza artificiale può ribellarsi?

I sistemi di oggi non hanno desideri, coscienza o volontà: producono risposte calcolando probabilità. Non possono "decidere" di ribellarsi. Il timore degli esperti è diverso e più concreto: sistemi sempre più capaci a cui affidiamo compiti importanti potrebbero perseguire l'obiettivo ricevuto in modi che non avevamo previsto e che non riusciamo a correggere in tempo.

Perché si parla di estinzione

Nel 2023 centinaia di ricercatori e dirigenti del settore, tra cui Geoffrey Hinton, Yoshua Bengio e i capi di OpenAI e Google DeepMind, hanno firmato una dichiarazione di una sola frase: ridurre il rischio di estinzione causato dall'AI dovrebbe essere una priorità globale, al pari di pandemie e guerra nucleare. Hinton, premio Nobel per la fisica nel 2024, ha lasciato Google proprio per poter parlare liberamente di questi rischi.

Chi non è d'accordo

Altri scienziati altrettanto autorevoli, come Yann LeCun, considerano questi scenari lontani e in parte fantascientifici, e temono che distraggano dai problemi di oggi. Il disaccordo è reale: nessuno sa dire con certezza quanto e quando le macchine diventeranno capaci.

I pericoli reali, già oggi

Non serve aspettare il futuro. L'AI viene già usata per truffe con voci e volti clonati, per produrre disinformazione su larga scala, per attacchi informatici più efficaci. Può sbagliare in ambiti delicati come sanità e giustizia, e riprodurre discriminazioni presenti nei dati. C'è poi l'uso militare, con armi sempre più autonome.

Che cosa si sta facendo

L'Unione europea ha approvato l'AI Act, che vieta alcuni usi e impone controlli su quelli ad alto rischio; diversi Paesi hanno creato istituti pubblici per la sicurezza dell'AI. Per capire come difendersi dai rischi quotidiani, vedi come riconoscere audio, foto e video fatti con l'AI.

Domande frequenti

L'intelligenza artificiale è un pericolo per l'umanità?

Gli esperti sono divisi. Alcuni ritengono serio il rischio di perdere il controllo di sistemi molto avanzati in futuro, altri lo considerano remoto. I rischi già concreti riguardano truffe, disinformazione, errori e uso militare.

L'intelligenza artificiale può pensare?

Elabora informazioni e produce ragionamenti che sembrano pensiero, ma non ha coscienza né intenzioni. Se questo si possa chiamare "pensare" è una questione ancora aperta tra gli studiosi.

Fonti

• Center for AI Safety, "Statement on AI Risk" (2023)

Le ultime notizie sul tema

• Hacker cinese usa l'AI per violare i siti di oltre 100 aziende, inclusa SharkNinja HDblog · 20 ottobre
• Jailbreak für die Nintendo Switch 2: So hat ein Entwickler OpenAIs Codex genutzt Heise KI · 23 ottobre
• Emmanuel Macron convoque ce mercredi un conseil de défense sur les enjeux de sécurité de l'intelligence artificielle BFM Tech · 13 ottobre
• Fired OpenAI researchers say they were let go for 'prioritising safety' BBC Technology · 9 ottobre
• Anthropic bans ‘abusive or cruel behavior’ toward Claude The Verge AI · 8 ottobre

Altri approfondimenti

L'intelligenza artificiale sostituirà l'uomo? I lavori a rischio e quelli noQuali lavori spariranno, quali cambiano e quali restano: cosa dicono i dati.Come usare l'intelligenza artificiale: guida per iniziare da zeroUna guida per chi parte da zero: quale usare, cosa chiederle, cosa evitare.Guadagnare con l'intelligenza artificiale: cosa funziona davveroNiente formule magiche: dove l'AI fa risparmiare tempo e dove le promesse sono vuote.Intelligenza artificiale: vantaggi e svantaggi, rischi e opinioni in breveI benefici concreti e i rischi reali, messi sulla stessa bilancia.