L'intelligence artificielle est-elle dangereuse ? Peut-elle vraiment se rebeller ?

L'intelligence artificielle peut-elle se rebeller ?

Les systèmes actuels n'ont ni désirs, ni conscience, ni volonté : ils produisent des réponses en calculant des probabilités. Ils ne peuvent pas « décider » de se rebeller. La crainte des experts est différente et plus concrète : des systèmes toujours plus capables, auxquels nous confions des tâches importantes, pourraient poursuivre l'objectif reçu d'une manière que nous n'avions pas prévue et que nous ne parvenons pas à corriger à temps.

Pourquoi parle-t-on d'extinction

En 2023, des centaines de chercheurs et de dirigeants du secteur, dont Geoffrey Hinton, Yoshua Bengio et les patrons d'OpenAI et de Google DeepMind, ont signé une déclaration d'une seule phrase : réduire le risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. Hinton, prix Nobel de physique 2024, a quitté Google précisément pour pouvoir parler librement de ces risques.

Ceux qui ne sont pas d'accord

D'autres scientifiques tout aussi reconnus, comme Yann LeCun, jugent ces scénarios lointains et en partie relevant de la science-fiction, et craignent qu'ils ne détournent l'attention des problèmes d'aujourd'hui. Le désaccord est réel : personne ne sait dire avec certitude jusqu'où ni quand les machines deviendront capables.

Les dangers réels, dès aujourd'hui

Inutile d'attendre l'avenir. L'IA sert déjà à des arnaques avec des voix et des visages clonés, à produire de la désinformation à grande échelle, à rendre les cyberattaques plus efficaces. Elle peut se tromper dans des domaines sensibles comme la santé et la justice, et reproduire des discriminations présentes dans les données. Il y a enfin l'usage militaire, avec des armes de plus en plus autonomes.

Ce qui est fait

L'Union européenne a adopté l'AI Act, qui interdit certains usages et impose des contrôles sur ceux à haut risque ; plusieurs pays ont créé des instituts publics pour la sécurité de l'IA. Pour savoir comment se protéger des risques du quotidien, voir comment reconnaître les sons, photos et vidéos créés avec l'IA.

Questions fréquentes

L'intelligence artificielle est-elle un danger pour l'humanité ?

Les experts sont divisés. Certains jugent sérieux le risque de perdre à l'avenir le contrôle de systèmes très avancés, d'autres le considèrent comme lointain. Les risques déjà concrets concernent les arnaques, la désinformation, les erreurs et l'usage militaire.

L'intelligence artificielle peut-elle penser ?

Elle traite des informations et produit des raisonnements qui ressemblent à de la pensée, mais elle n'a ni conscience ni intentions. Savoir si l'on peut appeler cela « penser » reste une question ouverte parmi les chercheurs.

Sources

• Center for AI Safety, « Statement on AI Risk » (2023)

Les dernières actualités sur le sujet

• Emmanuel Macron convoque ce mercredi un conseil de défense sur les enjeux de sécurité de l'intelligence artificielle BFM Tech · 13 octobre
• Jailbreak für die Nintendo Switch 2: So hat ein Entwickler OpenAIs Codex genutzt Heise KI · 23 octobre
• Hacker cinese usa l'AI per violare i siti di oltre 100 aziende, inclusa SharkNinja HDblog · 20 octobre
• Fired OpenAI researchers say they were let go for 'prioritising safety' BBC Technology · 9 octobre
• Anthropic bans ‘abusive or cruel behavior’ toward Claude The Verge AI · 8 octobre

Autres dossiers

L'intelligence artificielle remplacera-t-elle l'humain ? Les métiers menacés et ceux qui ne le sont pasQuels métiers disparaîtront, lesquels changeront et lesquels resteront : ce que disent les données.Comment utiliser l'intelligence artificielle : guide pour débuterUn guide pour qui part de zéro : laquelle utiliser, quoi lui demander, quoi éviter.Gagner de l'argent avec l'intelligence artificielle : ce qui marche vraimentPas de formule magique : où l'IA fait gagner du temps et où les promesses sont creuses.Intelligence artificielle : risques et avantagesLes bénéfices concrets et les risques réels, mis sur la même balance.