Ist künstliche Intelligenz gefährlich? Kann sie sich wirklich auflehnen?

Kann sich künstliche Intelligenz auflehnen?

Heutige Systeme haben weder Wünsche noch Bewusstsein noch einen Willen: Sie erzeugen Antworten, indem sie Wahrscheinlichkeiten berechnen. Sie können nicht „beschließen“, sich aufzulehnen. Die Sorge der Fachleute ist eine andere und konkreter: Immer leistungsfähigere Systeme, denen wir wichtige Aufgaben anvertrauen, könnten das vorgegebene Ziel auf Wegen verfolgen, die wir nicht vorhergesehen haben und nicht rechtzeitig korrigieren können.

Warum von Auslöschung die Rede ist

2023 unterzeichneten Hunderte von Forschenden und Führungskräften der Branche, darunter Geoffrey Hinton, Yoshua Bengio und die Chefs von OpenAI und Google DeepMind, eine Erklärung aus einem einzigen Satz: Das Risiko einer Auslöschung durch KI zu verringern, sollte eine globale Priorität sein, ebenso wie Pandemien und Atomkrieg. Hinton, Physik-Nobelpreisträger 2024, verließ Google gerade deshalb, um frei über diese Risiken sprechen zu können.

Wer anderer Meinung ist

Andere ebenso angesehene Wissenschaftler wie Yann LeCun halten diese Szenarien für fern und teilweise für Science-Fiction und befürchten, dass sie von den Problemen der Gegenwart ablenken. Die Uneinigkeit ist echt: Niemand kann mit Sicherheit sagen, wie leistungsfähig Maschinen werden und wann.

Die realen Gefahren, schon heute

Man muss nicht auf die Zukunft warten. KI wird bereits für Betrug mit geklonten Stimmen und Gesichtern eingesetzt, für Desinformation in großem Maßstab und für wirksamere Cyberangriffe. Sie kann in heiklen Bereichen wie Gesundheit und Justiz Fehler machen und Diskriminierung wiedergeben, die in den Daten steckt. Hinzu kommt die militärische Nutzung mit immer autonomeren Waffen.

Was unternommen wird

Die Europäische Union hat den AI Act verabschiedet, der bestimmte Anwendungen verbietet und für Hochrisiko-Anwendungen Kontrollen vorschreibt; mehrere Länder haben öffentliche Institute für KI-Sicherheit gegründet. Wie man sich vor den alltäglichen Risiken schützt, steht in So erkennt man mit KI erstellte Audios, Fotos und Videos.

Häufige Fragen

Ist künstliche Intelligenz eine Gefahr für die Menschheit?

Die Fachleute sind uneins. Einige halten das Risiko, künftig die Kontrolle über sehr fortgeschrittene Systeme zu verlieren, für ernst, andere für fernliegend. Bereits konkret sind die Risiken durch Betrug, Desinformation, Fehler und militärische Nutzung.

Kann künstliche Intelligenz denken?

Sie verarbeitet Informationen und erzeugt Schlussfolgerungen, die wie Denken wirken, hat aber weder Bewusstsein noch Absichten. Ob man das „Denken“ nennen kann, ist in der Forschung noch eine offene Frage.

Quellen

• Center for AI Safety, „Statement on AI Risk“ (2023)

Die neuesten Nachrichten zum Thema

• Jailbreak für die Nintendo Switch 2: So hat ein Entwickler OpenAIs Codex genutzt Heise KI · 23. Oktober
• Hacker cinese usa l'AI per violare i siti di oltre 100 aziende, inclusa SharkNinja HDblog · 20. Oktober
• Emmanuel Macron convoque ce mercredi un conseil de défense sur les enjeux de sécurité de l'intelligence artificielle BFM Tech · 13. Oktober
• Fired OpenAI researchers say they were let go for 'prioritising safety' BBC Technology · 9. Oktober
• Anthropic bans ‘abusive or cruel behavior’ toward Claude The Verge AI · 8. Oktober

Weitere Hintergrundartikel

Wird künstliche Intelligenz den Menschen ersetzen? Gefährdete Berufe und sichere BerufeWelche Berufe verschwinden, welche sich verändern und welche bleiben: was die Daten sagen.Wie benutzt man künstliche Intelligenz? Leitfaden für EinsteigerEin Leitfaden für Einsteiger: welche man nutzt, was man sie fragt, was man vermeidet.Mit künstlicher Intelligenz Geld verdienen: Was wirklich funktioniertKeine Zauberformeln: wo KI Zeit spart und wo die Versprechen leer sind.Künstliche Intelligenz: Risiken und VorteileDer konkrete Nutzen und die realen Risiken, auf derselben Waage.