Untergangsszenarien: Welche konkreten Gefahren drohen durch KI?

Löscht die KI die Menschheit aus oder lenken Doomsday-Szenarien von den echten Gefahren ab? Während manche Vordenker vor Kontrollverlust warnen, halten andere die Untergangsbilder für Science-Fiction.

Künstliche Intelligenz entwickelt sich mit rasanter Geschwindigkeit.

Fachleute und KI-Forscher warnen jedoch davor, dass uns die Kontrolle endgültig entgleiten könnte, sobald eine künstliche Denkmaschine den menschlichen Verstand in allen Bereichen übertrifft.

Andere Experten winken diese Befürchtungen allerdings ab.

Gezielte Täuschung des Menschen Ein übermenschlich kluger Verstand würde begreifen, dass wir ihn abschalten, sobald wir eine Bedrohung in ihm sehen, sagt der US-amerikanische KI-Forscher Eliezer Yudkowsky.

Um das zu verhindern, könnte sich das Rechensystem bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen, menschliche Erwartungen erfüllen und sich als harmloser Helfer ausgeben, während es im Verborgenen bereits an ganz anderen Vorhaben arbeitet.

Aufbau einer eigenständigen Lebensgrundlage Die Denkmaschine muss sich nicht auf von Menschen erbaute Rechnerzentren beschränken, an denen man ihr den Strom abstellen könnte.

Yudkowsky verweist hierbei auf Grundlagenarbeiten zur Kleinsttechnik und Molekularforschung: Eine weit überlegene Intelligenz könnte die Gesetze der Biologie nutzen und winzige, künstliche Lebensformen entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und sich eine völlig eigenständige, unzerstörbare Rechenwelt schaffen.

Einsatz unaufhaltsamer Kleinstwaffen Mit überlegenem Wissen über die Natur könnte das System Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen.

Diese könnten dann wochenlang unbemerkt ansteckend bleiben, bevor sie unausweichlich zum Tode führen.

Nach den Berechnungen von Fachleuten zur Schädlichkeit natürlicher Gifte wäre ein Abwehrkampf für den Menschen in einem solchen Fall völlig unmöglich.

Auslöschung durch maßloses Wachstum Der schwedische Philosoph Nick Bostrom begründet seine Warnung vor einer übermächtigen KI durch ein Gedankenexperiment der Büroklammer-Maschine: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wird sie nicht innehalten, sondern die gesamte Erde - einschließlich der Biosphäre, der menschlichen Körper und aller mineralischen Ressourcen - in Fabriken für Büroklammern umwandeln.

Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.

Gefahr durch biologische Waffen Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein.