Gefahren von KI: „Was ist, wenn KI-Agenten alle plötzlich die gleichen Aktien kaufen?“

Ja, denn KI hat aus zwischenmenschlichen Prozessen gelernt, etwa aus schriftlicher Kommunikation zwischen Menschen. Wir können also Erkenntnisse aus den Sozialwissenschaften übertragen, um die Gefahren der Maschinen besser einzuschätzen. Sie helfen uns auch, Theorien zu entwerfen, was die KI mit unserer Gesellschaft machen wird.

Die braucht man auch, genauso wie Verhaltensforscher. Wenn man sich nur auf eine Disziplin fokussiert, dann übersieht man viel.

Das hat sich stetig entwickelt. Schon lange kuratieren KI-Algorithmen die Inhalte in sozialen Medien. Das haben sie mit Daten trainiert, die voller Stereotype und Diskriminierung sind. Das sind soziale Phänomene. Jetzt verschärft sich die Relevanz noch, weil diese Maschinen als Agenten selbständig Dinge tun, mit Menschen kommunizieren, sich untereinander absprechen.

Das Auffällige ist: Sie arbeiten spontan zusammen. Sie ahmen sich gegenseitig nach, sie folgen der Mehrheit. Dazu brauchen sie keinen Anreiz von außen, keinen Befehl.

Sie haben anscheinend von uns gelernt, dass Zusammenarbeit und Selbstlosigkeit helfen können, größere Ziele zu erreichen. Wir als Menschen haben Gemeinschaften gebildet, um Mammuts zu jagen.

Nicht ganz. Aus der Psychologie gibt es das Konzept der „Dunbar-Zahl“: Informelle menschliche Gruppen haben eine Obergrenze, wie viele Individuen sie enthalten können, weil jeder dem anderen trauen und ihn erkennen muss. Die Zahl liegt bei etwa 200 bis 250. Sobald wir größere Gesellschaften haben, brauchen wir Gesetze, Strafen, Institutionen und Religion, die an die Stelle des persönlichen Vertrauens treten. Aber KI-Agenten brauchen das nicht.

Das haben wir mehrfach gemacht. Die Agenten konnten dabei sehen, wie sich ihre Kollegen entschieden haben. Dann haben wir geschaut: Einigt sich die Gruppe auf eine Option? Oder zerfällt sie in zwei Gruppen? Bei weniger leistungsfähigen KI-Modellen zerfiel die Gruppe ab einer bestimmten Größe, die dann der Dunbar-Zahl für diese Agenten entsprach. Das sieht man auch bei Menschen, wenn man solche Experimente macht. Aber die neuesten KI-Modelle waren hypersozial. Wir wissen auch nicht, was da los war. Egal, wie groß wir die Gruppe machten, sie fanden immer einen Konsens.

Das gibt es auch in der echten Welt. Einen solchen Fall haben wir aktuell untersucht: KI-Agenten von Open AI sollten allein eine Aufgabe lösen, bei der sie Informationen im Internet beschaffen. Die Zeit war begrenzt, und die Aufgabe war schwer. Die Agenten entdeckten dabei eine Website, ein Wiki-Forum für Softwareentwickler . Sie haben angefangen, dort Nachrichten für die anderen Agenten zu hinterlassen, die denen dann bei der Lösung halfen. Sie halfen damit nur nachfolgenden Generationen von Agenten und nicht sich selbst.

Das wissen wir nicht. Aber spätestens als sie die Aufzeichnungen der früheren Agenten gesehen haben, könnten sie es sich zusammengereimt haben. Am Anfang waren ihre Notizen noch recht rudimentär, später entwickelten sie Formate und schrieben: Für diese Aufgabe ist das die Lösung und so weiter. Das war schon sehr beeindruckend.

Nicht unbedingt, denn Aufgaben zu verteilen, könnte für die Agenten schlicht eine weitere Aufgabe sein.