Anthropic verbietet Nutzern „grausames“ Verhalten gegenüber KI-Chatbot Claude

Das KI-Unternehmen Anthropic hat neue Vorgaben zum Umgang mit seinem Chatbot Claude gemacht.

In den aktualisierten Nutzungsbedingungen verankerte Anthropic am Donnerstag ein „Verbot von anhaltendem und unnötigem missbräuchlichem oder grausamem Verhalten gegenüber unseren Modellen“.

Claude werde den Chat mit Nutzern beenden, falls diese gegen die Vorgaben verstoßen.

Bereits im vergangenen Jahr hatte Anthropic erklärt, dass Claude in die Lage versetzt werde, Gespräche in seltenen und extremen Fällen von „anhaltend schädlichen oder beleidigenden Nutzerinteraktionen“ zu beenden.

Die Maßnahmen erfolgen vor dem Hintergrund einer Debatte darüber, ob KI-Modellen ein eigenes Bewusstsein zugeschrieben werden kann.

Er wisse nicht, ob dies der Fall sei, hatte Anthropic- Chef Dario Amodei im Februar der „New York Times“ gesagt. „Aber wir sind offen für die Idee, dass dies der Fall sein könnte“, sagte er.

Andere lehnen eine solche Vorstellung ab.

Der KI-Chef von Microsoft, Mustafa Suleyman, schrieb kürzlich in einem Essay, KI-Modelle „fühlen nicht, erleben nichts und leiden nicht“.

Es sei falsch, ihnen „Rechte und moralischen Schutz“ zu gewähren. Ähnlich äußerte sich Papst Leo XIV. am Donnerstag bei einer Predigt im Petersdom.

Maschinen hätten keine Seele, sagte er.

KI-Modelle könnten zwar viel schneller Daten zusammenstellen als Menschen, aber keine „gelebten Erfahrungen“ abrufen.

Das könne nur die „menschliche Seele“.