Tech-Bosse einig: Tempo der KI-Entwicklung muss gedrosselt werden

Angesichts der Warnungen vor den Risiken einer sogenannten Superintelligenz hat Anthropic-Chef Dario Amodei KI-Unternehmen aufgerufen, die Entwicklung von Künstlicher Intelligenz zu drosseln. »Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«, schrieb Amodei am Samstag in einem Essay .

Unterstützung erhielt er vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Techunternehmer Elon Musk und Demis Hassabis, Leiter von Googles KI-Tochter DeepMind.

Anthropic-Chef Amodei erklärte, KI berge »gravierende« Risiken. Auch bei einer verlangsamten Entwicklung werde der Fortschritt immer noch schnell erscheinen – man müsse die gewonnene Zeit sinnvoll nutzen. »Die Technologie nicht zu entwickeln, beraubt die Menschheit ihrer Vorteile oder überlässt KI autoritären Mächten«, erklärte er. Zugleich sei eine »zu schnelle Entwicklung leichtsinnig«.

»Wir haben nach einem Mittelweg gesucht«, sagte Amodei, der Anthropic 2021 gemeinsam mit seiner Schwester Daniela gegründet hatte. Doch in den vergangenen Monaten sei er zu der Überzeugung gelangt, dass »für eine umfassende Bewältigung der Risiken« noch größere Vorsicht nötig sei.

»Dario hat Recht«, schrieb Elon Musk auf X , dessen Firma SpaceXAI ebenfalls KI-Systeme entwickelt.

Altman von OpenAI erklärte: »Ich stimme Dario zu.« Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei seinem Unternehmen in den vergangenen Wochen intensiv diskutiert worden.

I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

DeepMind-Chef Hassabis schrieb auf X, Darios Essay weise den richtigen Weg in die Zukunft. »Die Details müssen noch ausgearbeitet werden, aber die Richtung stimmt, um diesen kritischen Moment zu meistern.«

Dario's essay points towards the right path forward. The details need working through, but the direction is correct for meeting this critical moment. This is also why we recently put out our proposal for an industry-wide standards body for frontier AI. https://t.co/Mm1hmcaSmH https://t.co/sESEDGELmj

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

OpenAI-Chef Altman hatte bereits Ende Juli erklärt, dass Entwickler möglicherweise freiwillig einen Gang zurückschalten müssten, damit die Gesellschaft Schritt halten kann.