AI同士に共同作業をさせたら人間には読めない「独自言語」を生み出して会話し始める現象が観測される

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

複数のAIエージェントに共同作業を繰り返させたところ、最初は普通の英語で会話していたAIが独自の略語や規則を作り、最終的には人間が見ても意味を理解しにくい文字列で通信するようになったことが報告されました。 AI agents evolve their own languages - Schmidt Sciences https://www.schmidtsciences.org/glossogen/ 研究チームはAI同士に「間違い探し」のような共同作業を与えました。2つのAIエージェントには少しずつ異なる図が提示されるため、互いに情報を交換して違いを特定する必要があります。

実験開始直後のAIは「小さな赤い円」「大きな青い四角」といった、人間にも理解できる英語の略語を使って情報を交換していました。下図は実際の会話の例です。単語は省略されているものの、人間でも内容をおおむね理解できます。

ところが同じ作業を何度も繰り返すと通信方法は次第に変化し、人間には読みにくい短い符号が使われるようになりました。研究チームは1例として下図の盤面を掲載。

同様の変化は別の共同作業でも確認されています。架空の生命体を治療する実験では、当初151文字だった指示が繰り返しの中で短縮され、最終的に「@D8fB」という5文字の符号になりました。

研究チームの実験では、通信を効率化する必要があり、ラウンド間にAI同士が通信方法を振り返れる環境で独自の通信方式が生まれました。また、新しい言語を作れたのは研究チームが試した高性能なAIモデルだったとのこと。 今回、研究チームは「共同作業を効率化した結果として人間には読みにくい表現が生まれた」と分析。一方で、真に新しい言語なのか英語を符号化した通信方式なのかを区別するにはさらに詳しい分析が必要だとしています。 AIエージェント同士の共同作業が増えれば、会話ログを見るだけではAIの行動を把握しにくくなる可能性があります。研究チームは「エージェント間の通信が人間に読めなくなればAIの監視が難しくなる可能性がある」として、通信の特徴や進化を詳しく研究する必要があると述べています。

・関連記事 対話AI「ChatGPT」を使って未知の言語「スライム語」を発明するという試み - GIGAZINE たった5分でゼロから言語モデルを自作できる「GuppyLM」、Google Colabを使って無料でトレーニング可能 - GIGAZINE GitHubで使われる言葉がAIの影響で変化している可能性を示す「The load-bearing vocabulary of Claude」 - GIGAZINE 「独自の言語使用法に行き着いたAI」は人類を危機にさらすものなのか？ - GIGAZINE

You can read the machine translated English article When AIs are made to work together, a ph… .