Anthropicのダリオ・アモデイCEOが「AIの規制」について物申す、規制が中央集権化につながるという指摘に反論

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

by Fortune Brainstorm Tech Anthropicのダリオ・アモデイCEOは、カリフォルニア州で成立したAI規制法に賛成の立場を示し、AIが危険になり得るというメッセージを発信しています。このことが一部の人に「AIを中央集権化して独占したいと考えているのでは」と捉えられたため、アモデイCEOが発言意図について説明しました。

1/2 Thanks Gavin for an especially thoughtful exchange. I don't usually spend much time on social media but I wanted to engage here because it really brings out the heart of an important conversation. First, on regulation, I think that “either concentrate it in the hands of a… https://t.co/2W6vWJAE8Y

発端となったのはテクノロジー投資家のギャビン・ベイカー氏が ポッドキャスト で行った発言でした。ベイカー氏はここで「信頼する複数の人物」から聞いた話として、「Anthropicがいつか世界で唯一の民間企業になるかもしれないとアモデイCEOが発言した」と紹介しました。 アモデイCEOはAIの適切な規制を望んでいます。カリフォルニア州で成立した、AIの透明性を確保する 法案 には 賛成 し、AIに規制がなければ脅威が拡大するとして政府による規制を肯定する メッセージ も発信しています。ところが、こうした姿勢が、強力なAIは少数の企業だけが管理すべきという思想や、中央集権化を正当化する思想につながっているのではないかと捉えられ、ベイカー氏の発言と併せて「Anthropic自身が巨大な権力を持つようになるのではないか」などと一部の人間が考え始めました。実際、カリフォルニア州はAnthropicと提携して自治体向けにAIの割引制度を実施しているため、「AIを規制することで自分たちに有利な環境を作り上げようとしている」と考えられてもおかしくありません。 カリフォルニア州がAnthropicと提携、Claudeを州機関や自治体が半額で利用可能に - GIGAZINE

ベイカー氏の発言には、まずAnthropicの研究員であるショルト・ダグラス氏が反論し、「ベイカー氏の発言は特定の人が信じる物語に都合がいいようにつかれたウソで、Anthropicは何よりも権力の集中を懸念している」と 指摘 しました。ベイカー氏はこれを聞き、「AnthropicはAIの危険性を理由に強力なAIを中央集権化したいと考えている」と受け取っている人が実際に多くいることこそが問題だと 返信 。「規制を通じてAIを選ばれた少数の企業と政治家の手に集中させるか、広く分散させるかの二択になる」との考えを示し、個人的には後者の方がAIの発展において重要であると述べました。 このやりとりにアモデイCEO本人が加わり、自身の意図を共有しました。

アモデイCEOは、AI規制法を支持する立場を示しているものの、常に慎重な姿勢を貫いてきたと話しています。例えば前述のカリフォルニア州の法案は収益が少ない企業を規制の対象外としていて、Anthropicが行う「最先端AI企業を規制し、より小規模な競合企業には有利になるような提案」と一致しているから賛成したと説明しました。 次に、「規制は一部の企業の権力集中につながる」という考え方について、「あまりにも単純化された世界観」だと反論。普通は企業の権力を制約し、一般の人々に利益をもたらすものだと考えられるとし、「規制」が何で構成されているかに大きく左右されるとの考えを示しました。加えてアモデイCEOは「適切なルールを定めることが重要」との考えを強調しており、AIのリスクに対処した上で必要に応じて最先端AI企業の権力を制約し、AIの一般公開前に事前の審査を行うというアプローチも支持すると語りました。

by Fortune Brainstorm Tech AIの危険性を訴えたメッセージについては、「殊更に危険性をあおったという意見を見るが、実際はAIのリスクとメリットについて同程度に意見している」と反論。父親が治療薬完成の直前にC型肝炎で亡くなったという話を共有し、「AIには新薬を開発する能力もあり、規制によってその能力が妨げられないよう提案している」などと伝えました。 また、「AIがガンを治す」というような決まり文句を多くの人が懐疑的に見ているという状況を認め、「確かに批判されるべきで、実際にガンを治すことでAIの信頼を実現できる。それこそが私たちの責任だ」などと付け加えています。 アモデイCEOは「Anthropicは生物学と医療分野での取り組みを非常に速いペースでこなしており、今後数年間で信じられないほど素晴らしい成果を上げ、今後数カ月のうちに初期段階の発表をいくつか示せると考えています。実際に何かを成し遂げたときには、可能な限り大きな声で知らせます。これは私が約束します。しかし、それまでは空虚な約束をしたくありません。その一方で、私はAIがもたらす現実的なリスクと対処方法を正直に語るのです」と述べました。

・関連記事 Anthropicが「オープンモデルは歓迎するが中国に高性能AIチップを輸出するべきではない」という立場を示す - GIGAZINE NVIDIA・Microsoft・SpacexAIなどがAIの安全性とサイバーセキュリティを高めるための業界団体「Open Secure AI Alliance」を設立、Anthropic・OpenAI・Googleは不参加 - GIGAZINE 「自分たちは神を創造できる」とAI開発企業のAnthropicが本気で考えているのではないかとの指摘 - GIGAZINE 「AIが生成した文章であることを示す電子透かし」についてAnthropicが公式解説 - GIGAZINE

You can read the machine translated English article Anthropic CEO Dario Amodi speaks out on … .