「科学者がAIで生物兵器の設計を試みている可能性がある」とAnthropicが報告するも専門家の見解はさまざま

親愛なる読者の皆さまへ。ご存じの通り価格高騰などの悪影響でサーバー運営がとても苦しい状態です。回線や台数を整理し見直せる部分は全て見直しましたが、やはりまだ危険水域です。このままだと1ページを10分割ぐらいして無理矢理PVを増やさざるを得なくなってしまいます。そこで、GIGAZINEの物理的なサーバーたちを、たった1円でも良いので親愛なる読者の皆さまに支援してもらえればとっても助かります！今すぐ寄付は上のボタンから！ ・ これまでGIGAZINEを支援してくれたメンバーのリスト

2026年9月、生成AIツールのClaudeを開発するAnthropicの脅威インテリジェンスチームが、Claudeを悪用しようとした事例についてまとめた レポートを公開 しました。このレポートの中で、「科学者が生物兵器の設計を試みた可能性がある事例」についても報告されていますが、科学者らの反応はさまざまだと学術誌のScienceが報じています。 “Chilling” warning or overreaction? AI bioweapons report divides experts | Science | AAAS https://www.science.org/content/article/chilling-warning-or-overreaction-ai-bioweapons-report-divides-experts Anthropicが2026年9月に発表した 脅威レポート は、2025年12月～2026年8月にかけてClaudeで検出されたサイバー攻撃や影響力工作、詐欺などの不正行為およびこれらへの対策についてまとめたものです。この中では、Claudeを用いて「危害を加える可能性がある病原体の研究」を試みた事例が5件見つかったことが報告されています。 報告された5件のうち3件はウイルスの改変に関するものであり、あるケースでは研究者らがClaudeを使って「 チクングニアウイルス がより効率的に拡散し、免疫系を回避するのに役立つ突然変異」を特定するプロジェクトの助成金申請書を作成しました。チクングニアウイルスは蚊などを介して感染するウイルスで、高熱や関節炎といった症状を示すチクングニア熱を引き起こします。研究者らがClaudeに送った指示からは、これらの突然変異を含むウイルスを作成し、動物実験を行う計画であることが示唆されているとのこと。 また別のケースでは、研究者らがClaudeを使って「鳥インフルエンザウイルスの高病原性株に変異を起こさせ、哺乳類への適応と感染力の強化を図る実験」を計画しました。3つ目のケースでは、研究者らはClaudeを使って「 サル痘ウイルス や 天然痘ウイルス などを含む オルソポックスウイルス属 のウイルスにおいて、マウスへの毒性を弱める突然変異」を特定するプロジェクトの助成金申請書を作成したそうです。 Anthropicは脅威レポートの中で、ウイルス改変に関するこれら3つの研究がワクチンや医薬品開発、あるいは新たなパンデミックの検出を目的とした取り組みの一環だった可能性もあると認めていますが、より危険なウイルスを作るためのものだった可能性もあると指摘。Anthropicはチクングニアウイルスの研究について「極めて懸念される機能獲得研究」と呼び、鳥インフルエンザの研究については「パンデミックの可能性を高めた病原体に関する研究」と表現しています。 また、報告された残り2件の事例のうち1件は、医薬品開発プログラムの一環として公開情報を用いて毒素の一覧を作成したものでした。そして最後の1件は、主要な脅威とみなされている2種類の細菌毒素とウイルス毒素を含む一連の毒素を、Claudeを用いてコンピューター上で再設計したものだったとのことです。

Anthropicは、「これらの事例研究に関与した個人は現役の科学者です。彼らが危害を加える意図があったとは断言しません」と述べています。しかし、これらの科学者はいずれも中間コンピューターサーバー・VPN・偽装アカウントなどの手段を用いて、Claudeが規制されていない他の国から使用しているように見せかけていたとのこと。Claudeは中国など一部の国々では利用できないため、これらの国々に住む科学者らはこうした方法を使ってアクセスせざるを得ません。 今回の発見を受けて、Anthropicはこれらの科学者が使っていたアカウントを禁止するなど、Claudeへのアクセスを遮断する措置を講じました。しかし少なくとも1件のケースでは、科学者らは防御策を回避して引き続きClaudeを利用する方法を見つけ出したと報告されています。

他にもAnthropicは、「コンピューター上で毒素を再設計した5つ目のケースでは、毒素について意図的に曖昧な用語を使っていた」「チクングニアウイルスの研究は軍事研究所に付属する機関で、オルソポックスウイルス属に関する研究は国家関連研究所で行われていた」と指摘しました。 脅威レポートが公開された後の9月14日、Anthropicのダリオ・アモデイCEOは「AIのリスクが高まっており、開発ペースを減速させる必要がある」と主張するブログを公開。この中では、生物兵器の製造にAIを使用することを禁止する国際協定を結ぶことも提言しています。 Anthropicのダリオ・アモデイCEOが「6～12カ月以内にAIがインターネットを乗っ取る可能性あり」「AI開発を減速させるべき」と主張、イーロン・マスクやサム・アルトマンやデミス・ハサビスらも賛同 - GIGAZINE

今回の脅威レポートは、大手AI企業が「自社製品が生物兵器の開発に利用された可能性がある」と公に認めた初のケースとして大きな話題を呼ぶとともに、一部の科学者や安全保障専門家に警戒感を抱かせました。ジョー・バイデン政権でCOVID-19対策を支援した公衆衛生専門家のアシシュ・ジャー氏は、「私たちは潜在的に巨大な災害へと夢遊病のように歩み寄っています」とコメントしています。

We are sleepwalking into a potentially huge disaster And it amazes me how little attention it is getting.

一方で専門家の中には、Anthropicの反応は過剰だと考える人もいます。スクリプス研究所のウイルス学者であるクリスチャン・アンダーセン氏は、これらの実験はウイルス学者による典型的な基礎研究の一環だと指摘。アンダーセン氏らが発表した 2023年の研究 では、今回報告されたチクングニアウイルスの研究と同様の実験を ジカウイルス で行ったとのこと。アンダーセン氏はScienceに対し、Anthropicのような企業がその研究が危険かどうかを自分たちで判断し、中止させられることをむしろ懸念していると語りました。 また、ジョージ・メイソン大学の生物安全保障専門家であるグレゴリー・コブレンツ氏は、「Anthropicが取り上げた研究はすべて、世界のさまざまな地域にまん延し、現在公衆衛生上の脅威になっている病原体に関するものです。それらを研究すること自体は疑わしいものではありません」と述べました。さらにコブレンツ氏は、中国などのClaudeがブロックされている国に住む研究者らが、VPNなどを使って規制を回避しようと試みるのは当然のことだと理解を示しています。 一部の専門家は中立的な立場を取っており、ジョンズ・ホプキンス大学の生物セキュリティ専門家であるジジ・グロンヴァル氏は、一部のオンライン