「AI暴走なら政府が停止」法案にNVIDIAら25社が反発、OpenAI・Anthropicは署名せず

共同書簡を紹介するNVIDIAのジェンスン・フアンCEOのX投稿。この声明のために開設したアカウントによる初投稿だ

　AIが暴走したら、政府が強制的に止められるようにする——そんな「AIキルスイッチ法案」が7月23日(米国時間)、米連邦議会に提出された。その翌日、NVIDIAやMicrosoft、Metaなど25の企業・団体が、共同書簡「Open Weights and American AI Leadership」を公開した。規制で縛るのではなく、AIを広く公開することこそが安全につながるという、AI業界側の反論だ。ただ、この反論がAIキルスイッチ法案の行方を左右できるかどうかは、まだ見えない。

　書簡が擁護する「オープンウェイトモデル」(以下オープンモデル)とは、AIの頭脳にあたるデータを広く公開し、誰でも入手・改変して自分のコンピュータで動かせるAIモデルである。対するChatGPTのような主流のAIは、開発企業が頭脳部分を非公開のまま貸し出す「クローズドモデル」だ。実は署名者リストには、クローズドモデルを主力とするOpenAIやAnthropic、Googleの名前がない。つまりこの書簡は業界の総意ではなく、AIの公開を推す陣営からの呼びかけである。

　AIキルスイッチ法案の背景には、中国Moonshot AIの「Kimi K3」など、最先端級の性能をうたう中国製オープンモデルの台頭への警戒がある。誰でも入手できる形で世界中に広がるAIをどう安全に扱うか。この問いが、米国の政策論争に火を付けた。

　公開派の本気度を象徴するのが、発表の仕方だ。これまでX(旧Twitter)を使ってこなかったNVIDIAのジェンスン・フアンCEOは、この声明を世に出すためにアカウントを開設。「最初の投稿として、NVIDIAが署名した書簡を共有したい」と書き出す初投稿で書簡を紹介した。

　賛同はモデル開発企業からハードウェア企業まで広がっている。Metaのマーク・ザッカーバーグCEOは「オープンソースは人々に力を与え、中央集権化を防ぐ、前向きで重要な力だ」と投稿。PC・サーバー大手Dell Technologiesのマイケル・デルCEOも「米国の技術的優位は、最良のアイデアが競い合うエコシステムから生まれてきた。AIも変わらない」と述べ、署名を誇りに思うと表明した。Microsoftのサティア・ナデラCEOも「オープンウェイトモデルは健全なAIエコシステムに不可欠だ」と投稿した。

　署名していないイーロン・マスク氏まで「全面的に支持する。ジェンスンは正しい」と同調した。OpenAIのサム・アルトマンCEOも「米国にはオープンソースと非公開モデルの両方でAIに勝ってほしい。この動きをうれしく思う」と投稿しており、非公開派が書簡を敵視しているわけでもない。

　もっとも、AIの公開に危険がないわけではない。書簡自身も、いったん公開したAIは開発元でも回収できないと認めている。その上で「オープンさこそAIの安全への最も重要な道の1つになり得る」と主張する。少数の企業がAIを独占すれば、その企業のミスに社会全体が巻き込まれる。逆に中身が公開されていれば、世界中の研究者が欠陥を見つけて直せる。誰でも入手できる「オープンソース」ソフトがインターネットの土台を支えてきたのと同じ道を、AIでも歩むべきだという訴えだ。あわせて書簡は、新興企業への支援や「時期尚早な規制」の回避を政策当局に求めた。

　この訴えは、筆者にはひとごとに思えない。筆者は1996年から、Windows用オンラインソフトの紹介サイト「窓の杜」の編集記者として活動し、2017年から2018年には編集長も務めた。無数の作者が善意で公開したフリーソフトを、ユーザーが試し、鍛え、育てていく——その文化の豊かさを間近で見てきた身として、「公開が技術を強くする」という書簡の主張には確かな実感がある。

　法律で強制的に止めるのか、開かれた仕組みで皆が守るのか。安全への道筋をめぐる両者の主張は真っ向から対立している。AIキルスイッチ法案がこの反論を受けてどう審議されるかは、今後の議会の判断を待つことになる。