「危険すぎるAI」を「持てる者と持たざる者」
Foresight World Watcher's 8 Tips
米AI（人工知能）開発企業アンソロピックの新型モデル「クロード・ミュトス」は、「危険すぎるAI」とも称されます。システムの脆弱性を見つけ出す性能が格段に高く、サイバーセキュリティでは強力な盾になる反面、不正利用されれば大きな脅威になりえます。このためアンソロピックは、今月7日にミュトスを発表したものの、一部の企業・組織に検証用として限定提供する方針を示しました。
このミュトスをめぐっては、米国ではスコット・ベッセント財務長官が大手銀行首脳を集めて緊急会合を持ち、日本でも片山さつき金融相が3メガバンクや日本銀行の幹部らと官民連携会議を開きました。金融システムへのサイバー攻撃がさらに高度化することが懸念され、日本政府も体制整備を急ぎます。実際、米国を数カ月遅れで追うという中国がミュトス同等のAIを開発すれば、それを「限定提供」にするとは限りません。悪質なハッカーが利用するのは時間の問題との指摘もあります。
上に記したミュトスが「限定提供」される対象を、アンソロピックは「プロジェクト・グラスウィング」と名付けました。その公式サイトにはAWS、アップル、シスコ、グーグルなど12社の名前が確認できます。プロジェクトに関与する企業は約50社とも伝えられますが、社名は12社しかわかりません。まずはこの参加企業が、ミュトスを“武器”として手に入れます。
ここから考えられるのは、“武器”を手に入れた企業のサービスが強い優位性を持つことです。「プロジェクト・グラスウィング」参加企業の製品やサービス、あるいはこうした企業と連携することが、ビジネスにおける競争力を左右することが予想されます。
同時に、「プロジェクト・グラスウィング」参加企業にとっては、ミュトスによって獲得された能力や優位性を、少なくともそれが一般的なものになるまでは手元に囲い込む動機が働くはずです。いわゆるベンダーロックイン（企業や組織のITシステムが特定のベンダー＝事業者に依存している状態）に似た構図が生まれることはないでしょうか。
こうして見ますと、このミュトスの持つインパクトは、“危険すぎる”という問題にとどまらず、AIビジネスのエコシステムを大きく変える可能性もあるはずです。アンソロピックに続いて「チャットGPT」のオープンAIも、4月14日にGPT -5.4モデルのカスタマイズ版を限定ユーザー向けにリリースすると発表しました。
今回は、このミュトス問題も深く掘り下げている英「エコノミスト」誌のAI特集ほか、全8本をピックアップしました。米「フォーリン・アフェアーズ（FA）」誌の北朝鮮をテーマにした論考3本も大変読み応えのある内容です。
皆様もぜひご一緒に。
America wakes up to AI's dangerous power【Economist／4月16日付】
「［略］未来を形作る人工知能モデル［略］が驚異的な能力を獲得するなかでも、トランプ政権は傍観を貫いてきた。民間企業間の自由な競争こそが、中国とのAI競争でアメリカが勝利するための最善の道であると確信していたからだ。／しかし、今や状況は一変した」
「転機となったのは、4月7日に米アンソロピックが『クロード ミュトス［Claude Mythos］』を発表したことだった。［略］最新作は、ソフトウェアの脆弱性を発見する能力が驚くほど優れており、悪用されれば、銀行から病院に至るまで、重要インフラを脅かすことになるだろう」
「アンソロピックの最高経営責任者（CEO）であるダリオ・アモデイは賢明にも、ミュトスが一般公開するには危険すぎると判断した。一般公開のかわりに、IT、ソフトウェア、金融分野の大手企業約50社に限定して提供し、各社が自社の防御体制を強化できるようにした」
AIの性能の向上と応用範囲の拡大の速さに対して早くから懸念を表明してきた英「エコノミスト」誌が、ここにきて警鐘のボリュームをさらに挙げている。「AIの危険な力に目覚めたアメリカ」（4月16日付）は“ミュトス騒動"をこのように報じ、米当局が踏み出さざるをえないAI規制について論じている。
この続きは会員登録をすると読むことができます。「フォーサイト」は、月額800円のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。
