カリフォルニア州、AI安全法案を巡る攻防

カリフォルニア州議会は、人工知能（AI）を規制する一連の法案を可決しましたが、テクノロジー業界からの強い圧力により、当初の目標の一部は達成できませんでした。この動きは、AIの急速な発展に対する規制の必要性と、イノベーションを阻害しないようにするという難しいバランスを浮き彫りにしています。

法案の概要と主な変更点

カリフォルニア州上院議員スコット・ウィーナーが提出したSB 1047は、大規模なAIシステムが人命や重大な経済的損失をもたらすリスクを防ぐことを目的としています。しかし、AI企業Anthropicなどからの提案を受け入れ、以下のような重要な変更が加えられました。

州の権限縮小：カリフォルニア州司法長官が、壊滅的な事態が発生する前にAI企業を安全対策の怠慢で訴える権限が制限されました。
新機関の設立中止：当初計画されていた「フロンティアモデル部門（FMD）」の設立は見送られ、代わりに既存の政府機関内に「フロンティアモデル委員会」が設置されることになりました。
安全性試験の証明緩和：AI企業は安全性試験結果の証明書提出義務がなくなり、代わりに安全性の実践を概説した公開「声明」の提出で済むようになりました。
責任の範囲変更：開発者に求められる安全性確保の基準が「合理的な保証」から「合理的な注意」に緩和されました。
オープンソース保護：一定規模以下のオープンソースモデルの微調整に関しては、元の大規模開発者が責任を負うことになりました。

これらの変更にもかかわらず、法案に対する批判的な声は依然として強いです。アンドリーセン・ホロウィッツのゼネラル・パートナー、マーティン・カサド氏は、「修正は見せかけだ。法案の本当の問題や批判には対処していない」とコメントしています。

一方で、AI安全行動基金センターの上級政策顧問ネイサン・カルビン氏は、「SB 1047の目標は、これまでもそうであったように、エコシステム全体でイノベーションを可能にしながらAIの安全性を向上させることです。新しい修正は、その目標をサポートするでしょう」と前向きな見方を示しています。

現在、業界の注目はギャビン・ニューサム知事に集まっています。知事は9月30日までに法案に署名するか拒否権を発動するかの決断を迫られています。ニューサム知事はこれまでAIのイノベーションを支持する姿勢を示してきましたが、同時に適切な規制の必要性も認識しています。

カリフォルニア州商工会議所のベン・ゴロムベック政策担当首席補佐官は、「私たちの目標は、AI技術の導入において公平な競争の場を確保しつつ、この業界が引き続き繁栄し、カリフォルニアが世界の技術とイノベーションの中心地であり続けるようにすることです」と述べ、業界の立場を明確にしています。

カリフォルニア州のAI規制を巡る攻防は、テクノロジーの急速な進歩と社会の安全性確保の間でバランスを取ることの難しさを示しています。今後も、イノベーションを促進しつつ、潜在的なリスクに対処する効果的な規制フレームワークの構築が求められるでしょう。

この議論の行方は、カリフォルニア州だけでなく、全米、さらには世界のAI政策に影響を与える可能性があります。ニューサム知事の決断と、その後の業界や社会の反応を注視する必要があります。