カリフォルニア州議会は、米国で初めての包括的なAI安全法案となる「最先端の人工知能モデルのための安全で安心なイノベーション法案（SB 1047）」を可決しました。この画期的な法案は、急速に発展するAI技術に対する規制の枠組みを提供し、潜在的なリスクを軽減しつつイノベーションを促進することを目的としています。
法案の概要と主要な要件
SB 1047は、カリフォルニア州で活動するAI企業に対し、高度な基礎モデルの開発とデプロイメントに関する厳格な安全基準を設けています。
主な要件には以下が含まれます。
- 安全性テスト：開発者は、AIモデルが「重大な危害を引き起こす、または可能にする」リスクが特に高いかどうかを評価するテスト手順を維持する必要があります。
- キルスイッチの実装：企業は、モデルを迅速かつ完全にシャットダウンできる機能を実装しなければなりません。
- トレーニング後の保護：モデルが「トレーニング後の安全でない変更」から保護されることを保証する必要があります。
- 第三者監査：開発者は安全対策を評価するために独立した第三者監査人を雇用することが求められます。
- 内部告発者保護：AIの悪用を報告する内部告発者に対する追加の保護措置が設けられます。
法案の支持者と反対者
この法案は、技術業界と政界の双方で意見を二分しています。
■支持者
- スコット・ウィーナー州上院議員（法案の主要執筆者）
- イーロン・マスク（テスラCEO、xAI創業者）
- アル・ムラツチ州議会議員
支持者は、この法案がAIの潜在的なリスクから一般市民を守るための重要なステップだと主張しています。ウィーナー上院議員は、「SB 1047は、予測可能なAIリスクについて私たちが知っていることとよく一致しており、制定される価値があります」と述べています。
■反対者
- OpenAI、Anthropic、Google、Microsoft、Metaなどの主要AI企業
- ナンシー・ペロシ下院議員
- ゾーイ・ロフグレン下院議員
- ロー・カーナ下院議員
- ロンドン・ブリード・サンフランシスコ市長
一方、反対派は、この法案が過度に厳しく、特に小規模なスタートアップ企業にとって負担が大きいと主張しています。また、カリフォルニア州からAI企業を追い出し、イノベーションを妨げる可能性があるとの懸念も表明されています。
法案の今後
SB 1047は現在、州上院での最終投票を待っています。その後、ギャビン・ニューサム知事の机に届き、9月30日までに署名または拒否権の行使を決定することになります。
ニューサム知事は、これまで州のハイテク産業を過剰に規制することへの懸念を表明しており、シリコンバレーからは拒否権発動の圧力を受けています。しかし、ウィーナー上院議員は、「ニューサム氏はプロであり、双方から大きな圧力を受ける厳しい法案を扱うことに慣れている」と述べ、知事が慎重に検討することを期待しています。
国際的な文脈
カリフォルニア州のこの動きは、AIの規制をめぐる世界的な議論の中で重要な位置を占めています。欧州連合（EU）が包括的なAI法を検討している一方で、米国連邦政府レベルでの規制は遅れを取っています。カリフォルニア州の法案が成立すれば、米国におけるAI規制の先駆けとなり、他の州や連邦政府の動きにも影響を与える可能性があります。
SB 1047の可決は、急速に発展するAI技術に対する規制の必要性と、イノベーションの促進のバランスを取ろうとする重要な一歩です。この法案が最終的に成立するかどうかは不透明ですが、AI規制に関する議論を加速させ、他の地域にも影響を与えることは間違いありません。今後、ニューサム知事の決定と、それに続く技術業界の反応が注目されます。
