内閣府をはじめ関係省庁、関係機関の協力の下、AIの安全性評価と国際連携を強化するためにAIセーフティ・インスティテュートが新たに設立されました。
このAIニュースのポイント:
- 日本国内におけるAI安全性の評価と標準化を目的とした機関が設立されました。
- この機関では、米国や英国に倣い、国際的な基準に沿ったAIの安全性評価を推進します。
- 村上明子氏が所長に就任し、関連省庁や国際機関との協力が進められるとのことです。
AIの安全性に対する国際的な関心が高まる中、関係機関の協力の下、AIセーフティ・インスティテュートの設立が発表されました。
所長には、元日本IBMのAI研究者であり、現在は損保ジャパンのCDOとしても活躍する村上明子氏が就任しました。
この機関は、AIの安全性評価手法の検討や基準の設定を主な業務としており、独立行政法人情報処理推進機構(IPA)に設置されました。国内外の関連機関と連携し、国際的なAI安全性の評価基準の確立を目指しています。
具体的な業務内容
AIセーフティ・インスティテュートの主な業務内容（暫定）
https://www8.cao.go.jp/cstp/stmain/20240214.html
- 安全性評価に係る調査、基準等の検討
- 安全性評価の実施手法に関する検討
- 他国の関係機関（英米のAIセーフティ・インスティテュート等）との国際連携に関する業務
内閣府を始めとする複数の関係省庁や機関がこの取り組みに協力し、AIの安全利用と技術進歓を支援していく方針です。また、国際連携も重視し、英米のAIセーフティ・インスティテュート等との協力関係を築いていく予定です。
この動きは、AI技術の発展に伴うリスクへの対応と、日本が国際社会におけるAI安全性の議論に積極的に参加する意志を示すものです。AIセーフティ・インスティテュートの設立は、国内外のAI安全性評価基準の統一と、技術の安全な進展への貢献を示しています。
この取り組みにより、AI技術の安全性と社会へのポジティブな影響がさらに高まることが期待されます。
