政府、AIの安全性を評価する「AIセーフティ・インスティテュート」設立

内閣府は、AIの安全性を評価する手法の検討等を行なう機関として、「AIセーフティ・インスティテュート(AISI)」を設立した。内閣府や関係省庁、関係機関の協力の下、情報処理推進機構(IPA)内に設置される。所長には、元日本IBMのAI研究者で、現在は損保ジャパンCDO(チーフ・デジタル・オフィサー)で京都大学防災研究所客員講師の村上明子氏が就任した。

AIの安全性評価に関する基準や手法の検討等を進め、米国や英国のAIセーフティ・インスティテュートなど、諸外国の同様の機関とも連携する方針。主な業務は下記の通り。

• 安全性評価に係る調査、基準等の検討
• 安全性評価の実施手法に関する検討
• 他国の関係機関(英米のAIセーフティ・インスティテュート等)との国際連携に関する業務

関係省庁は、内閣府(科学技術・イノベーション推進事務局)、内閣官房、警察庁、デジタル庁、総務省、外務省、文部科学省、経済産業省、防衛省。

関係機関は、情報通信研究機構、理化学研究所、国立情報学研究所、産業技術総合研究所。