IPA(独立行政法人情報処理推進機構)は2月14日、AIの安全性評価に係る調査や基準等の検討、国際連携を推進する機関「AIセーフティ・インスティテュート」を設立したことを発表した。

AIの安全性の評価手法の検討等を行う機関

AIセーフティ・インスティテュート(公式Webサイト)

AIセーフティ・インスティテュート(公式Webサイト)

世界的にAI利用が進む中、その安全性にも高い関心が集まっており米国では昨年10月にAIの安全性に関する大統領令が公表され、今月には米国商務長官がAI安全研究所コンソーシアムの設置を発表するなど、AIに関するリスク管理の基準整備が進められている。国内においてもそれらの動きに合わせて内閣府をはじめとする関係省庁、関係機関の協力のもと「AIセーフティ・インスティテュート」が設立された。

「AIセーフティ・インスティテュート」の公式サイトには、AIの安全性に関する基準や規格、ガイダンスなどのフレームワークの整備や安全性に係るチェックールや偽情報対策、AIとサイバーセキュリティに関する調査を行う技術調査やAI安全性に関する評価やテストの検討、ISO/IEC SC42のAIの安全性に係る標準化活動、海外機関との調整や情報交換を行う国際連携などのコンテンツが準備されている。

機関の所長には、元日本アイ・ビー・エムのAI研究者で損保ジャパンCDO(Chief Digital Officer)でDX推進部長を務める村上明子氏が就任。事務局長には、NTTデータ出身で経済産業省CIO(Chief Information Officer)補佐官、内閣官房政府CIO上席補佐官、デジタル庁データ戦略統括などの職歴を持つIPAデジタル基盤センター センター長の平本健二氏が就任する。