経済産業省 IPAにAIセーフティ・インスティテュートを設立

こんにちは、丸山満彦です。

IPAにAIセーフティ・インスティテュートを設置しましたね。。。広島G7の流れですね。。。2023年11月の英国、2024年2月の米国に続いて日本もですね...

AIの安全性評価の基準や実施手法を検討することになるようですね。。。

AIセーフティ・インスティテュートの所長はAIの専門家ですが、実はAIの専門家より法学の専門家の方が向いているのかも知れませんね。。。本質はAIに関する技術ではなく、AIの利用の話なので、社会への実装の問題ですからね。。。もちろん、チームにはAIの専門家も必要ですが...

ちなみに、米国の人工知能安全研究所（USAISI）の所長のElizabeth Kellyさんは、銀行業務系の出身で、ホワイトハウス国家経済会議の経済政策担当大統領特別補佐官を経験し、AIの大統領令の策定にも関わっていたということのようですね。。。主に、プライバシーの保護、労働者と消費者の支援、AIガバナンスに関する同盟国やパートナーとの行政の関与を主導したようです。。。

一方、英国のIan Hogarth[wikipedia]さんは、機械学習の専門家ですね。。。北京の清華大学で中国語を学んだようですね。。。

● 経済産業省

・ 2024.02.14 AIセーフティ・インスティテュートを設立しました

---

AIの安全性に対する国際的な関心の高まりを踏まえ、AIの安全性の評価手法の検討等を行う機関として、内閣府をはじめとする関係省庁、関係機関の協力の下、本日独立行政法人情報処理推進機構（IPA）にAIセーフティ・インスティテュートを設置しました。

AIの安全性に対する国際的な関心の高まりを踏まえ、AIの安全性の評価手法の検討等を行う機関として、AIセーフティ・インスティテュート（所長：村上明子氏）を本日設立しました。同機関は、内閣府をはじめ関係省庁、関係機関の協力の下、独立行政法人情報処理推進機構（IPA）に設置されます。

我が国として、AIの安全性評価に関する基準や手法の検討等を進めるにあたり、米国や英国のAIセーフティ・インスティテュートをはじめ、諸外国の同様の機関と連携を深めてまいります。

経済産業省としても、IPAに加え、国立研究開発法人産業技術総合研究所も通じて培ってきたAIの知見や、構築してきた国内外とのネットワークを活用しながら、AIセーフティ・インスティテュートの活動に貢献していきます。

1．AIセーフティ・インスティテュートの主な業務内容（暫定）

• 安全性評価に係る調査、基準等の検討
• 安全性評価の実施手法に関する検討
• 他国の関係機関（英米のAIセーフティ・インスティテュート等）との国際連携に関する業務

---

● 内閣府

・2024.02.14 AIセーフティ・インスティテュートの設立について

● IPA

・2024.02.14 AIセーフティ・インスティテュートを設立

● AIセーフティ・インスティテュート

・2024.02.14 AIセーフティ・インスティテュートを設立しました。

---

● まるちゃんの情報セキュリティ気まぐれ日記

米国...

・2024.02.13 米国 AI安全研究所を設立

英国...

・2023.11.05 英国 AI安全研究所の設立 (2023.11.02)