防衛省装備品等の研究開発における責任あるＡＩ適用ガイドライン (2025.06.06): まるちゃんの情報セキュリティ気まぐれ日記

July 2025
Sun	Mon	Tue	Wed	Thu	Fri	Sat
		1	2	3	4	5
6	7	8	9	10	11	12
13	14	15	16	17	18	19
20	21	22	23	24	25	26
27	28	29	30	31

2025.06.07

防衛省装備品等の研究開発における責任あるＡＩ適用ガイドライン (2025.06.06)

こんにちは、丸山満彦です。

防衛省防衛装備庁が、装備品等の研究開発における責任あるＡＩ適用ガイドラインを公表しましたね...

現場でAIが暴走すると、場合によっては現場の人（敵も味方も）の生命に影響が及ぶこともあるしね...

● 防衛装備庁

・2025.06.06 [PDF] 装備品等の研究開発における責任あるＡＩ適用ガイドラインの策定について

装備品等の研究開発における責任あるＡＩ適用ガイドラインの策定について

防衛省は、装備品等の研究開発における防衛省・自衛隊独自のガイドラインとして、「装備品等の研究開発における責任あるＡＩ適用ガイドライン」を策定いたしましたので、お知らせいたします。

本ガイドラインは、令和６年７月に策定・公表した「防衛省ＡＩ活用推進基本方針」を受け、防衛省の装備品等の研究開発における責任あるＡＩ適用のコンセプトを示すものとして、策定したものです。

・装備品等の研究開発における責任あるＡＩ適用ガイドライン

・[PDF] 装備品等の研究開発における責任あるAI適用ガイドライン　概要

・[PDF] 装備品等の研究開発における責任あるAI適用ガイドライン本文（第1版）

目次...

１本ガイドライン策定の背景
(1) 諸外国の軍事領域におけるＡＩの責任ある利用に関する取組状況
(2) ＡＩの軍事利用に関する国際的な議論及び我が国の見解

２本ガイドラインの位置付け

３ＡＩ装備品等の研究開発における確認事項
(1) 準拠すべき要件の設定

４ＡＩ装備品等の研究開発における実施事項
(1) ＡＩ装備品等の分類
(2) 法的・政策的審査
(3) 技術的審査
(4) その他

５まとめ

表１ＡＩ政治宣言において参加国が実施すべき措置として定められている事項

Ａ	国家は、自国の軍事組織が、ＡＩ能力の責任ある開発、配備、使用のために、これらの原則を採用し、実施することを確保すべきである。
Ｂ	国家は、軍事用ＡＩ能力が国際法、特に国際人道法の下でのそれぞれの義務に合致して使用されることを確保するために、法的審査などの適切な措置をとるべきである。国家はまた、国際人道法の履行を促進し、武力紛争における文民及び民用物の保護を改善するために、軍事用ＡＩ能力をどのように使用するかを検討すべきである。
Ｃ	国家は、高官が、このような兵器システムを含むがこれに限定されない、重大な影響を及ぼす活用を伴う軍事用ＡＩ能力の開発と配備を効果的かつ適切に監督することを確保すべきである。
Ｄ	国家は、軍事用ＡＩ能力における意図せざるバイアスを最小化するための積極的な措置をとるべきである。
Ｅ	国家は、軍事用ＡＩ能力を組み込んだ兵器システムを含め、軍事用ＡＩ能力の開発、配備、使用において、関係者が適切な注意を払うことを確保すべきである。
Ｆ	国家は、軍事用ＡＩ能力が、関連する防衛要員にとり透明で、また、かかる要員により監査可能な方法論、データソース、設計手順及び文書作成により開発されることを確保すべきである。
Ｇ	国家は、軍事用ＡＩ能力を使用する、又は使用を承認する要員が、それらのシステムの使用について状況に応じた適切な判断を下し、自動化バイアスのリスクを軽減するために、それらのシステムの能力と限界を十分に理解するよう訓練されることを確保すべきである。
Ｈ	国家は、軍事用ＡＩ能力が明確かつ十分に定義された用途を有し、それらの意図された機能を果たすようにデザイン及び設計されていることを確保すべきである。
Ｉ	国家は、軍事用ＡＩ能力の安全性、セキュリティ、有効性が、その明確に定義された用途の範囲内で、そのライフサイクル全体にわたって、適切かつ厳格なテストと保証の対象となることを確保すべきである。自己学習または継続的に更新される軍事用ＡＩ能力については、国家は、モニタリングなどのプロセスを通じて、重要な安全機能が低下していないことを確保すべきである。
Ｊ	国家は、軍事用ＡＩ能力における失敗のリスクを軽減するために、意図しない結果を検出し回避する能力、及び、そのようなシステムが意図しない挙動を示した場合に、例えば、配備されたシステムによる交戦を停止させる、又はその作動を停止させることによって対応する能力などの適切な保護措置を実施すべきである。

図１本ガイドラインの対象範囲

図２諸外国の軍事領域におけるＡＩ倫理原則

図３研究開発事業における実施事項

図４装備品等の分類と対応フロー

法的・政策的審査 表２要件Ａの審査項目（基準）

	確認項目
Ａ－１国際人道法を始めとする国際法及び国内法の遵守が確保できないものでないこと	・当該装備品等を使用するにあたって軍事的必要性と人道的配慮のバランスを考慮し、過度の傷害又は無用の苦痛を与えることを防止する措置が含まれた構想になっているか。
	・軍事目標と非軍事目標（文民及び民用物）を区別し、軍事目標のみに攻撃を行うことが可能な装備品等の構想になっているか（区別原則）。
	・予測される具体的かつ直接的な軍事的利益との比較において、巻き添えによる文民の死亡、文民の傷害、民用物の損傷又はこれらの複合した事態を過度に引き起こすことが予測される攻撃を防止する措置が含まれた構想になっているか（比例性原則）。
	・攻撃に先立つ軍事目標の選定から攻撃の実施に至るまで、無差別攻撃を防止し文民と民用物への被害を最小限に抑えるための各種予防措置を実施し得る構想になっているか（予防原則）。
	・国際人道法のその他の要請や適用のある他の国際法及び国内法に従って使用することができないような装備品等の構想となっていないか。
Ａ－２人間の関与が及ばない完全自律型致死兵器でないこと	・適切なレベルの人間の判断が介在し、人間による責任ある指揮命令系統の中での運用が確保できる構想となっているか。
Ａ－２人間の関与が及ばない完全自律型致死兵器でないこと	・人間の関与が及ばない完全自律型の致死性を有する兵器システムの開発ではないか。

図５法的・政策的審査体制イメージ

技術的審査表３要件Ｂの審査項目（基準）

	確認項目
Ｂ－１人間の責任の明確化	・ＡＩシステムの利用に際して適切なタイミングと程度において、運用者の関与や運用者による適切な制御が可能となるように設計されているか。
	・ＡＩシステムと運用者それぞれの役割が明確に定義されているか。
	・運用者が負うべき責任が明確に定義されているか。
Ｂ－２運用者の適切な理解の醸成	・ＡＩシステムの挙動、パフォーマンス範囲、操作等に運用者が習熟して当システムを適切に使用できるように設計されているか。
	・ＡＩシステムへの過度の依存を防ぐための対策が設計されているか。
	・ＡＩシステムのモニタリング時に、運用者が不具合を認めたときにそれを改善することを可能とする仕組みが設計されているか。
Ｂ－３公平性の確保	・データセットの公平性要件が明確化されているか。
Ｂ－３公平性の確保	・ＡＩモデルに関連するバイアスが許容レベルを超えないか確認するとともに、不具合が認められた場合の改善の仕組みが設計されているか。
Ｂ－４検証可能性、透明性の確保	・ＡＩシステムの構築に係る過程、使用した手法・データ・アルゴリズム等が明確化され、その妥当性を後に検証可能な仕組みが整備されているか。
Ｂ－４検証可能性、透明性の確保	・研究開発体制（事業者含む。）において、説明責任を果たす責任者を明確化しているか。
Ｂ－５信頼性、有効性の確保	・ＡＩシステムの信頼性を確保するために、多様な指標を用いた試験評価を実施しているか。
	・開発初期から研究開発終了までの全ての期間において、運用を想定したデータセットを使用することが検討されているか。
	・運用を想定して、ＡＩに連接する装備品等の信頼性を損なうことなく、ＡＩを適用できることを設計において担保されているか。
	・ＡＩシステムが容易に維持管理できる設計となっているか。
	・ＡＩシステムに対してセキュリティ管理策の実施が検討されているか。
Ｂ－６安全性の確保	・ＡＩシステムの誤作動や深刻な失敗・事故の発生を低減する安全機構が設計されているか。
Ｂ－７国際法及び国内法の遵守が確保できないものでないこと	・装備品等の運用に際して適用される国際法や国内法令、各種内部規則等から逸脱しないよう対策が検討されているか。

図６技術的審査体制イメージ

図７高リスクＡＩ装備品等の標準的なリスク管理イメージ

図８低リスクＡＩ装備品等の標準的なリスク管理イメージ

表要件Bのチェック項目に活用し得るRAI Toolkitの例

#	RAI Toolkit			該当するチェック項目
#	ツール名称	ツール説明		該当するチェック項目
１	Trust in Autonomous Systems Test (TOAST)	システムに対する信頼度の評価	人間がシステムをどの程度信頼しているかを測定するための９つの質問からなるテスト。(例：私はシステムが何をすべきか理解している。私はシステムの限界を理解している。等) [web]	Ｂ－２運用者の適切な理解の醸成
２	Human-Machine Teaming Systems Engineering Guide	システムの設計支援	システム開発者が人間のオペレーターと協力して機能するＡＩを設計するのを支援するガイド。 [web]	Ｂ－２運用者の適切な理解の醸成
３	FairML	ＡＩモデルの公平性の診断・改善	ＡＩモデルの予測結果に対して、性別や人種などの属性との関係を分析し、公平性を診断し、要因の特定、改善方法の提供を行うためのツールキット。ＡＩモデルの予測結果の公平性を改善するために用いられる。 [web]	Ｂ－３公平性の確保
４	Tensor Flow Fairness Indicators	ＡＩモデルの公平性の評価・改善	ＡＩモデルの公平性に関する懸念を評価、改善、比較するためのツールキット。「公平性」とは、ＡＩモデルが特定の属性(人種、性別、年齢など)に基づいて不当な差別をしないことを意味する。 [web]
５	What-If Tool	ＡＩモデル性能と公平性の評価	What-Ifツール（WIT）は、機械学習（ML）モデル、特に分類や回帰タスクにおいてブラックボックスシステムとして機能するモデルの理解と分析を支援する可視化ツール。 [web]
６	Explainer Dashboard	ＡＩモデルの解釈性向上	ＡＩモデルの解釈性を高めるためのツールを提供するライブラリ。モデルの予測結果を視覚的に分析したり、特徴量の重要度を確認したりすることが可能。 [web] [web]	Ｂ－４検証可能性、透明性の確保
７	InterpretML	ＡＩモデルの解釈性向上	機械学習の解釈可能性のための最新技術を一元的に包含するオープンソースのツール。このツールは、解釈可能なモデルを作成し、ブラックボックスシステムを説明する機能を提供する。モデルの全体的な振る舞いを理解したり、個々の予測の背後にある理由を理解したりすることが可能。 [web] [web]
８	Hugging Face Data Card Template	データセットの透明性確保	データセットカードの作成手順を示すもの。データセットの内容、データセットを利用する背景、データセットの作成方法、その他利用者が注意すべき点を理解するのに役立つ。責任ある利用を促し、データセットに潜在する偏りを利用者に知らせることができる。 [web]
９	Hugging Face Model Card Template	ＡＩモデルの透明性確保	ＡＩモデルを理解し、共有し、改善するためのフレームワーク。各モデルについて、その技術と設計方法を記述し、透明性・監査可能性を実現するのに役立つ。また、技術の適切な理解を示すために、設計手順が透明で監査可能であることを測定し示すのにも役立つ。 [web]
10	Threat Modeling Resource	脅威や脆弱性の特定・評価および対策の計画	ＡＩの脅威モデリングのためのフレームワーク。ＡＩ機能のセキュリティを実現するために、脅威モデリングによってセキュリティレビューを実施し、それに基づいて推奨されるリスク軽減策を取り入れる。 [web]	Ｂ－５信頼性、有効性の確保
11	EQUI(NE2)	ニューラルネットワークの不確実性を定量化	モデルの予測における不確実性を可視化するツール。各予測の「信頼スコア（confidence score）」と「外れ値スコア（outlier score）」を提示し、モデルが通常のデータ範囲を超えた状況においてどの程度リスクが高まるかを評価することができる。モデルの精度を評価することだけでなく、データの偏りに対するモデルの頑健性を評価し、ＡＩの適用可能な範囲を明確化することができる。 [web]
12	IBM Adversarial Robustness 360Attacks	ＡＩのセキュリティ強化	敵対的な攻撃を生成し、ＡＩの信頼性(ＡＩのセキュリティ)を高めるための堅牢性を訓練したり、攻撃成功率を計算してＡＩの信頼性(ＡＩのセキュリティ)を測定し、示したりすることができるＡＩのセキュリティを守るためのPythonライブラリ。ユーザーが機械学習モデルやアプリケーションを、回避、汚染、抽出、推論といった敵対的な脅威から守り、評価するためのツールを提供する。TensorFlow、Keras、 PyTorch、scikit-learn、XGBoostなどのＡＩフレームワークをサポートしており、画像、表、音声、ビデオなどあらゆるデータタイプや、分類、物体検出、音声認識、生成、認証などのＡＩタスクに対応。 [web] [web]
13	Drift Tools	ＡＩ機能の信頼性とガバナンスの支援	Drift Tools のアルゴリズムをＡＩ機能に組み込んで、ＡＩ機能のパフォーマンスが保証されていない分布外の入力を検出し、ＡＩの信頼性(有効性)と意図しない結果を検出する能力の実現を支援するPythonライブラリ。外れ値、敵対的攻撃の検出(Adversarial detection：機械学習モデルに対する攻撃を検出し、防御するプロセス)、及びドリフト検出(Drift detection：機械学習モデルの学習データの統計的分布と、実際に遭遇するデータの分布との間に生じる変化を検出するプロセス)に特化している。 [web] [web]	Ｂ－２運用者の適切な理解の醸成Ｂ－５信頼性、有効性の確保
14	Python Outlier Detection (PyOD)	多変量データにおける異常値の検出	PyOD（Python Outlier Detection）は、多変量データにおける異常値を検出するための包括的かつスケーラブルなPythonライブラリ。このライブラリは、小規模プロジェクトから大規模データセットまで、さまざまなニーズに対応するための幅広いアルゴリズムを提供する。 [web] [web]	Ｂ－６安全性の確保