米国 国務省 人工知能と自律システムの責任ある軍事利用に関する政治宣言

こんにちは、丸山満彦です。

米国国務省が「人工知能と自律システムの責任ある軍事利用に関する政治宣言」を公表していますね。。。

軍事目的とは言えども、基本的にはAIが一般的に求められる倫理と同じです。。。

● Department of States - Artificial Intelligence (AI)

・ 2023.02.16 Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy

Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy	人工知能と自律システムの責任ある軍事利用に関する政治宣言
An increasing number of States are developing military AI capabilities, which may include using AI to enable autonomous systems.1 Military use of AI can and should be ethical, responsible, and enhance international security.  Use of AI in armed conflict must be in accord with applicable international humanitarian law, including its fundamental principles.  Military use of AI capabilities needs to be accountable, including through such use during military operations within a responsible human chain of command and control.  A principled approach to the military use of AI should include careful consideration of risks and benefits, and it should also minimize unintended bias and accidents. States should take appropriate measures to ensure the responsible development, deployment, and use of their military AI capabilities, including those enabling autonomous systems.  These measures should be applied across the life cycle of military AI capabilities.	AIの軍事利用は、倫理的で責任あるものであり、国際安全保障を強化するものでありうるし、またそうあるべきである。  武力紛争におけるAIの使用は、その基本原則を含め、適用される国際人道法に合致したものでなければならない。  AIの軍事利用は、責任ある人間の指揮命令系統の下での軍事作戦中の利用を含め、説明責任を果たす必要がある。  AIの軍事利用に対する原則的なアプローチは、リスクと便益の慎重な考慮を含むべきであり、また、意図しないバイアスや事故を最小限に抑えるべきである。国家は、自律システムを可能にするものも含め、軍事AI能力の責任ある開発、配備、使用を確保するために適切な措置を講じるべきである。  これらの措置は、軍事AI能力のライフサイクル全体にわたって適用されるべきである。
The following statements reflect best practices that the endorsing States believe should be implemented in the development, deployment, and use of military AI capabilities, including those enabling autonomous systems:	以下の記述は、自律システムを可能にするものを含め、軍事AI能力の開発、配備、使用において実施されるべきと支持国が考えるベスト・プラクティスを反映したものである：
A. States should take effective steps, such as legal reviews, to ensure that their military AI capabilities will only be used consistent with their respective obligations under international law, in particular international humanitarian law.	A. 各国は、軍事AI能力が国際法、特に国際人道法の下でのそれぞれの義務に合致した場合にのみ使用されることを確保するため、法的審査などの効果的な措置を講じるべきである。
B. States should maintain human control and involvement for all actions critical to informing and executing sovereign decisions concerning nuclear weapons employment.	B. 国家は、核兵器使用に関する主権者の決定に情報を与え、実行するために重要なすべての行動について、人間の管理と関与を維持すべきである。
C. States should ensure that senior officials oversee the development and deployment of all military AI capabilities with high-consequence applications, including, but not limited to, weapon systems.	C. 国家は、高官が、兵器システムを含むがこれに限定されない、重大な影響力を持つすべての軍事AI能力の開発と配備を監督することを確保すべきである。
D. States should adopt, publish, and implement principles for the responsible design, development, deployment, and use of AI capabilities by their military organizations.	D. 各国は、自国の軍事組織が責任を持ってAI能力を設計、開発、配備、使用するための原則を採択、公表、実施すべきである。
E. States should ensure that relevant personnel exercise appropriate care, including appropriate levels of human judgment, in the development, deployment, and use of military AI capabilities, including weapon systems incorporating such capabilities.	E. 国家は、軍事AI能力（そのような能力を組み込んだ兵器システムを含む）の開発、配備、使用において、関係要員が適切なレベルの人間的判断を含む適切な注意を払うことを確保すべきである。
F. States should ensure that deliberate steps are taken to minimize unintended bias in military AI capabilities.	F. 国家は、軍事AI能力における意図しないバイアスを最小化するための意図的な措置がとられることを確保すべきである。
G. States should ensure that military AI capabilities are developed with auditable methodologies, data sources, design procedures, and documentation.	G. 国家は、軍事AI能力が、監査可能な方法論、データ・ソース、設計手順、および文書化とともに開発されることを確保すべきである。
H. States should ensure that personnel who use or approve the use of military AI capabilities are trained so they sufficiently understand the capabilities and limitations of those capabilities and can make context-informed judgments on their use.	H. 国家は、軍事用AI能力を使用またはその使用を承認する要員が、それらの能力の能力と限界を十分に理解し、その使用について状況に即した判断ができるように訓練されていることを確保すべきである。
I. States should ensure that military AI capabilities have explicit, well-defined uses and that they are designed and engineered to fulfill those intended functions.	I. 国家は、軍事 AI 能力が明確かつ十分に定義された用途を有し、それらの意図された機能を果たすように設計および設計されていることを確保すべきである。
J. States should ensure that the safety, security, and effectiveness of military AI capabilities are subject to appropriate and rigorous testing and assurance within their well-defined uses and across their entire life-cycles.  Self-learning or continuously updating military AI capabilities should also be subject to a monitoring process to ensure that critical safety features have not been degraded.	J. 国家は、軍事用AI能力の安全性、安全保障、有効性が、その明確に定義された用途の範囲内で、そのライフサイクル全体にわたって、適切かつ厳格なテストと保証の対象となることを確保すべきである。  自己学習または継続的に更新される軍事用AI能力も、重要な安全機能が低下していないことを確認するための監視プロセスの対象とすべきである。
K. States should design and engineer military AI capabilities so that they possess the ability to detect and avoid unintended consequences and the ability to disengage or deactivate deployed systems that demonstrate unintended behavior.  States should also implement other appropriate safeguards to mitigate risks of serious failures.  These safeguards may be drawn from those designed for all military systems as well as those for AI capabilities not intended for military use.	K. 国家は、軍用 AI 能力が、意図しない結果を検知して回避する能力、および意図しない動作を示す配備されたシステムを解除または非活性化する能力を有するように、設計およびエンジニアリングを行うべきである。  国家はまた、重大な故障のリスクを軽減するために、その他の適切なセーフガードを導入すべきである。  これらのセーフガードは、すべての軍事システム用に設計されたものだけでなく、軍事利用を目的としない AI 能力用に設計されたものからも採用することができる。
L. States should pursue continued discussions on how military AI capabilities are developed, deployed, and used in a responsible manner, to promote the effective implementation of these practices, and the establishment of other practices which the endorsing States find appropriate. These discussions should include consideration of how to implement these practices in the context of their exports of military AI capabilities.	L. 各国は、軍事用AI能力がどのように責任ある方法で開発、配備、使用されるかについて継続的な協議を行い、これらの慣行の効果的な実施を促進するとともに、承認国が適切と認めるその他の慣行の確立を追求すべきである。これらの協議には、軍事用AI能力の輸出に関連して、これらの慣行をどのように実施するかの検討も含まれるべきである。
The endorsing States will:	承認国は以下を行う：
・implement these practices when developing, deploying, or using military AI capabilities, including those enabling autonomous systems;	・自律システムを可能にするものを含め、軍事AI能力を開発、配備、使用する際に、これらの慣行を実施する；
・publicly describe their commitment to these practices;	・これらの慣行へのコミットメントを公表する；
・support other appropriate efforts to ensure that such capabilities are used responsibly and lawfully; and	・このような能力が責任を持って合法的に使用されることを確保するための適切な取り組みを支援する。
・further engage the rest of the international community to promote these practices, including in other fora on related subjects, and without prejudice to ongoing discussions on related subjects in other fora.	・他の場における関連テーマの継続的な議論に影響を与えることなく、他の関連テーマの場も含め、これらの実践を促進するために、他の国際社会をさらに関与させること。
[1] The concepts of artificial intelligence and autonomy are subject to a range of interpretations.  For the purposes of this Declaration, artificial intelligence may be understood to refer to the ability of machines to perform tasks that would otherwise require human intelligence — for example, recognizing patterns, learning from experience, drawing conclusions, making predictions, or taking action — whether digitally or as the smart software behind autonomous physical systems.  Similarly, autonomy may be understood to involve a system operating without further human intervention after activation. [back to 1]	[1] 人工知能と自律性の概念は、さまざまな解釈の対象となる。  本宣言の目的上、人工知能とは、そうでなければ人間の知性を必要とするタスク、例えば、パターンの認識、経験からの学習、結論の導出、予測、行動などを、デジタルであれ、自律的物理システムの背後にあるスマートソフトウェアであれ、実行する機械の能力を指すと理解することができる。  同様に、自律性とは、起動後に人間が介入することなく動作するシステムのことである。 [1]に戻る