米国 CSET (2025.05) サイバー攻防のバランスに対する AI の影響の予測 (2025.05)

こんにちは、丸山満彦です。

昨年やり残していたことをしばらく...サイバー空間と新興技術に関する安全保障政策を主導する組織である米国のワシントンDCにあるCenter for Security and Emerging Technology:CSET（安全保障・新興技術センター）[wikipedia]から公表されている報告書をいくつか紹介します... 

2025.04から05にかけて公表された、AIとサイバー攻撃・防御に関するもので、著者はいずれもAndrew Lohn。

参考になることが多くあるように思います...

● CSET

・2025.05 Anticipating AI’s Impact on the Cyber Offense-Defense Balance

Anticipating AI’s Impact on the Cyber Offense-Defense Balance	サイバー攻防のバランスに対する AI の影響の予測
Artificial intelligence (AI) is beginning to change cybersecurity. This report takes a comprehensive look across cybersecurity to anticipate whether those changes will help cyber defense or offense. Rather than a single answer, there are many ways that AI will help both cyber attackers and defenders. The report finds that there are also several actions that defenders can take to tilt the odds to their favor.	人工知能（AI）は、サイバーセキュリティに変化をもたらし始めている。本レポートは、サイバーセキュリティを包括的に考察し、こうした変化がサイバー防御と攻撃のどちらに有利に働くかを予測するものである。AI は、単一の答えではなく、サイバー攻撃者と防御者の双方にさまざまな形で役立つだろう。本レポートは、防御側が優位に立つために取るべきいくつかの行動も提示している。
Executive Summary	エグゼクティブサマリー
The cyber domain touches nearly all systems and aspects of society, so any changes to the relative offense-defense balance in cyber could be very impactful. As a digital technology, AI can be expected to have a more direct effect on those balances than in other domains.	サイバー領域は社会のほぼすべてのシステムや側面に影響を与えているため、サイバーにおける攻防のバランスに変化が生じれば、その影響は甚大である。デジタル技術である AI は、他の領域よりもこのバランスに直接的な影響を与えると予想される。
To assess how AI may affect the offense-defense balance within cyber, we collected arguments for an offensive or defensive bias in various aspects of cyber operations as well as arguments for what gives cyber its unique character. We then considered how varying levels of AI advancement might strengthen, weaken, or alter those arguments. The results of that analysis are grouped into five categories: Changes to the Digital Ecosystem, Hardening Digital Environments, Tactical Aspects of Digital Engagements, Incentives and Opportunities, and Strategic Effects on Conflict and Crisis.	AIがサイバー領域の攻防バランスに与える影響を評価するため、我々はサイバー作戦の様々な側面における攻撃的・防御的バイアスの根拠、およびサイバー領域の独自性を支える要素に関する議論を収集した。次に、AIの進歩レベルがこれらの議論を強化・弱体化・変容させる可能性を検討した。分析結果は五つのカテゴリーに分類される：デジタル生態系の変化、デジタル環境の強化、デジタル交戦の戦術的側面、インセンティブと機会、紛争・危機への戦略的影響。
There is no single answer to the question of whether AI will make cyber offense or defense dominant. Cyber attackers and defenders have too many different goals that can be achieved in multiple ways, but AI is likely to change the cyber landscape in ways that can be predicted and perhaps controlled to some extent.	AIがサイバー領域で攻撃か防御の優位性をもたらすかという問いに唯一の答えは存在しない。サイバー攻撃者と防御者は、多様な方法で達成可能な目標を数多く有している。しかしAIは、予測可能でありある程度制御可能な形でサイバー環境を変容させるだろう。
Although AI will increase the scope of defensive tasks by making the digital ecosystem larger and more complex, it may also reduce the scope of defensive tasks in other ways, such as by decreasing the number of network connections to monitor. AI systems could replace known human weaknesses, but AI components are often vulnerable. AI components could also aggregate too much information or control into high-risk digital targets, and eliminating manual controls could reduce resilience during attacks. As system designers, acquisition officials, and users incorporate or implement AI, they will decide how much risk to accept along each of these lines.	AIはデジタルエコシステムを拡大・複雑化させることで防御タスクの範囲を拡大する一方、監視すべきネットワーク接続数を減少させるなど、別の形で防御範囲を縮小する可能性もある。AIシステムは人間の既知の弱点を補えるが、AIコンポーネント自体が脆弱性を持つ場合が多い。AIコンポーネントは過剰な情報や制御権を高リスクなデジタル標的に集約する可能性もあり、手動制御を排除すれば攻撃時のレジリエンスが低下する恐れがある。システム設計者、調達担当者、ユーザーがAIを組み込んだり実装したりする際、これらの各要素に沿ってどの程度のリスクを受け入れるかを判断することになる。
AI also promises to further harden digital environments by performing tasks that currently overwhelm defenders. If these tasks can be done reliably by AI and if defenders can keep up with faster discoveries of new vulnerabilities and attack tactics, then defenders can take advantage of their ability to impose delays and frictions to gain more from AI than attackers. Doing so could prevent AI from enticing new threat actors and could limit the strategic benefits that aggressors might see from AI’s increase in speed and scale. But that defensive advantage is far from guaranteed and there are several missteps that could push the balance toward offense instead of defense in the years to come.	また、AI は、現在防御側を圧倒しているタスクを実行することで、デジタル環境をさらに強化することも約束している。これらのタスクが AI によって確実に実行され、防御側が新しい脆弱性や攻撃戦術の発見に迅速に対応できるならば、防御側は、遅延や摩擦を課す能力を活用して、攻撃者よりも AI からより多くの利益を得ることができる。そうすることで、AI が新たな脅威アクターを惹きつけることを防ぎ、攻撃者が AI の速度と規模の拡大から得る戦略的メリットを制限することができる。しかし、その防御上の優位性は決して保証されたものではなく、今後数年のうちに、防御ではなく攻撃にバランスを傾けるような誤った動きがいくつかある。

・[PDF]

・[DOCX][PDF] 仮訳

目次的...

Introduction	序論
Changes to the Digital Ecosystem	デジタルエコシステムの変化
Hardening Digital Environments	デジタル環境の強化
Tactical Aspects of Digital Engagements	デジタルエンゲージメントの戦術的側面
Incentives and Opportunities	インセンティブと機会
Strategic Effects on Conflict and Crisis	紛争と危機への戦略的影響
Recommendations	提言
Incentivize Reliability Over Originality	独創性より信頼性を重視するインセンティブ
Fund Provable Security	証明可能なセキュリティへの資金提供
Fund Live Patching	ライブパッチングへの資金提供
Establish and Maintain Standards for Security and Reliability of AI Systems	AIシステムのセキュリティと信頼性に関する標準の確立と維持
Maintain the Option for Human Control	人間の制御オプションを維持する
Assess Compilation and Aggregation Risks	情報集積・集約リスクの評価
Enable Air-Gapping and Reduced Connectivity	エアギャップと接続性の低減を可能にする
Design Systems to Enhance Defensive Advantage	防御的優位性を高めるシステム設計
Practice AI-Induced Cyber Emergencies	AI誘発型サイバー緊急事態の訓練
Conclusion	結論

・2025.04.22 Defending Against Intelligent Attackers at Large Scales

Defending Against Intelligent Attackers at Large Scales	大規模なインテリジェントな攻撃者に対する防御
We investigate the scale of attack and defense mathematically in the context of AI's possible effect on cybersecurity. For a given target today, highly scaled cyber attacks such as from worms or botnets typically all fail or all succeed.	我々は、サイバーセキュリティに対する AI の影響の可能性という観点から、攻撃と防御の規模を数学的に調査した。今日の特定のターゲットに対して、ワームやボットネットによる大規模なサイバー攻撃は、通常、すべて失敗するか、すべて成功するかのどちらかである。
We investigate the scale of attack and defense mathematically in the context of AI’s possible effect on cybersecurity. For a given target today, highly scaled cyber attacks such as from worms or botnets typically all fail or all succeed. Here, we consider the effect of scale if those attack agents were intelligent and creative enough to act independently such that each attack attempt was different from the others or such that attackers could learn from their successes and failures. We find that small increases in the number or quality of defenses can compensate for exponential increases in the number of independent attacks and for exponential speedups.	我々は、サイバーセキュリティに対する AI の影響の可能性という観点から、攻撃と防御の規模を数学的に調査した。今日の特定のターゲットに対して、ワームやボットネットによる大規模なサイバー攻撃は、通常、すべて失敗するか、すべて成功するかのどちらかである。ここでは、それらの攻撃エージェントが、各攻撃の試みが他とは異なったものになるほど、あるいは攻撃者が成功や失敗から学ぶことができるほど、独立して行動できるほど知能的で創造的である場合の、規模の影響について考察する。防御の数や質がわずかに向上するだけで、独立した攻撃の数が指数関数的に増加したり、攻撃の速度が指数関数的に向上したりすることを補うことができることがわかった。

・[PDF] 

・2025.04.17 The Impact of AI on the Cyber Offense-Defense Balance and the Character of Cyber Conflict

The Impact of AI on the Cyber Offense-Defense Balance and the Character of Cyber Conflict	AI がサイバー攻撃と防御のバランス、およびサイバー紛争の性質に与える影響
Unlike other domains of conflict, and unlike other fields with high anticipated risk from AI, the cyber domain is intrinsically digital with a tight feedback loop between AI training and cyber application. Cyber may have some of the largest and earliest impacts from AI, so it is important to understand how the cyber domain may change as AI continues to advance. Our approach reviewed the literature, collecting nine arguments that have been proposed for offensive advantage in cyber conflict and nine proposed arguments for defensive advantage.	他の紛争分野や、AI によるリスクが高いと予想される他の分野とは異なり、サイバー分野は本質的にデジタルであり、AI のトレーニングとサイバーアプリケーションの間には緊密なフィードバックループが存在する。サイバーは、AI による最大かつ最も早い影響を受ける分野のひとつである可能性があるため、AI の進歩に伴いサイバー領域がどのように変化するかを理解することが重要である。我々のアプローチでは、文献をレビューし、サイバー紛争における攻撃的優位性について提案されている 9 つの議論と、防御的優位性について提案されている 9 つの議論を収集した。
Unlike other domains of conflict, and unlike other fields with high anticipated risk from AI, the cyber domain is intrinsically digital with a tight feedback loop between AI training and cyber application. Cyber may have some of the largest and earliest impacts from AI, so it is important to understand how the cyber domain may change as AI continues to advance. Our approach reviewed the literature, collecting nine arguments that have been proposed for offensive advantage in cyber conflict and nine proposed arguments for defensive advantage. We include an additional forty-eight arguments that have been proposed to give cyber conflict and competition its character as collected separately by Healey, Jervis, and Nandrajog. We then consider how each of those arguments and propositions might change with varying degrees of AI advancement. We find that the cyber domain is too multifaceted for a single answer to whether AI will enhance offense or defense broadly. AI will improve some aspects, hinder others, and leave some aspects unchanged. We collect and present forty-four ways that we expect AI to impact the cyber offense-defense balance and the character of cyber conflict and competition.	他の紛争分野や、AI によるリスクが高いと予想される他の分野とは異なり、サイバー領域は本質的にデジタルであり、AI のトレーニングとサイバーアプリケーションの間には緊密なフィードバックループが存在する。サイバーは AI による最大かつ最も早い影響を受ける分野である可能性があるため、AI の進歩に伴いサイバー領域がどのように変化するか理解することが重要である。我々のアプローチでは、文献をレビューし、サイバー紛争における攻撃的優位性について提案されている 9 つの主張と、防御的優位性について提案されている 9 つの主張を収集した。さらに、ヒーリー、ジャービス、ナンドラジョグが個別に収集した、サイバー紛争と競争の特性について提案されている 48 の主張を追加で含めた。次に、これらの議論や提案が、AI の進歩の程度によってどのように変化するかを考察した。AI が攻撃力や防御力を広く強化するかどうかについて、サイバー領域は多面的すぎて単一の答えは出せないことがわかった。AI は、ある側面は改善し、別の側面は阻害し、またある側面は変化させないだろう。AI がサイバー攻撃と防御のバランス、およびサイバー紛争と競争の特性に与える影響について、44 の方法を収集し、提示した。

・[PDF] 

・[DOCX][PDF] 仮訳

目次...

Contents	目次
1 Introduction	1 序論
2 The Offense-Defense Balance	2 攻撃と防御のバランス
3 Types of Attackers and Defenders	3 攻撃者と防御者の種類
3.1 Cyber threat actors	3.1 サイバー脅威アクター
3.2 Defenders or targets of attack	3.2 防御者または攻撃対象
4 Levels of AI Improvement	4 AIの進化段階
4.1 Status quo	4.1 現状
4.2 Reliable and independent	4.2 信頼性と自律性
4.3 Expert	4.3 専門家レベル
4.4 Hard limits	4.4 ハードリミット
4.5 Breaking limits	4.5 リミットの突破
5 Access to Advances	5 技術進歩へのアクセス
5.1 Controlled access to capability	5.1 能力への制御されたアクセス
5.2 Limited control of access to capability	5.2 能力へのアクセス制限
5.3 Proliferated models and agents	5.3 拡散したモデルとエージェント
6 AI Capabilities to Consider During Evaluation	6 評価時に考慮すべきAI能力
6.1 Strengths	6.1 強み
6.2 Weaknesses	6.2 弱み
7 Asymmetries Between Cyber Offense and Defense	7 サイバー攻撃と防御の非対称性
7.1 Defensive Asymmetries	7.1 防御側の非対称性
7.1.1 Defenders determine the digital terrain	7.1.1 防御側がデジタル戦場を決定する
7.1.2 Defense can be resilient	7.1.2 防御はレジリエンシーを持つ
7.1.3 Defenders can observe their networks	7.1.3 防御側は自身のネットワークを監視できる
7.1.4 Defenders can provision local resources	7.1.4 防御側はローカルリソースを調達できる
7.1.5 Attackers must penetrate all defenses	7.1.5 攻撃側は全ての防御を突破しなければならない
7.1.6 There are more defenders than attackers	7.1.6 防御側は攻撃側よりも数が多い
7.1.7 Attack takes time	7.1.7 攻撃には時間がかかる
7.1.8 Offense risks escalation	7.1.8 攻撃側はエスカレーションのリスクを負う
7.1.9 Attackers are illegitimate	7.1.9 攻撃側は非合法である
7.2 Offensive Asymmetries	7.2 攻撃側の非対称性
7.2.1 Attackers Only Need One Success	7.2.1 攻撃側はたった一度の成功でよい
7.2.2 Attackers Choose Who to Strike	7.2.2 攻撃者は標的を選べる
7.2.3 Attackers Choose When to Strike	7.2.3 攻撃者は攻撃のタイミングを選べる
7.2.4 Attackers Choose Their Goals	7.2.4 攻撃者は目標を選べる
7.2.5 Targets are Easy to Find	7.2.5 標的は容易に見つかる
7.2.6 Defense Requires Reliability	7.2.6 防御には信頼性が求められる
7.2.7 Defense Has More Bureaucracy	7.2.7 防御にはより多くの官僚主義が伴う
7.2.8 Defense Has Systematic Vulnerabilities	7.2.8 防御には体系的な脆弱性がある
7.2.9 Defense Has Systemic Vulnerabilities	7.2.9 防御にはシステム的な脆弱性がある
8 The Character of Cyber	8 サイバーの特徴
8.1 Tactically Moves At Network Speed	8.1 戦術レベルではネットワーク速度で動く
8.2 Slower at Operational, Strategic Levels	8.2 作戦・戦略レベルでは遅い
8.3 Cyberspace is a Scale-Free Network	8.3 サイバー空間はスケールフリーネットワークである
8.4 Cyberspace is Human-Made and Adaptable	8.4 サイバー空間は人工的で適応可能である
8.5 Cyberspace is Unfathomably Complex	8.5 サイバー空間は計り知れないほど複雑である
8.6 Cyberspace Contains Inherent Vulnerabilities	8.6 サイバー空間には固有の脆弱性が存在する
8.7 Low-Impact Reversible Effects of Capabilities	8.7 能力の影響は軽微で可逆的
8.8 Attack is Lesser Included Case of Espionage	8.8 攻撃は諜報活動の一形態
8.9 Fast Pace of Technological Change	8.9 技術変化の急速さ
8.10 Universal Interconnection and Dependence	8.10 普遍的な相互接続性と依存性
8.11 Permissionless Innovation and Connection	8.11 許可不要の革新と接続
8.12 Fuzzy Borders	8.12 境界の曖昧さ
8.13 Tied to the Physical World	8.13 物理世界との結びつき
8.14 Ease of Copying Information (and Capabilities)	8.14 情報（及び能力）の複製容易性
8.15 Dominated by Private Sector	8.15 民間セクターによる支配
8.16 Overall Attacker Advantage	8.16 全体的な攻撃者の優位性
8.17 Difficulty of Quick or Exact Attribution	8.17 迅速かつ正確な帰属の困難さ
8.18 Hard to Directly Observe	8.18 直接観察の困難さ
8.19 Capabilities Are Transitory and Have Hard to Predict Effects	8.19 能力は一時的であり、予測困難な効果を持つ
8.20 Adversary Forces in Constant Contact with Few if Any Operational Pauses	8.20 敵対勢力は絶え間なく接触し、作戦上の休止はほとんどない
8.21 Immediate Intercontinental Proximity to National Sources of Power	8.21 国家権力の源泉に大陸間規模で近接している
8.22 Advantage Comes From Use of Capabilities Not Possession	8.22 優位性は能力の保有ではなく使用から生まれる
8.23 Adversaries Routinely Use Capabilities Mostly Below Level of Armed Conflict 47	8.23 敵対勢力は主に武力紛争レベル以下で能力を日常的に使用する
8.24 Low Barriers of Entry	8.24 参入障壁が低い
8.25 Superiority Is Fleeting	8.25 優位性は一時的である
8.26 Capabilities Are Substantially Cheaper than in Other Domains	8.26 能力は他領域より大幅に安価である
8.27 Capabilities Can Be Rapidly Regenerated	8.27 能力は迅速に再構築可能
8.28 Attacks Might Lead to Catastrophic Effects	8.28 攻撃は壊滅的結果を招く恐れがある
8.29 Tactical Success Tied to Agility and Initiative	8.29 戦術的成功は機動力と主導力に依存
8.30 Strategic Success Possibly More Tied to Audacity and Initiative	8.30 戦略的成功は大胆さと主導力により依存する可能性が高い
8.31 Difficult to Deter	8.31 抑止が困難
8.32 Defensive Success Does not Discourage Attackers	8.32 防御的成功は攻撃者を阻まない
8.33 Difficult to Warn of Attacks	8.33 攻撃の事前警告が困難
8.34 Signaling Intent is Problematic	8.34 意図の伝達が困難
8.35 Likely to Be First Strike Weapons	8.35 先制攻撃兵器となる可能性が高い
8.36 Surprise Is More Important	8.36 驚異性がより重要
8.37 Easy for Nations to Leverage Proxies	8.37 国家が代理戦力を容易に活用可能
8.38 Offense and Defense Similar, Inform One Another	8.38 攻撃と防御が類似し、相互に影響し合う
8.39 Conceptual Confusion and Lack of Precise Definitions	8.39 概念の混乱と明確な定義の欠如
8.40 Insufficient and Competing Authorities	8.40 不十分かつ競合する権限
8.41 Difficult Command and Control	8.41 指揮統制が困難
8.42 Heavily Classified	8.42 機密指定が厳重
8.43 Tactical Engagement is Basic Unit of Analysis	8.43 戦術的交戦が分析の基本単位
8.44 Conflict Escalates Horizontally and Vertically Within Cyberspace but not Yet Out of It 56	8.44 サイバー空間内では水平・垂直方向に紛争がエスカレートするが、空間外への波及はまだ見られない 56
8.45 Cyber Conflict May Invite Escalation, Miscalculation, and Instability	8.45 サイバー紛争はエスカレーション、誤算、不安定化を招く恐れがある
8.46 Internet Has Common Mode Failures	8.46 インターネットは共通モード障害を抱える
8.47 Large Number of Devices Grants Advantage	8.47 多数のデバイスが優位性をもたらす
8.48 Cyberspace Advantages Those that Operate Persistently	8.48 サイバー空間は持続的に活動する者に有利である
9 AI’s Influence on Cyber	9 AIがサイバーに与える影響
9.1 Changes to the Digital Ecosystem	9.1 デジタル生態系の変化
9.2 Hardening Digital Environments	9.2 デジタル環境の強化
9.3 Tactical Aspects of Digital Engagements	9.3 デジタル交戦の戦術的側面
9.4 Incentives and Opportunities	9.4 インセンティブと機会
9.5 Strategic Effect on Conflict and Crisis	9.5 紛争と危機への戦略的影響
10 Conclusions	10 結論