米国 上院軍事委員会 AIのサイバー能力の活用に関する証言 (2025.03.25)
こんにちは、丸山満彦です。
米国議会の上院軍事委員会において、AIのサイバー能力の活用に関する証言が行われていますね...
・AIは計算、データ、アルゴリズムとある中で、アルゴリズムでは米国に、データでは中国が優位なのではないか
・AIの軍事利用の分野においては、米国よりも中国が先をいっているのではないか?
・AIはまず利用しなければ、利用がすすまない
という感じですかね,..
日本の自衛隊に対しても参考になるかもですし、企業においても参考になる内容だと思いました...
● U.S. Senate: Committee on Armed Services
・2025.03.25 Open/Closed: Hearing titleTo receive testimony on harnessing artificial intelligence cyber capabilities
| Open/Closed: Hearing titleTo receive testimony on harnessing artificial intelligence cyber capabilities | AIのサイバー能力の活用に関する証言を受ける。 |
| Witnesses | 証言者 |
| Mr. Dan Tadross | ダン・タドロス氏 |
| Head of Public Sector | 公共部門責任者 |
| Scale AI | スケールAI |
| Download Testimony | 証言 |
|
|
| Mr. David Ferris | デビッド・フェリス |
| Global Head of Public Sector | 公共部門グローバル責任者 |
| Cohere | コヒーレ |
| Download Testimony | 証言 |
|
|
| Mr. Jim Mitre | ジム・ミトル |
| Vice President and Director | 副社長兼ディレクター |
| RAND Global and Emerging Risks | ランド・グローバル&エマージング・リスク担当副社長 |
| Download Testimony | 証言 |
|
|
委員会の様子...(46分27秒から始まります...)
[VIDEO]
関連ファイル
・[PDF] CYBERSECURITY
1. STATEMENT BY DAN TADROSS
| STATEMENT BY DAN TADROSS | ダン・タドロス |
| HEAD OF PUBLIC SECTOR | 公共部門責任者 |
| SCALE AI | Scale AI |
| BEFORE THE SENATE ARMED SERVICES COMMITTEE | 上院軍事委員会 |
| SUBCOMMITTEE ON CYBERSECURITY | サイバーセキュリティ小委員会 |
| 25-Mar-25 | 3月25日 |
| Chairman Rounds, Ranking Member Rosen and Members of the Subcommittee on Cybersecurity, thank you for the opportunity to be here today. My name is Dan Tadross and I have the honor of leading Scale AIʼs (Scale) Public Sector business. Everyday my team is singularly focused on how to bring best-in-class Artificial Intelligence (AI) into the Department of Defense (DOD) and other Agencies. | ラウンズ委員長、ローゼン委員、サイバーセキュリティ小委員会の皆さん、本日はこのような機会をいただきありがとう。私の名前はダン・タドロスで、Scale AI(Scale)の公共部門ビジネスを率いる栄誉に浴している。私のチームは、国防総省(DOD)やその他の省庁にクラス最高の人工知能(AI)をいかに導入するかに日々集中している。 |
| Introduction | 序文 |
| Scale was founded in 2016, and since that time has powered nearly every AI innovation. From our earliest days working with the leading autonomous vehicle companies, to our work today with the leading frontier AI labs and governments around the world, we have always been on the forefront of innovation. Our role in this critical ecosystem provides us a unique opportunity to understand how to build high quality AI systems, powered by the worldʼs best data. | Scaleは2016年に設立され、以来、ほぼすべてのAIイノベーションを支援してきた。自律走行車の大手企業との初期の仕事から、世界の主要なフロンティアAIラボや政府との今日の仕事まで、我々は常にイノベーションの最前線にいる。この重要なエコシステムにおける我々の役割は、世界最高のデータを活用した高品質のAIシステムを構築する方法を理解するユニークな機会をプロバイダに提供している。 |
| Our work is deeply personal to me as I have worked nearly my entire career at the intersection of AI and the Government. During my time as an Active Duty Marine, I had the privilege of helping to stand up the Joint Artificial Intelligence Center where I established the Joint Warfighting National Mission Initiative and led project Gargoyle, which focused on deploying Computer Vision for enhancing force protection, and developing the data pipelines necessary to support airborne autonomy. This work enabled me to see firsthand the challenges and struggles associated with the DODʼs implementation of AI. | AIとガバナンスの交差点でキャリアのほぼすべてを費やしてきた私にとって、私たちの仕事は非常に個人的なものだ。現役海兵隊員時代には、統合人工知能センターの立ち上げを支援する機会に恵まれ、統合戦闘国家ミッション・イニシアティブを設立し、戦力保護を強化するためのコンピュータ・ビジョンの展開と空中自律性をサポートするために必要なデータ・パイプラインの開発に焦点を当てたプロジェクトGargoyleを率いた。この仕事を通じて、国防総省がAIを導入する際の課題や苦労を目の当たりにすることができた。 |
| The global race is on and the Chinese Community Party is running full steam ahead to win | 世界的な競争は始まっており、中国共産党は勝つために全力疾走している |
| This hearing comes at a critical time for the future of AI leadership. Over the past few years, no single topic has dominated global discussions like AI and itʼs clear that the governments who implement and deploy AI the fastest will create asymmetric deterrents and advantages over their adversaries. Around the world, we are currently seeing many countries look to do this, but no two are racing ahead faster than the United States and China. | この公聴会は、AIリーダーシップの将来にとって重要な時期に開催された。過去数年間、AIほど世界的な議論を席巻したトピックはなく、AIを最も早く導入・展開するガバナンスが、敵対国に対して非対称な抑止力と優位性を生み出すことは明らかだ。現在、世界中で多くの国がAIを導入しようとしているが、米国と中国ほど早くAIを導入しようとしている国はない。 |
| Prior to looking at what the United States must do to win, itʼs important to analyze where things stand today. AI is made up of three main pillars—compute, data, and algorithms. More than one year ago, the United States was clearly ahead on all three. However, today that is no longer the case. Advancements from China, most notably with the launch of Deepseek, have shown that they have closed the gap. From Scaleʼs perspective, today, China is leading on data, we are tied on algorithms, while the United States remains ahead on compute. Itʼs clear that the race is neck and neck. | 米国が勝つために何をすべきかを考える前に、現在の状況を分析することが重要だ。AIは計算、データ、アルゴリズムの3本柱で構成されている。1年以上前、米国はこの3つすべてにおいて明らかに優位に立っていた。しかし、今日ではもはやそうではない。中国の進歩、特にDeepseekの立ち上げは、その差を縮めたことを示している。Scaleの観点では、今日、中国はデータでリードし、我々はアルゴリズムで並んでいる。競争が拮抗しているのは明らかだ。 |
| In order to compete more aggressively, the CCP has implemented a whole of country approach, utilizing its government, industry, and military to superdrive its pursuit of becoming the global standard for AI. From an investment standpoint, and for the first time in history, China is benchmarking AI investments off of leading tech companies and not the United States government. | より積極的に競争するために、中国共産党は政府、産業界、軍を活用し、AIの世界標準になることを追求する国全体のアプローチを実施している。投資の観点からは、歴史上初めて、中国は米国政府ではなく大手ハイテク企業をベンチマークとしてAI投資を行っている。 |
| When it comes to building out their data pipeline, China is sparring no expense. Last year, our analysis of publicly available materials found that China spent at least $1.2 billion dollars on data labeling alone. Additionally, as part of Chinaʼs AI plus initiative, the government established data labeling centers around the country with the lion's share of this work supporting public sector applications. In fact in May 2024, the National Data Bureau announced seven data labeling industrial bases will undertake the construction of specialized data annotation bases[1]: Chengdu (Sichuan), Shenyang (Liaoning), Hefei (Anhui), Changsha (Hunan), Haikou (Hainan), Baoding (Hebei), and Datong (Shanxi).[2] In addition to setting up these hubs, they have also begun to heavily subsidize data labeling through vouchers, and other forms of tax breaks.[3] | データパイプラインの構築に関して、中国は費用を惜しまない。昨年、公開されている資料を分析したところ、中国はデータ・ラベリングだけに少なくとも12億ドルを費やしていることがわかった。さらに、中国のAIプラス・イニシアチブの一環として、政府は各地にデータ・ラベリング・センターを設立し、その大部分は公共部門のアプリケーションをサポートしている。実際、2024年5月、国家データ局は7つのデータラベリング産業基地が専門的なデータ注釈基地を建設すると発表した[1]: 成都(四川省)、瀋陽(遼寧省)、合肥(安徽省)、長沙(湖南省)、海口(海南省)、保定(河北省)、大同(山西省)である[2]。これらのハブを設立するだけでなく、バウチャーやその他の税制優遇措置を通じて、データラベリングに多額の補助金を出し始めている[3]。 |
| Beyond data, the United States has been stuck in a research and pilot mindset, while the CCP started to rapidly increase their investment in AI research and fielding AI capabilities. In the first half of 2024 alone, the Peopleʼs Liberation Army issued 81 contracts—up from only one contract in 2023—with Large Language Model companies to rapidly grow their capabilities.[4] | 中国共産党がAI研究とAI能力への投資を急速に増やし始めたのに対して、米国はデータを超えて、研究と試験的な考え方から抜け出せていない。2024年上半期だけで、人民解放軍は81の契約を締結し、2023年には1つしか締結していなかった大型言語モデル企業と契約し、能力を急速に向上させた[4]。 |
| President Trump rightly called the proliferation of Deepseek a “wake up call[5]ˮ and so the question remains, how should the United States respond? | トランプ大統領はDeepseekの拡散を「警鐘[5]」と呼ぶにふさわしく、米国はどのように対応すべきかという疑問が残る。 |
| Winning requires immediate action and three key first steps | 勝利のためには、早急な行動と3つの重要な第一歩を踏み出す必要がある。 |
| In order to win, the US needs to unleash our technology to the Warfighter at an unprecedented pace. As China has correctly identified, the best way to leverage AI is to start using it. While that may seem obvious, and despite the uneven playing field, the United States Government has fallen behind China when it comes to military use of AI. | 勝利するためには、米国は前例のないスピードで、わが国の技術を戦闘員に解放する必要がある。中国が正しく認識しているように、AIを活用する最善の方法は、AIを使い始めることだ。それは当然のことのように思えるかもしれないが、そして、不平等な競争条件にもかかわらず、米国政府はAIの軍事利用に関しては中国に遅れをとっている。 |
| In our analysis, when it comes to adopting and implementing AI, the Department of Defense has not launched a new AI program in nearly a decade.[6] For the past four years, DOD leadership spent countless hours developing potential use cases for AI, researching and piloting AI systems, and even putting out guidance to stop users from utilizing AI.[7] But with limited widescale adoption. In contrast, China is rapidly deploying AI systems and there could be serious consequences for United States national security. | 我々の分析では、AIの採用と導入に関して言えば、国防総省はこの10年近く、新しいAIプログラムを立ち上げていない[6]。過去4年間、国防総省の指導部は、AIの潜在的なユースケースの開発、AIシステムの研究と試験運用に数え切れないほどの時間を費やし、ユーザーのAI活用を阻止するためのガイダンスまで出している[7]が、広範な採用は限られている。これとは対照的に、中国はAIシステムを急速に展開しており、米国の国家安全保障に深刻な影響を及ぼす可能性がある。 |
| Fortunately, we still have time to catch up but the window is closing. If we want to win, we must not only buy into a vision, but also start to take clear and decisive actions on it. This includes: | 幸いなことに、我々にはまだ追いつく時間はあるが、その窓は閉ざされつつある。勝ちたいのであれば、ビジョンを理解するだけでなく、明確かつ断固とした行動を起こさなければならない。これには以下が含まれる: |
| 1. Put the right AI foundation in place | 1. 正しいAI基盤を整える |
| To start and despite being nearly 30 years into the DODʼs AI journey[8], it still lacks the foundational pieces necessary to build, scale and implement widespread AI solutions. This needs to change, and we must put in the elements necessary to expand the use of AI programs. This starts with data. The DOD has long recognized the need to prioritize AI-ready data, even calling it a national priority, but there has been little action taken to implement this priority. | そもそも、国防総省がAIを導入してから30年近くが経過しているにもかかわらず[8]、国防総省には、広範なAIソリューションを構築、拡張、導入するために必要な基礎的要素がまだ欠けている。この状況を変え、AIプログラムの利用を拡大するために必要な要素を導入する必要がある。これはデータから始まる。国防総省は長い間、AIに対応したデータを優先する必要性を認識しており、国家的な優先事項とさえ呼んでいるが、この優先事項を実行に移すための行動はほとんど取られていない。 |
| To truly prioritize and execute a strategy to have AI-ready data it requires two main aspects—AI-ready data requirements and enterprise-wide AI data infrastructure. As discussed above, China has recognized that winning on AI relies on a runaway data advantage. In 2024 alone, the DOD spent under $100 million on AI-ready data whereas China spent over $1 billion.[9] The United States government is the worldʼs leading producer of both quantity and diverseness of data, but nearly all of this data is going unused with AI. If the US wants to turn our data into an advantage this must change. | 真にAI対応データの優先順位を決め、戦略を実行するためには、2つの主要な側面、すなわちAI対応データ要件とエンタープライズ全体のAIデータインフラが必要である。上述したように、中国はAIで勝つためにはデータの優位性の暴走が不可欠であることを認識している。2024年だけでも、国防総省がAI対応データに費やした金額は1億ドル以下であったのに対し、中国は10億ドル以上を費やしている[9]。米国政府はデータの量と多様性の両方で世界有数の生産国であるが、このデータのほぼすべてがAIで使われなくなっている。もし米国が我々のデータを強みに変えたいのであれば、この状況を変えなければならない。 |
| In multiple National Defense Authorization Acts (NDAA) this Committee has directed, suggested and tried to require the DOD to prioritize AI ready data requirements, but itʼs clear that more must be done. | 複数の国防認可法(NDAA)において、当委員会は国防総省にAIに対応したデータ要件の優先順位をつけるよう指示、提案、要求しようとしてきたが、もっと多くのことをしなければならないことは明らかだ。 |
| In parallel to implementing the requirement, the Department should also set up enterprise-wide AI data infrastructure. This commercial best practice ensures that AI programs are developed in the most efficient and cost effective manner. The leading tech companies have long realized this requirement for effectiveness and for that reason China is mirroring the same approach. To date, the Department of Defense has not yet taken the steps necessary to put in place this capability in a meaningful way and this yearʼs NDAA presents a unique opportunity to change that. | 要件の実施と並行して、国防総省はエンタープライズ規模のAIデータ・インフラを構築すべきである。この商業的なベストプラクティスは、AIプログラムが最も効率的で費用対効果の高い方法で開発されることを保証する。一流のハイテク企業は以前から、この効果的な要件に気づいており、そのため中国も同じアプローチを採用している。今日まで、国防総省はこの能力を有意義な形で導入するために必要な措置をまだ講じておらず、今年のNDAAはそれを変えるまたとない機会を提示している。 |
| 2. Shift our mindset to be implementation-first | 2. 実装を第一とする考え方に転換する |
| Once the right data foundation is in place, the DOD must also look to build out and implement an AI strategy that will best position the United States to win. As stated above, the DOD has not launched and scaled a new AI program in nearly a decade instead resorting to a pilot and research mindset. In the early days of AI, this made sense to better understand where and how it best made sense to implement systems, but if the United States is going to win, we must shift into an implementation-first mindset. | 適切なデータ基盤が整えば、国防総省は米国を勝利に導くAI戦略を構築し、実施することも視野に入れなければならない。上述したように、国防総省はこの10年近く、新しいAIプログラムを立ち上げ、規模を拡大することなく、試験的・研究的な考え方に頼ってきた。AIの黎明期には、どこに、どのようにシステムを導入するのが最も合理的かをよりよく理解するために、これは理にかなっていたが、米国が勝つためには、導入第一の考え方にシフトしなければならない。 |
| In order for this to occur, Scale believes that the DOD must first set a north star related to robust AI implementation in no more than 5 years. This should focus on agentic applications such as agentic warfare and would provide a “top right of the curveˮ vision and enable a tangible multi-year plan to reach it. | そのためには、国防総省はまず、5年以内に強固なAI実装に関連する北極星を設定しなければならないとスケールは考えている。これは、エージェント戦のようなエージェント的アプリケーションに焦点を当てるべきであり、「曲線の右上」のビジョンを提供し、それに到達するための具体的な複数年計画を可能にするものである。 |
| Agentic warfare presents the best opportunity for the United States to build asymmetric advantages given that it will eventually be able to complement humanʼs ability to process information. For example, AI agents could drastically improve our offensive and defensive cyber capabilities as well as intelligence gathering process by constantly monitoring for new information and immediately relaying that information to a human overseer. These examples are possible today and would provide immediate impact. Scale is actively working on deploying the first instance of this[10] in the INDOPACCOM through DIUʼs Thunderforge effort[11], but if the United States wants to beat China, this approach must be implemented through the entirety of the Department of Defense. | エージェント戦争は、最終的には人間の情報処理能力を補完できるようになることから、米国が非対称的な優位性を構築する絶好の機会となる。例えば、AIエージェントは、常に新しい情報を監視し、その情報を即座に人間の監督者に伝えることで、情報収集プロセスだけでなく、攻撃・防御サイバー能力を劇的に改善することができる。このような例は今日でも可能であり、即座にインパクトを与えるだろう。Scaleは、DIUのThunderforgeの取り組み[11]を通じて、INDOPACCOMにこの最初の事例[10]を展開することに積極的な取り組みを行っているが、米国が中国に勝ちたいのであれば、このアプローチは国防総省全体で実施されなければならない。 |
| 3. Ensure our acquisition system no longer slows us down | 3. 取得システムがもはや我々を減速させないようにする |
| AI is unique in that it resembles software, but needs to be maintained like hardware. The reason for this is due to the nature of how it must be trained and maintained. While this has long been recognized, it is clear that it presents challenges for the DOD given that it doesnʼt neatly fit into the legacy acquisition system. Congress took a strong first step to fixing this in last yearʼs NDAA by passing a requirement that the DOD must begin to break out the AI elements of programs into individual budget lines in future Presidentʼs Budgets. While there has not been enough time for the DOD to implement this requirement yet, it is critical that Congress continues to provide oversight to push the DOD to do so as quickly as possible. | AIはソフトウェアに似ているが、ハードウェアのようにメンテナンスする必要があるという点でユニークだ。その理由は、どのように訓練し、維持しなければならないかという性質にある。このことは以前から認識されていたことではあるが、レガシーな取得システムにきちんと適合していないことから、国防総省が課題を抱えていることは明らかである。議会は昨年のNDAAで、DODは将来の大統領予算において、プログラムのAI要素を個々の予算枠に分割することを開始しなければならないという要件を可決し、これを解決するための強力な第一歩を踏み出した。DODがこの要件を実施するにはまだ十分な時間がないが、議会がDODにできるだけ早く実施させるよう監視を続けることが重要である。 |
| Changing the Program, Planning, Budgeting and Execution (PPBE) process is just the first step and more must be done. For that reason, Scale strongly supports provisions in the FoRGED Act[12] which attempt to enable better and faster acquisition of emerging technologies like AI. | プログラム、計画、予算編成、実行(PPBE)のプロセスを変更することは最初の一歩に過ぎず、もっと多くのことを行わなければならない。そのためScaleは、FoRGED法[12]にある、AIのような新興技術のより良い、より迅速な取得を可能にしようとする条項を強く支持している。 |
| In addition to the FoRGED Act, Scale also believes that we need to continue to look at finding ways to break through the challenges of multi-year budgeting. This challenge has been well documented and long discussed when it comes to the DODʼs ability to acquire emerging technologies, but itʼs clearly still holding back the DODʼs implementation of AI. For example, ChatGPT launched in November 2022[13] but by then the Presidentʼs FY2024 budget had been nearly finalized by the DOD. This means that there was no clear ability for the DOD to have adequate funding for acquiring generative AI until their FY2025 budget request which just passed Congress this past month—roughly 3 years after the launch of one of, if not the, most transformative technologies of our time. | FoRGED法に加え、Scaleは、複数年予算編成の課題を打開する方法を見出すことを引き続き検討する必要があると考えている。この課題は、国防総省が新興技術を獲得する能力に関しては、よく文書化され、長い間議論されてきたが、国防総省のAIの実装をいまだに妨げているのは明らかだ。例えば、ChatGPTは2022年11月に開始されたが[13]、その時点では大統領の2024年度予算は国防総省によってほぼ決定されていた。つまり、今月議会を通過したばかりの2025年度予算要求まで、国防総省が生成的AIを獲得するための十分な資金を確保する明確な能力はなかったということだ。 |
| CONCLUSION | おわりに |
| Thank you again for the opportunity to be here to discuss what is needed for the DOD to win on AI. Scale looks forward to continuing to work with this Committee on taking the bold and decisive actions needed to ensure this happens and I look forward to your questions. | 国防総省がAIで勝利するために何が必要かを議論する機会をいただき、改めて感謝する。スケールは、これを確実に実現するために必要な大胆かつ果断な行動をとるために、本委員会と引き続き協力していくことを楽しみにしており、皆さんの質問を楽しみにしている。 |
脚注...
[1] See, https://www.globaltimes.cn/page/202404/1309974.shtml
[2] See, https://www.cnfin.com/yw-lb/detail/20240525/4053351_1.html#:~:text=%E2%80%A2%E6%8D%AE%E5%9B%BD%E5%AE%B6%E6%95%B0%E6%8D%AE%E5%B1%80%E5%85%AC%E4%BC%97%E5%8F%B7%E6%B6%88%E6%81%AF%EF%BC%8C5%E6%9C%8824%E6%97%A5%E4%B8%8B%E5%8D%88%EF%BC%8C%E5%9B%BD%E5%AE%B6%E6%95%B0%E6%8D%AE%E5%B1%80%E5%85%9A%E7%BB%84%E4%B9%A6%E8%AE%B0%E3%80%81%E5%B1%80%E9%95%BF%E5%88%98%E7%83%88%E5%AE%8F%E5%9C%A8%E7%AC%AC%E4%B8%83%E5%B1%8A%E6%95%B0%E5%AD%97%E4%B8%AD%E5%9B%BD%E5%B3%B0%E4%BC%9A%E4%B8%BB%E8%AE%BA%E5%9D%9B%E4%B8%8A%E5%8F%91%E5%B8%83%E4%BA%86%E6%89%BF%E6%8B%85%E6%95%B0%E6%8D%AE%E6%A0%87%E6%B3%A8%E5%9F%BA%E5%9C%B0%E5%BB%BA%E8%AE%BE%E4%BB%BB%E5%8A%A1%E7%9A%84%E5%9F%8E%E5%B8%82%E5%90%8D%E5%8D%95%EF%BC%8C%E5%88%86%E5%88%AB%E6%98%AF%EF%BC%9A%E5%9B%9B%E5%B7%9D%E7%9C%81%E6%88%90%E9%83%BD%20%E5%B8%82%E3%80%81%E8%BE%BD%E5%AE%81%E7%9C%81%E6%B2%88%E9%98%B3%E5%B8%82%E3%80%81%E5%AE%89%E5%BE%BD%E7%9C%81%E5%90%88%E8%82%A5%E5%B8%82%E3%80%81%E6%B9%96%E5%8D%97%E7%9C%81%E9%95%BF%E6%B2%99%E5%B8%82%E3%80%81%E6%B5%B7%E5%8D%97%E7%9C%81%E6%B5%B7%E5%8F%A3%E5%B8%82%E3%80%81%E6%B2%B3%E5%8C%97%E7%9C%81%E4%BF%9D%E5%AE%9A%E5 %B8%82%E3%80%81%E5%B1%B1%E8%A5%BF%E7%9C%81%E5%A4%A7%E5%90%8C%E5%B8%82%E3%80%82%E4%B8%83%E4%B8%AA%E5%9F%8E%E5%B8%82%E6%89%BF%E6%8E%A5%E4%BA%86%E6%95%B0%E6%8D%AE%E6%A0%87%E6%B3%A8%E5%9F%BA%E5%9C%B0%E5%BB%BA%E8%AE%BE%E4%BB%BB%E5%8A%A1%E4%B9%A6%E3%80%82
[3] See, https://babl.ai/china-unveils-comprehensive-plan-to-boost-data-labeling-industry-growth/
[4] See, https://www.scmp.com/tech/tech-trends/article/3267866/chinas-public-sector-accelerates-ai-adoption-202 4-zhipu-and-iflytek-emerge-winners
[5] See, https://www.nbcnews.com/tech/innovation/trump-china-deepseek-ai-wake-call-rcna189526
[6] See, https://www.defense.gov/News/News-Stories/Article/Article/1254719/project-maven-to-deploy-computer-al gorithms-to-war-zone-by-years-end/
[7] See, https://www.doncio.navy.mil/ContentView.aspx?ID=16442
[8] See, https://militaryembedded.com/ai/machine-learning/artificial-intelligence-timeline#:~:text=1991%3A,to%20s olve%20other%20logistical%20problems.
[9] Per Scale’s internal analysis of open source reporting
[10] See, https://scale.com/blog/thunderforge-ai-for-american-defense
[11] See, https://scale.com/blog/thunderforge-ai-for-american-defense
[12] See, https://www.congress.gov/bill/118th-congress/senate-bill/5618
[13] See, https://en.wikipedia.org/wiki/ChatGPT
2. Dave Ferris
| Written Testimony of Dave Ferris | デイブ・フェリスの証言 |
| Head of Global Public Sector, Cohere | Cohere、グローバル・パブリック・セクター責任者 |
| Before the Senate Armed Services Committee, Subcommittee on Cybersecurity | 上院軍事委員会サイバーセキュリティ小委員会にて |
| 25-Mar-25 | 2025年3月25日 |
| Introduction | 序文 |
| Chairman Rounds, Ranking Member Rosen, and distinguished members of the subcommittee: thank you for the opportunity to testify today. My name is Dave Ferris, and I act as Cohere's Head of Global Public Sector. Prior to this role, I served for nearly 17 years in the Canadian Armed Forces, including several years on the Joint Staff at the Pentagon, and held various roles in private industry focused around the use of technology in aerospace, defense, and intelligence. | ラウンズ委員長、ローゼン委員長、そして小委員会の皆さん、本日は証言の機会をいただきありがとう。私の名前はデイブ・フェリスで、Cohereのグローバル・パブリック・セクターの責任者を務めている。この職務に就く前は、ペンタゴンの統合参謀本部での数年間を含め、カナダ軍に17年近く勤務し、民間企業では航空宇宙、防衛、インテリジェンスにおける技術利用を中心にさまざまな職務を経験した。 |
| Cohere is a leading artificial intelligence (AI) company that builds state-of-the-art foundation models and agentic systems exclusively for enterprise and government use; with a focus on privacy, security, multilingual capability, and verifiability. Our team includes several AI pioneers – from our CEO & co-founder Aidan Gomez, who helped invent the transformer architecture underpinning today's advanced language models; to our Director of Machine Learning, Patrick Lewis, who invented Retrieval Augmented Generation (RAG); and our VP of Research, Sara Hooker, who has pioneered efficiency and multilingual techniques in AI. We combine deep technical expertise with a practical, mission-driven mindset. We partner with allied government agencies and leading global companies such as Oracle, RBC, LG, and Fujitsu, focusing on seamless integration, deep customization, and accessible solutions that deliver immediate practical value. | Cohereは、プライバシー・セキュリティ・多言語能力・検証可能性に重点を置き、エンタープライズおよび政府専用に最先端の基礎モデルとエージェント・システムを構築する人工知能(AI)のリーディング・カンパニーである。当社のチームには、今日の高度な言語モデルを支えるトランスフォーマー・アーキテクチャの発明に貢献したCEO兼共同設立者のエイダン・ゴメス、検索拡張生成(RAG)を発明した機械学習ディレクターのパトリック・ルイス、AIにおける効率性と多言語技術のパイオニアである研究担当副社長のサラ・フッカーなど、AIのパイオニアが何人もいる。私たちは、深い技術的専門知識と実践的で使命感あふれる考え方を兼ね備えている。私たちは、政府機関やオラクル、RBC、LG、富士通などの大手グローバル企業と提携し、シームレスな統合、深いカスタマイズ、すぐに実用的な価値を提供するアクセス可能なソリューションに重点を置いている。 |
| Cohere strives to be a trusted partner in the national security community. We are proud to support the United States and its allies in leveraging AI to strengthen national security across all of its missions. We focus not just on inventing novel AI models in a lab, but on operationalizing AI – integrating it into real missions, under real-world constraints, in a manner that delivers tangible value. We understand the unique needs of the defense community and are committed to ensuring our AI solutions are robust, trustworthy, and ready for use in these environments. | Cohereは、国家安全保障コミュニティにおいて信頼されるパートナーとなるべく努力している。当社は、米国とその同盟国がAIを活用して国家安全保障を強化することを、そのあらゆる任務にわたって支援できることを誇りに思う。私たちは、研究室で斬新なAIモデルを発明するだけでなく、AIの運用化、つまり現実の制約のもとで、目に見える価値を提供する方法で、実際の任務にAIを統合することに重点を置いている。われわれは、防衛コミュニティ特有のニーズを理解しており、われわれのAIソリューションが堅牢で、信頼でき、こうした環境ですぐに使用できることを保証することに全力を注いでいる。 |
| In today’s testimony, I'd like to highlight four topics of focus: 1) How AI can support the Department of Defense's (DoD) mission through lessons we've learned from cyber defense deployments, 2) Key Technical Considerations for AI in Defense, 3) Lessons from the DoD’s deployment of technologies in the past, and 4) Steps Congress can take to accelerate responsible AI adoption in defense. | 本日の証言では、1)サイバー防衛の展開から学んだ教訓を通じて、AIが国防総省(DoD)の任務をどのように支援できるか、2)防衛におけるAIの主な技術的検討事項、3)DoDの過去の技術展開からの教訓、4)防衛における責任あるAIの採用を加速するために議会が講じることができる措置、の4つのトピックに焦点を当てたい。 |
| 1. How AI can Support the Department of Defense’s Mission | 1. AIは国防総省の任務をどのように支援できるか |
| AI is an umbrella term used frequently to refer to many different technical systems with distinct capabilities - all working in a hybrid AI ecosystem. Recognizing this distinction is important when discussing these systems in context. Machine Learning (ML) systems refer to the wider category of systems that apply statistical learning techniques to learn patterns from data and make predictions or decisions - this includes things like recommendation algorithms and anomaly detection systems. Large Language Models (LLMs) refer to systems built around large-scale language data to understand, generate content, and perform tasks. While Cohere makes LLMs and agentic systems for augmentation and automation, we posit on broader AI trends, including ML systems, in this testimony. | AIは、ハイブリッドAIのエコシステムで動作する、明確な能力を持つ多くの異なる技術システムを指すために頻繁に使用される包括的な用語である。この違いを認識することは、これらのシステムを文脈に沿って議論する際に重要である。機械学習(ML)システムは、データからパターンを学習し、予測や意思決定を行うために統計的学習技術を適用するシステムのより広いカテゴリーを指す。大規模言語モデル(Large Language Models:LLM)は、大規模な言語データに基づいて構築され、理解、コンテンツ生成、タスク実行を行うシステムを指す。Cohereは、LLMと増強と自動化のためのエージェント・システムを製造しているが、この証言では、MLシステムを含むより広範なAIのトレンドについて述べる。 |
| AI is transforming cybersecurity, intelligence, and general defense operations, and holds enormous promise for the DoD as it confronts rapidly evolving threats. Having worked with high security cyber defense government clients on adopting AI, Cohere has gleaned several insights into how AI can best augment the DoD’s mission. | AIは、サイバーセキュリティ、インテリジェンス、一般的な防衛活動を変革しつつあり、急速に進化する脅威に立ち向かう国防総省にとって大きな可能性を秘めている。AIを採用するにあたり、安全保障の高いサイバー防衛政府のクライアントと協力してきたガバナンスは、AIが国防総省の任務をどのように補強できるかについて、いくつかの知見を得た。 |
| One clear lesson is that AI can dramatically improve pattern recognition and anomaly detection across the vast datasets analyzed by defense and intelligence agencies. In cybersecurity operations, for example, ML systems can comb through millions of network events to find the proverbial needle in a haystack – a suspicious pattern of behavior or a subtle anomaly indicating a cyber intrusion. These models can learn normal baseline activity and continuously scan for outliers, giving analysts a powerful tool to detect advanced threats (such as nation-state hackers using novel techniques) much earlier than manual methods. Similarly, LLM-driven systems can correlate disparate indicators and alert human operators to threats that would have otherwise gone unnoticed. This outcome can measurably improve threat detection, with AI providing a second set of eyes (which are faster and tireless) across complex networks. | 明確な教訓のひとつは、防衛・情報局が分析する膨大なデータセットにおいて、AIがパターン認識と異常検知を劇的に改善できるということだ。例えば、サイバーセキュリティ業務では、MLシステムは何百万ものネットワーク・イベントを調べ上げ、干し草の山の中の針、つまり不審な行動パターンやサイバー侵入を示す微妙な異常を見つけ出すことができる。これらのモデルは、通常のベースラインの活動を学習し、異常値を継続的にスキャンすることができるため、アナリストは高度な脅威(斬新なテクニックを使用する国家レベルのハッカーなど)を手作業よりもはるかに早く検知する強力なツールを得ることができる。同様に、LLM駆動型システムは、異種の指標を相関させ、そうでなければ気づかなかったであろう脅威を人間のオペレーターに警告することができる。この結果、複雑なネットワーク上でAIが第二の目(より迅速で疲れを知らない)を提供することで、脅威検知を飛躍的に向上させることができる。 |
| Similarly, in the intelligence analysis realm, LLMs have proven invaluable for sorting through and synthesizing huge volumes of multi-source information. Intelligence analysts are often inundated with so much data – from satellite imagery to intercept transcripts – impossible for any team of humans to thoroughly examine. AI helps by rapidly categorizing and triaging this data. For instance, computer vision models - including multimodal foundation models - can scan video feeds and flag objects or activities of interest for human review, turning hours of raw footage into a shorter list of likely threats. Language AI can automatically translate and summarize foreign communications, highlighting potential security-relevant content among thousands of messages. By improving pattern recognition and triage, AI allows human experts to focus their attention where it matters most – on the truly hard cases and strategic judgments – while machine assistants handle the initial heavy lift of data processing. | 同様に、情報分析の分野でも、LLMは膨大な量のマルチソース情報を選別し、統合する上で非常に有用であることが証明されている。インテリジェンス・アナリストは、衛星画像から傍受記録まで、人間のチームでは徹底的に調査することが不可能なほど多くのデータが氾濫していることが多い。AIはこのようなデータを迅速に分類し、選別することで役立っている。例えば、マルチモーダル基礎モデルを含むコンピュータ・ビジョン・モデルは、ビデオ・フィードをスキャンし、人間のレビューのために関心のあるオブジェクトや活動にフラグを立てることができる。言語AIは、海外とのコミュニケーションを自動的に翻訳・要約し、何千ものメッセージの中から安全保障に関連する可能性のあるコンテンツをハイライトすることができる。パターン認識とトリアージを改善することで、AIは人間の専門家が最も重要な部分、つまり真に困難なケースや戦略的判断に注意を集中できるようにする。 |
| Another key insight from our work is how multilingual and cultural breadth in AI systems can advance national security. Threats and relevant intelligence can emerge in any language or region, yet many AI models historically have been skewed toward English and a few major languages. This creates blind spots. | 我々の研究から得られたもうひとつの重要な洞察は、AIシステムの多言語化と文化的な広がりが、いかに国家安全保障を向上させるかということである。脅威や関連するインテリジェンスはどの言語や地域でも出現する可能性があるが、多くのAIモデルは歴史的に英語といくつかの主要言語に偏っている。これは盲点を生む。 |
| We've found that adopting AI in national security contexts often requires closing this "language gap", and Cohere has developed highly multilingual language models, covering 23+ languages. Whether it's analyzing in Pashto, scanning open-source reports in Mandarin, or assisting a humanitarian mission in French or Spanish, AI needs to understand the content. Multilingual AI models dramatically expand the intelligence community's reach by enabling automated analysis of text or speech in virtually any language of interest. We've also learned that incorporating diverse languages and dialects into model training not only broadens coverage, but also improves the overall safety and accuracy of AI outputs. In practice, a multilingual model is less likely to misinterpret critical nuances, which is crucial when informing high-stakes national security decisions. Thus, the DoD and the IC should continue to prioritize AI that reflects the linguistic diversity of the real world so that our technologies can better execute any mission set, anywhere in the world. | 私たちは、国家安全保障の文脈でAIを採用するには、しばしばこの「言語ギャップ」を埋める必要があることを発見し、Cohereは23以上の言語をカバーする高度な多言語言語モデルを開発した。パシュトゥー語での分析であれ、北京語でのオープンソースレポートのスキャンであれ、フランス語やスペイン語での人道支援であれ、AIはコンテンツを理解する必要がある。多言語AIモデルは、事実上あらゆる言語のテキストや音声の自動分析を可能にすることで、インテリジェンス・コミュニティのリーチを劇的に広げる。また、モデルのトレーニングに多様な言語や方言を取り入れることで、カバー範囲が広がるだけでなく、AI出力の全体的な安全性と精度が改善されることも分かっている。実際、多言語モデルは重要なニュアンスを誤認する可能性が低く、これは国家安全保障上の重大な意思決定に情報を提供する際に極めて重要である。したがって、国防総省と情報通信研究機構(IC)は、実世界の言語的多様性を反映したAIを引き続き優先させるべきである。 |
| We have also observed that successful AI adoption is not just about the technology – it requires adapting workflows and training personnel to use AI insights effectively. Creating models and AI tools that can be easily understood by the end-user is very important – if a Soldier, Airman, Marine, or intelligence analyst cannot easily utilize the tool, it has very little use. Even a highly accurate model can underwhelm if analysts aren't sure how to interpret its outputs or if it isn't integrated into their existing tools. Effective programs have assigned AI "agents" to work alongside analysts, with user-friendly interfaces and clear visualization of why a modeI flagged something. Over time, human operators grow to trust the AI as they see its utility, and they learn to leverage it to augment their expertise (rather than being replaced by it). This human-machine teaming, where AI handles rote data processing and humans apply judgment, consistently produces better outcomes than either alone. In cyber defense, AI might cluster thousands of alerts into a handful of high-priority incident reports where human analysts then investigate those summaries. The feedback loop – analysts validating AI findings and feeding results back to refine the model – is key to continuous improvement. Finally, national security agencies understandably demand rigorous testing (including red-teaming and scenario-based exercises) before deploying AI operationally. We’ve learned the importance of robust testing and validation of AI in these contexts, but each use case and threshold is different, making it essential that personnel understand the capabilities and the explicit workflows they wish to adapt AI to. | また、AIの導入を成功させるためには、テクノロジーだけでなく、ワークフローを適応させ、AIの知見を効果的に活用できるように要員を訓練する必要がある。エンドユーザーが容易に理解できるモデルやAIツールを作成することは非常に重要である。兵士、飛行士、海兵隊員、情報分析官がツールを容易に利用できなければ、そのツールはほとんど役に立たない。精度の高いモデルであっても、アナリストがその出力をどう解釈すればいいのか分からなかったり、既存のツールに統合されていなかったりすれば、圧倒されることになる。効果的なプログラムでは、AI 「エージェント 」をアナリストの傍らに配置し、ユーザーフレンドリーなインターフェイスと、モードIがフラグを立てた理由を明確に視覚化できるようにしている。時間の経過とともに、人間のオペレーターはAIの有用性を理解するにつれて信頼するようになり、(AIに取って代わられるのではなく)専門知識を補強するためにAIを活用することを学ぶ。このような人間と機械のチーミングは、AIが定型的なデータ処理を行い、人間が判断を下すというもので、どちらか一方だけよりも常に良い結果を生み出す。サイバー防衛では、AIは何千ものアラートを一握りの優先度の高いインシデント・レポートにまとめ、人間のアナリストがそのサマリーを調査する。アナリストがAIの調査結果を妥当性確認し、結果をフィードバックしてモデルを改良するというフィードバック・ループは、継続的改善の鍵となる。最後に、国家安全保障局は当然のことながら、AIを運用展開する前に(レッドチームやシナリオベースの演習を含む)厳格なテストを要求する。我々は、このような状況におけるAIの強固なテストと妥当性確認の重要性を学んだが、それぞれのユースケースと閾値は異なるため、担当者はAIを適応させたい能力と明確なワークフローを理解することが不可欠である。 |
| AI is also poised to help U.S. cyber and intelligence personnel counter new threats posed by adversarial use of AI. We must assume that competitor nations and malicious actors are already employing AI-enabled cyber capabilities – from automating their intrusion attempts to using AI to generate deceptive deepfakes, more convincing phishing lures and create information warfare. Indeed, the Pentagon's National Defense Strategy warned that state competitors and even non-state actors will have access to emerging technologies like AI, potentially eroding the U.S. military's traditional advantage. In the cyber domain, this means our adversaries could leverage AI to find software vulnerabilities faster, to tailor attacks that evade detection, or to deploy autonomous malware that adapts on the fly. To stay ahead of these AI-augmented threats, DoD must likewise incorporate AI across its cyber defenses. For instance, AI can help identify attack toolkits or behaviors that indicate when an adversary might be using machine-driven methods, allowing us to devise countermeasures. AI-enabled threat intelligence can also predict an enemy's next move by analyzing trends, and help our cyber warriors prepare accordingly. AI must be central to the next generation of cyber operations – both offensive and defensive – and it is imperative that DoD embrace these tools to defend our networks, protect critical infrastructure, and maintain decision superiority over any adversary leveraging AI against us. | AIはまた、敵対的なAIの利用によってもたらされる新たな脅威に対抗するために、米国のサイバー脅威および諜報要員を支援する態勢を整えている。競合国や悪意ある行為者は、侵入の自動化から、AIを使って欺瞞的なディープフェイクや、より説得力のあるフィッシング・ルアーを生成したり、情報戦を仕掛けたりすることまで、AIを活用したサイバー能力をすでに採用していると考えなければならない。実際、米国防総省の『国家防衛戦略』は、国家の競争相手や非国家主体までもがAIのような新興技術にアクセスできるようになり、米軍の伝統的な優位性が損なわれる可能性があると警告している。サイバー領域では、敵対勢力がAIを活用し、ソフトウェアの脆弱性をより早く発見したり、検知を回避する攻撃をカスタマイズしたり、その場で適応する自律型マルウェアを展開したりする可能性があることを意味する。このようなAIによって強化された脅威の一歩先を行くためには、国防総省も同様にサイバー防衛全体にAIを取り入れなければならない。例えば、AIは攻撃ツールキットや、敵が機械駆動型の手法を使用している可能性を示す行動を識別するのに役立ち、対策を練ることができる。また、AIを活用した脅威インテリジェンスは、傾向を分析することで敵の次の動きを予測し、それに応じてサイバー戦士が準備するのを助けることができる。攻めと守りの両面で、AIは次世代のサイバー作戦の中心となる必要があり、国防総省がこれらのツールを導入してネットワークを守り、重要インフラを保護し、AIを活用する敵対者に対して意思決定の優位性を維持することが不可欠である。 |
| In summary, AI can greatly enhance pattern recognition, multilingual understanding, and analytic efficiency for defense and intelligence, provided we integrate these tools thoughtfully – with attention to the data they're trained on, the way humans interact with them, and thorough validation to ensure they perform as intended under real-world conditions. | まとめると、AIはパターン認識、多言語理解、防衛と諜報のための分析効率を大幅に向上させることができる。ただし、これらのツールを思慮深く統合し、学習させるデータ、人間との対話方法、実世界の条件下で意図したとおりに動作することを確認するための妥当性確認に注意を払う必要がある。 |
| 2. Key Technical Considerations for AI in Defense | 2. 防衛分野におけるAIの主な技術的検討事項 |
| When evaluating AI solutions for defense applications, several critical factors deserve consideration beyond raw capability. | 防衛用途のAIソリューションを評価する際には、生の能力だけでなく、いくつかの重要な要素を考慮する必要がある。 |
| First, right-sizing models for specific operational contexts should be a priority. | 第一に、特定の作戦状況に適したモデルのサイズ設定が優先されるべきである。 |
| The AI industry as of late has been focused on scaling to ever-larger general purpose models, but defense environments frequently benefit more from specialized, optimized models designed for specific tasks. This means building the right model for the mission: models that are efficient, adaptable, low latency, and can be deployed in the field under real-world constraints. This has been a major area of focus for Cohere. Smaller, carefully tuned models (in the range of 7 billion parameters, compared to hundreds of billions of parameters) can deliver excellent performance without the enormous computational requirements of much larger systems. This approach allows models to run on limited hardware (such as tactical edge devices or classified on-premises servers) and to operate within the latency and power constraints of military use cases. Efforts to improve model efficiency are also key to keeping hardware requirements small for larger, more performant models. Our most recent large language model release, Command A, outperforms the largest state-of-the-art models in many enterprise-specific benchmarks while being 111 billion parameters - just one-sixth the size of similarly performing competitors - and only requires two GPUs to run (compared to 32 or more for larger models). | 最近のAI業界は、より大規模な汎用モデルへの拡張に注力しているが、防衛環境では、特定のタスクのために設計された専門的で最適化されたモデルから多くの恩恵を受けることが多い。つまり、効率的で、適応性が高く、レイテンシーが低く、実世界の制約のもとで実戦展開できるモデルである。これは、コヒーレにとって重要な分野である。小規模で入念に調整されたモデル(数千億のパラメータに対し、70億のパラメータの範囲)は、はるかに大規模なシステムのような膨大な計算量を必要とすることなく、優れた性能を発揮することができる。このアプローチにより、限られたハードウェア(戦術的なエッジ・デバイスや機密扱いのオンプレミス・サーバーなど)でモデルを実行し、軍事的なユースケースの待ち時間と電力の制約の中で動作させることができる。モデルの効率を改善する努力も、より大規模で高性能なモデルのハードウェア要件を小さく保つための鍵である。私たちが最近リリースした大規模言語モデル「コマンドA」は、多くのエンタープライズ特有のベンチマークにおいて、最大規模の最新モデルを上回る性能を発揮している。パラメータ数は1110億と、同程度の性能を持つ競合モデルのわずか6分の1であり、実行に必要なGPUはわずか2基である(大規模モデルでは32基以上)。 |
| Our adversaries across the world have also been targeting these types of efficiency improvements - as witnessed by the recent release of Deepseek V3. They recognize that the distributive impact of AI will only occur if models are capable of being integrated in workflows regardless of context or compute power. Cohere has always been focused on model efficiency, long before Deepseek was released. Deepseek is impressive, but not groundbreaking: while it was a wake-up call for some, for us it merely validated that our approach has always been the right one. | 最近のDeepseek V3のリリースに見られるように、世界中の敵もこの種の効率改善をターゲットにしている。彼らは、モデルがコンテキストや計算能力に関係なくワークフローに統合できる場合にのみ、AIの分散的な影響が発生することを認識している。Cohereは、Deepseekがリリースされるずっと前から、常にモデルの効率性を重視してきた。Deepseekは印象的ではあるが、画期的なものではない。一部の人にとっては警鐘となったが、我々にとっては、我々のアプローチが常に正しいものであったことを妥当性確認したに過ぎない。 |
| Second, collaborative model development between government and industry represents another vital priority. The most effective approach allows agencies to leverage commercial AI expertise while maintaining appropriate security control. DoD does not need to undertake the costly, time-consuming task of developing every AI model from scratch. A partnership model could enable the customization of models to specific operational contexts using domain-specific data while protecting sensitive information. Such collaboration accelerates deployment while giving agencies confidence in model behavior since systems can be thoroughly tested and validated on relevant data before implementation. Speeding “time-to-value” through these partnerships will allow DoD to bring capabilities to bear faster in solutions that meet military users where they are – in secure facilities, at the tactical edge, and at the speed of mission – rather than expecting DoD to conform to a one-size-fits-all AI built for consumer use. | 第二に、政府と産業界の共同モデル開発は、もうひとつの重要な優先事項である。最も効果的なアプローチは、適切なセキュリティ管理を維持しながら、政府機関が民間のAI専門知識を活用することを可能にする。国防総省は、すべてのAIモデルをゼロから開発するという、コストと時間のかかる作業を行う必要はない。パートナーシップ・モデルによって、機密情報を保護しながら、領域固有のデータを使用して特定の運用状況にモデルをカスタマイズすることが可能になる。このようなコラボレーションにより、展開が加速すると同時に、導入前に関連データでシステムを徹底的にテストし、妥当性を確認することができるため、各省庁はモデルの動作に自信を持つことができる。このようなパートナーシップを通じて「Time-to-Value」を加速させることで、国防総省は、民生用に構築された画一的なAIに準拠することを期待するのではなく、安全な施設、戦術的なエッジ、任務のスピードなど、軍ユーザーがいる場所に対応するソリューションにおいて、能力をより迅速に発揮できるようになる。 |
| At Cohere, we work hand-in-hand with our customers to customize or collaborate in building new AI models suited to their specific operational context. Cohere's team is able to take domain-specific data (for example, technical documents, or intel reports) and train specialized models that capture the nuances of DoD's unique problems. We have done this in the commercial and national security space, working closely to develop custom large language models from proprietary data, and we apply the same approach to the defense market. The result is an AI model that is tailored to DoD's vocabulary, threat landscape, and security constraints – but developed rapidly and cost-effectively through public-private partnership. | Cohereでは、顧客と手を携えて、それぞれの運用状況に適した新しいAIモデルをカスタマイズしたり、共同で構築したりする。Cohereのチームは、領域固有のデータ(例えば、技術文書や情報報告書など)を取得し、国防総省固有の問題のニュアンスを捉える特殊なモデルを訓練することができる。私たちは、独自のデータからカスタム大規模言語モデルを開発するために緊密に協力し、商業および国家安全保障空間でこれを行い、同じアプローチを防衛市場に適用する。その結果、国防総省の語彙、脅威の状況、安全保障上の制約に合わせたAIモデルが、官民連携によって迅速かつコスト効率よく開発されることになる。 |
| Third, secure, flexible deployment architecture is an essential technical consideration for adopting AI in defense. High security deployments typically do not choose public cloud services for sensitive data. Instead, the preference for AI solutions is that data can be hosted in secure environments. Cloud-agnostic and hardware-agnostic approaches ensure AI systems can be deployed in the widest range of these secure environments—from private cloud services to classified data centers to edge computing devices—without creating specific or single vendor dependencies. The DoD needs systems that are interoperable and work across all cloud and chip types to prevent vendor lock-in and allow for a hybrid AI ecosystem to meet its needs. | 第三に、安全で柔軟な展開アーキテクチャは、防衛にAIを採用する上で不可欠な技術的検討事項である。セキュリティの高い展開では通常、機密データ用にパブリック・クラウド・サービスは選ばれない。その代わり、AIソリューションではデータを安全な環境でホスティングできることが好まれる。クラウドにとらわれない、ハードウェアにとらわれないアプローチにより、AIシステムは、特定のベンダーや単一ベンダーに依存することなく、プライベート・クラウド・サービスから機密データセンター、エッジ・コンピューティング・デバイスに至るまで、最も幅広い安全な環境で展開できる。国防総省は、ベンダーのロックインを防ぎ、ハイブリッドなAIエコシステムでニーズを満たすことができるよう、あらゆるクラウドやチップのタイプで相互運用可能で動作するシステムを必要としている。 |
| AI systems deployed in defense and national security contexts must also maintain data sovereignty, allowing organizations to retain full control of their information. In the field of artificial intelligence, we believe “AI sovereignty” is also necessary in certain cases. This can include several aspects, but we regard it as a solution in which not only the data, but also related AI models are kept within a specific country, on that country’s (or customer’s) infrastructure. In these “sovereign” or private AI deployments, developers should have no access to the customer’s data. This means helping customers confidently customize and deploy models on their own infrastructure. | 国防と国家セキュリティの文脈で展開されるAIシステムは、組織が情報を完全に管理できるように、データ主権も維持しなければならない。人工知能の分野でも、場合によっては「AI主権」が必要だと考えている。これにはいくつかの側面があるが、データだけでなく、関連するAIモデルも特定の国内で、その国(または顧客)のインフラ上に保管されるソリューションと考える。このような「ソブリン」またはプライベートAIの展開では、開発者は顧客のデータにアクセスできないはずだ。これは、顧客が自信を持ってモデルをカスタマイズし、独自のインフラ上で展開できるように支援することを意味する。 |
| At Cohere, we are proud to have remained independent. We work across all major cloud systems and even allow private deployments rather than being locked into one cloud provider. This deployment flexibility is crucial for both operational agility and supply chain security. Our models are purpose-built to be hardware agnostic, allowing for flexible deployment of our models across chip technologies, cloud platforms, and even private, air-gapped environments. For private, air-gapped environments, our models are deployed wherever the data is, maintaining the strictest security and privacy standards. This is, in direct contrast to other deployment approaches where sensitive data must be sent to public clouds and wherever AI models are available/served. | Cohereでは、独立性を保っていることを誇りに思っている。私たちは、主要なクラウドシステムすべてに対応し、1つのクラウドプロバイダに縛られることなく、プライベートな展開も可能にしている。この展開の柔軟性は、オペレーションの俊敏性とサプライチェーンの安全性の両方にとって極めて重要である。当社のモデルは、ハードウェアにとらわれないことを目的に構築されているため、チップテクノロジー、クラウドプラットフォーム、さらにはプライベートなエアギャップ環境においても、当社のモデルを柔軟に展開することができる。プライベートなエアギャップ環境では、当社のモデルはデータがどこにあっても展開され、最も厳しいセキュリティ・プライバシー標準を維持する。これは、センシティブなデータをパブリック・クラウドやAIモデルが利用/提供される場所に送らなければならない他の展開アプローチとは正反対である。 |
| Cohere also recognizes that properly securing AI requires going beyond traditional controls. Our Secure AI framework details our holistic approach to managing risk by implementing security safeguards throughout the development lifecycle of an AI model. We believe that protective measures should be designed within the models and also the environment that models are developed in. We take this a step further and work in partnership with its customers to conduct supplementary assurance evaluations or testing as needed. | Cohereはまた、AIを適切に保護するためには、従来の管理を超えることが必要であると認識している。当社のセキュアAIフレームワークでは、AIモデルの開発ライフサイクル全体を通じてセキュリティ保護策を導入することで、リスクをマネジメントする包括的なアプローチを詳述している。私たちは、防御策はモデルの中で設計されるべきであり、モデルが開発される環境でも設計されるべきであると考えている。我々はこれをさらに一歩進め、顧客とパートナーシップを組み、必要に応じて補足的な保証評価やテストを実施する。 |
| 3. How DoD’s Existing Technology Constraints Apply to AI Adoption | 3. 国防総省の既存の技術的制約がAI導入にどのように適用されるか |
| As the DoD strives to integrate AI across its enterprise, it's worth reflecting on lessons from previous technology modernization efforts and assessing where DoD stands today. A recurring theme is that the biggest obstacles to adoption are often organizational and procedural, rather than purely technical. The DoD has no shortage of pilot projects demonstrating AI's potential, but scaling those successes DoD-wide has proved challenging. Legacy procurement rules, lengthy accreditation processes, siloed data, and workforce gaps can slow down the fielding of new AI capabilities. In many ways, these hurdles echo what we saw in prior IT modernization waves (like cloud computing or mobile tech) – the technology may be ready, but the bureaucracy must catch up. For example, the DoD's Authority to Operate (ATO) process for certifying new software has historically been cumbersome and slow, sometimes taking 12-18 months for a new system. Such delays are ill-suited to AI systems, which often need frequent model updates or iterative deployment. Studies have noted that procedures like the ATO, while important for security, can stifle rapid innovation if not reformed. The DoD has begun addressing these issues by streamlining risk management frameworks and adopting more agile approaches (such as DevSecOps and continuous ATO in some programs), but there is more work to do to truly accelerate AI uptake. | 国防総省がエンタープライズ全体でAIの統合に取り組むにあたり、過去の技術近代化の取り組みから得た教訓を振り返り、国防総省の現在の状況を評価することは価値がある。繰り返されるテーマは、採用を阻む最大の障害は、純粋に技術的なものよりも、むしろ組織的・手続き的なものであることが多いということだ。国防総省には、AIの可能性を示すパイロット・プロジェクトには事欠かないが、それらの成功を国防総省全体に拡大することは困難であることが判明している。レガシーな調達ルール、長い認定プロセス、サイロ化されたデータ、労働力のギャップが、新しいAI能力の導入を遅らせる可能性がある。多くの点で、これらのハードルは、以前のIT近代化の波(クラウド・コンピューティングやモバイル技術など)に見られたものと同じである。例えば、新しいソフトウェアを認可するための国防総省のATO(Authority to Operate)プロセスは、歴史的に煩雑で時間がかかり、新しいシステムに12~18カ月かかることもある。このような遅延は、頻繁なモデル更新や反復展開を必要とすることが多いAIシステムには不向きである。ATOのような手続きは、安全保障上重要ではあるが、改革されなければ迅速なイノベーションを阻害しかねないという研究結果もある。国防総省は、リスクマネジメントの枠組みを合理化し、よりアジャイルなアプローチ(一部のプログラムにおけるDevSecOpsや継続的ATOなど)を採用することで、こうした問題に取り組み始めているが、AIの導入を真に加速させるには、まだまだやるべきことがある。 |
| Another lesson is the need to invest in the enabling infrastructure and talent that make AI adoption possible. The Department's AI efforts in recent years – from Project Maven to the Joint Artificial Intelligence Center (JAIC) – revealed shortcomings in areas like data management, computing resources, and AI skills among personnel. Put simply, deploying AI is not just about the algorithm; it requires quality data, reliable data pipelines, modern cloud or edge computing environments, and a workforce trained to develop, test, and use AI. DoD's Chief Digital and AI Office (CDAO) is actively tackling these foundational issues by promoting data standards, standing up AI development platforms, and expanding training and collaboration opportunities across the Joint Force, all of which are positive steps. The current state of AI integration in DoD features numerous promising prototypes and niche deployments (for instance, AI in predictive maintenance, intel analysis, or business process automation), but enterprise-scale implementation – where AI is a routine part of military operations – is still in progress. Key doctrines and strategies (such as the 2022 DoD Data Strategy and AI Strategy) emphasize being "AI-ready," yet many operational units are still unfamiliar with AI tools. This indicates a need for continued top-down leadership emphasis and resource prioritization to move from experimentation to broad adoption. | もう一つの教訓は、AI導入を可能にするインフラと人材への投資の必要性である。プロジェクト・メイブンから統合人工知能センター(JAIC)に至るまで、ここ数年の同省のAIへの取り組みによって、データ管理、コンピューティング・リソース、職員のAIスキルといった分野での不足が明らかになった。簡単に言えば、AIの展開はアルゴリズムだけの問題ではなく、質の高いデータ、信頼できるデータ・パイプライン、最新のクラウドやエッジ・コンピューティング環境、AIの開発、テスト、利用の訓練を受けた人材が必要なのだ。国防総省のチーフ・デジタル・AI・オフィス(CDAO)は、データ標準の推進、AI開発プラットフォームの立ち上げ、統合軍全体の訓練と協力の機会の拡大など、これらの基礎的な問題に積極的に取り組んでおり、これらはすべて前向きな一歩だ。国防総省におけるAI統合の現状は、数多くの有望なプロトタイプやニッチな展開(例えば、予測保守、情報分析、ビジネスプロセスの自動化におけるAI)を特徴とするが、エンタープライズ規模の導入(AIが軍事作戦の日常的な一部となること)はまだ進行中である。主要な教義や戦略(2022年国防総省データ戦略やAI戦略など)は「AI対応」を強調しているが、多くの作戦部隊はまだAIツールに慣れていない。このことは、実験から広範な採用へと移行するためには、トップダウンのリーダーシップによる継続的な強調とリソースの優先順位付けが必要であることを示している。 |
| Crucially, the DoD must balance innovation with security as it integrates AI. Defense officials often point out that we cannot afford to lag in AI adoption because our adversaries are moving quickly. At the same time, the military cannot "move fast and break things" in the way a Silicon Valley startup might; the stakes are too high. The balance lies in risk-managed innovation – encouraging experimentation and agile deployment of new AI technologies, while also instituting robust testing, evaluation, and governance. Senior leaders in the Pentagon acknowledge this cultural shift is needed. The DoD must becme more comfortable with experimental failure as a step toward innovation, noting that traditionally the military prizes perfection and zero-failure, but that mindset can hinder rapid adaptation. In recent years, we have seen progress here: initiatives like AI challenges in multiple Military Service labs, the DIU (Defense Innovation Unit) commercial solutions, and "bake-offs" for AI algorithms are injecting a more innovative culture. Yet, maintaining security is paramount – which means AI systems must be thoroughly vetted for vulnerabilities before deployment, and used in accordance with ethical principles and applicable law. The Department has published the “DoD AI Ethical Principles” and is establishing organizations (like the NSA's AI Security Center) to develop best practices for secure AI adoption. The theme moving forward will be governing AI without strangling it: putting in place guidelines, test frameworks, and oversight so we trust the AI in mission settings, but not imposing such onerous processes that field units give up on trying new AI tools. If DoD and Congress can get this balance right – fostering a culture of innovation with accountability – the United States will maintain both a technological edge and the confidence that our use of AI is safe, ethical, and effective. | 極めて重要なのは、国防総省がAIを統合する際には、イノベーションと安全保障のバランスを取らなければならないということだ。国防当局者はしばしば、敵の動きが速いため、AIの導入で遅れをとるわけにはいかないと指摘する。同時に、軍はシリコンバレーのスタートアップのように「速く動いて物事を壊す」ことはできない。リスクマネジメントされたイノベーション、つまり新しいAI技術の実験と機敏な展開を奨励すると同時に、強固なテスト、評価、ガバナンスを導入することでバランスをとるのだ。国防総省の上級指導者たちは、この文化的転換が必要であることを認めている。国防総省は、イノベーションに向けた一歩として、実験的な失敗をもっと受け入れるようにならなければならない。伝統的に軍は完璧と失敗ゼロを重んじるが、その考え方は迅速な適応を妨げる可能性があると指摘する。ここ数年、私たちはここで進歩を見てきた。複数の軍務研究所でのAIチャレンジ、DIU(国防革新ユニット)の商業ソリューション、AIアルゴリズムの「ベークオフ」などの取り組みが、より革新的な文化を注入している。しかし、セキュリティの維持は最重要である。つまり、AIシステムは展開前に脆弱性を徹底的に検証し、倫理原則と適用法に従って使用されなければならない。国防総省は「国防総省AI倫理原則」を発表し、安全なAI導入のためのベストプラクティスを開発する組織(NSAのAIセキュリティセンターのような)を設立している。今後のテーマは、AIを締め付けることなくガバナンスすることである。ガイドライン、テストの枠組み、監視を整備することで、任務環境においてAIを信頼できるようにするが、現場部隊が新しいAIツールを試すことをあきらめるような過酷なプロセスを課さないことである。国防総省と議会がこのバランスをうまくとることができれば、つまり説明責任を果たしながらイノベーションの文化を醸成することができれば、米国は技術的な優位性と、AIの利用が安全で倫理的かつ効果的であるという信頼の両方を維持することができるだろう。 |
| 4. Policy Recommendations for Congress | 4. 議会への政策提言 |
| Four years ago, Congress’ AI Commission took a comprehensive look at the opportunity of applying AI to national security challenges. Their conclusion then was that by 2025 the foundations for widespread integration of AI across DoD must be in place, and that the Department should allocate at least $8 billion toward AI annually. Public estimates from last year were that DoD is allocating about half the amount recommended by the Commission. | 4年前、米国議会のAI委員会は、国家安全保障上の課題にAIを適用する機会を包括的に検討した。その結論は、2025年までに国防総省全体でAIを広く統合するための基盤が整っていなければならず、国防総省はAIに年間少なくとも80億ドルを充てるべきだというものだった。国防総省は昨年、同委員会が推奨した額の約半分を割り当てているとの試算を公表している。 |
| To support the Department of Defense in responsibly accelerating AI adoption, I respectfully offer the following policy recommendations for Congress: | 国防総省が責任を持ってAIの導入を加速させることを支援するため、私は謹んで議会に以下の政策提言を行う: |
| (A) Modernize Procurement Processes to Drive AI Innovation: Perhaps the most important step Congress can take is to modernize DoD's acquisition and procurement models for AI and software. The Secretary of Defense’s March 6 memorandum on software acquisition is a key step that clearly signals “software companies make software and the DoD will buy software from software companies.” Current federal procurement rules and lengthy contracting cycles often favor large, established defense vendors and can inadvertently create high barriers to entry for innovative AI startups. If the U.S. military wants to have the best technology, then we must ensure the best technology companies can compete to serve them – this includes non-traditional defense suppliers like Cohere. Congress should encourage and empower DoD to use more flexible, agile procurement mechanisms tailored to fast-evolving tech. For example, expanding the use of challenge-based solicitations, pilot programs, | (A) AIイノベーションを推進するために調達プロセスを近代化する: おそらく議会が取り得る最も重要な措置は、国防総省のAIとソフトウェアの取得・調達モデルを近代化することである。国防長官が3月6日に発表したソフトウェア取得に関する覚書は、「ソフトウェア会社はソフトウェアを製造し、国防総省はソフトウェア会社からソフトウェアを購入する」ということを明確に示す重要な一歩である。現行の連邦調達規則と長い契約サイクルは、しばしば大手の既成防衛ベンダーを優遇し、革新的なAI新興企業にとって不注意に高い参入障壁を作りかねない。米軍が最高のテクノロジーを持ちたいのであれば、最高のテクノロジー企業が競争に参加できるようにしなければならない。議会は国防総省に対し、急速に進化する技術に合わせた、より柔軟で機敏な調達メカニズムを使用するよう奨励し、権限を与えるべきである。例えば、チャレンジ・ベースの募集やパイロット・プログラムの利用を拡大する、 |
| Commercial Solutions Openings (CSOs) and Other Transaction Authorities (OTAs) can allow the Department to rapidly test and integrate cutting-edge AI solutions. These approaches lower the burden to get in the door, enabling smaller firms with innovative ideas to prove their value through prototypes or competitions rather than needing an extensive track record of past contracts. Alongside this, Congress can push for simplified compliance requirements and streamlined vendor qualification criteria for AI software, so that well-intentioned rules do not unintentionally exclude agile startups. | 商業ソリューション公募(CSO)やその他の取引認可(OTA)の利用を拡大することで、国防総省は最先端のAIソリューションを迅速にテストし、統合することができる。このようなアプローチにより、参入するための負担が軽減され、革新的なアイデアを持つ中小企業は、過去の契約という広範な実績を必要とする代わりに、プロトタイプやコンペティションを通じてその価値を証明することができる。これと並行して、議会はAIソフトウェアのコンプライアンス要件の簡素化とベンダー資格基準の合理化を推進し、善意の規則が意図せずして機敏な新興企業を排除しないようにすることができる。 |
| By making federal procurement more accessible and agile, the government can leverage its "power of the purse" to catalyze AI innovation and avoid stagnation. Importantly, modernizing procurement isn't just about speed – it's also about outcomes. | 連邦政府の調達をよりアクセスしやすく機敏にすることで、政府は「財布の力」を活用してAIイノベーションを促進し、停滞を回避することができる。重要なのは、調達の近代化はスピードだけでなく、成果も重要だということだ。 |
| I recommend that Congress direct DoD to update its source selection criteria for AI-related contracts to place appropriate weight on innovation, security, and performance, rather than defaulting to corporate size or longest past performance. The goal should be to reward true technical merit and risk mitigation, not just familiarity. Taken together, these procurement reforms will help ensure that the U.S. military has access to the full marketplace of AI innovation – bringing the best capabilities to our cyber warfighters, from large defense primes to innovative startups. | 私は、議会がDoDに対し、AI関連契約の調達元選定規準を更新し、企業規模や過去の最長実績をデフォルトとするのではなく、イノベーション、セキュリティ、パフォーマンスに適切な比重を置くよう指示することを提言する。その目的は、単なる馴れ合いではなく、真の技術的メリットとリスク緩和に報いることであるべきだ。これらの調達改革をまとめると、米軍がAIイノベーションのあらゆる市場にアクセスできるようになり、大規模な防衛プライム企業から革新的な新興企業まで、最高の能力をサイバー戦士に提供できるようになる。 |
| (B) Promote Interoperability and Avoid Vendor Lock-In: As the DoD acquires AI tools from various sources, Congress should ensure that interoperability and open standards are a priority. No single vendor should be able to supply all of DoD's AI needs. The AI ecosystem is dynamic and evolving, and so should be AI vendors selling to the government. We want an ecosystem where multiple AI solutions can plug into defense systems seamlessly and even augment each other. To that end, Congress could require that DoD include interoperability requirements in AI procurements and programs, mandating that solutions adhere to common data formats, APIs, or integration standards. This will allow systems from different providers – say an AI cybersecurity sensor from one company and an AI analytics dashboard from another – to work together without heroic integration efforts. It also prevents proprietary lock-in, where DoD might be stuck with one vendor's ecosystem. | (B)相互運用性を促進し、ベンダーロックインを回避する: 国防総省が様々なソースからAIツールを取得する際、議会は相互運用性とオープン標準が優先事項であることを保証すべきである。単一のベンダーが国防総省のAIニーズをすべて供給できるようにすべきではない。AIのエコシステムはダイナミックで進化しており、政府向けに販売するAIベンダーも同様であるべきだ。我々は、複数のAIソリューションが防衛システムにシームレスにプラグインでき、互いを補強し合えるようなエコシステムを望んでいる。そのために議会は、国防総省がAIの調達やプログラムに相互運用性の要件を盛り込み、ソリューションが共通のデータ形式やAPI、統合標準に準拠することを義務付けることを要求できるだろう。これにより、ある企業のAIサイバーセキュリティ・センサーと別の企業のAIアナリティクス・ダッシュボードといった異なるプロバイダのシステムが、大掛かりな統合作業をしなくても連携できるようになる。また、国防総省が1つのベンダーのエコシステムから抜け出せないような、独自のロックインも防ぐことができる。 |
| Open, interoperable approaches spur competition and innovation, because vendors know their products must operate in a hybrid environment and can be replaced with improved technology. Alongside interoperability, Congress should encourage DoD to avoid single-source dependency in critical AI capabilities. This might involve funding diverse pilots for a given use-case (so multiple solutions are evaluated), and then adopting the best – or even multiple – solutions. Legislative report language could underscore that avoiding vendor lock-in is a strategic imperative for both security and negotiating power. In summary, Congress should help DoD obtain AI systems that are as flexible and interchangeable as possible. This not only ensures our forces get the best tech, but it also safeguards against supply-chain risks and empowers DoD to rapidly upgrade components as the technology advances. | オープンで相互運用可能なアプローチは競争とイノベーションを促進する。なぜなら、ベンダーは自社製品がハイブリッド環境で運用されなければならず、改善された技術に取って代わられる可能性があることを知っているからだ。相互運用性とともに、議会は国防総省に対し、重要なAI能力の単一ソース依存を避けるよう奨励すべきである。これには、あるユースケースに対して多様なパイロット(複数のソリューションが評価されるように)に資金を提供し、最適な(あるいは複数の)ソリューションを採用することが含まれるかもしれない。ベンダーの囲い込みを避けることは、安全保障と交渉力の両方にとって戦略的必須事項であることを、立法報告書の文言で強調することができる。まとめると、議会は国防総省が可能な限り柔軟で互換性のあるAIシステムを入手できるよう支援すべきである。これは、我が軍が最高の技術を手に入れることを保証するだけでなく、サプライチェーンのリスクを回避し、技術の進歩に合わせて国防総省がコンポーネントを迅速にアップグレードできるようにするものである。 |
| (C) Support AI Adoption with Internal Benchmarking: While speeding up AI adoption, Congress must also ensure that appropriate benchmarking guidelines are in place for AI in national security. In the commercial space, we have quickly learned that general academic benchmarks are regularly gamed and often don’t represent real world use. For example, they don’t showcase how models will tackle tasks on an assembly line or in analyzing research. We recommend that Congress and the DoD consider funding programs that develop methods to test and validate AI systems for the kinds of reliability and use cases they will require - including human evaluations. | (C) 内部ベンチマーキングでAI採用を支援する: AIの採用を加速させる一方で、議会は、国家安全保障におけるAIのための適切なベンチマーク・ガイドラインを確保しなければならない。商業分野では、一般的な学術的ベンチマークは定期的にゲーム化され、しばしば実世界での利用を代表しないことがすぐにわかった。例えば、組立ラインや研究分析において、モデルがどのようにタスクに取り組むかを示すものではない。我々は、議会と国防総省が、AIシステムが必要とする種類の信頼性とユースケースをテストし妥当性を確認する方法を開発するプログラム(人間による評価を含む)への資金提供を検討することを推奨する。 |
| Conclusion | 結論 |
| AI has the potential to significantly strengthen U.S. national defense – but realizing that potential requires deliberate action and partnership. Cohere is fully committed to working with the DoD, Congress, and our allies to advance AI capabilities in cybersecurity and defense. We bring not only technology, but a shared sense of mission. We understand that the stakes are high: the security of the nation and the safety of its service members depend on us getting this right. That is why we will continue prioritizing AI development with rigorous attention to security, privacy, and operational effectiveness. We will continue to innovate on ways to make AI more efficient, more adaptable, and easier to deploy securely at scale. | AIは米国の国防を大幅に強化する可能性を秘めているが、その可能性を実現するには、慎重な行動とパートナーシップが必要である。Cohereは、サイバーセキュリティと防衛におけるAI能力を向上させるために、国防総省、議会、同盟国と協力することを約束する。我々は技術だけでなく、使命感を共有する。我々は、国家の安全保障と軍人の安全が、我々がこれを正しく理解できるかどうかにかかっていることを理解している。だからこそ私たちは、セキュリティ、プライバシー、作戦の有効性に厳密な注意を払いながら、AIの開発を優先させていく。われわれは、AIをより効率的で、より適応性が高く、安全に大規模に展開しやすくする方法について革新を続けていく。 |
| I urge Congress to take a forward-thinking approach in crafting AI policies for national security – one that balances our national security imperatives with America's spirit of innovation. By modernizing procurement, championing interoperability, insisting on benchmarking based on use case, and tapping into the best insights from research, Congress can accelerate the DoD's adoption of AI in a manner that is both rapid and responsible. In doing so, we can maintain our competitive edge in an era where AI capabilities will increasingly define the strength of our defense. Cohere stands ready to assist in this effort. Working together – industry, DoD, and Congress – I am confident we can build AI systems that bolster our security, reflect our values, and earn the trust of those who rely on them. | 私は議会に対し、国家安全保障のためのAI政策を策定するにあたり、先進的なアプローチをとるよう強く求める。調達を近代化し、相互運用性を支持し、ユースケースに基づくベンチマークを主張し、研究からの最良の洞察を活用することで、議会は迅速かつ責任ある方法で国防総省のAI採用を加速することができる。そうすることで、AI能力がますます国防の強さを規定する時代に、競争力を維持することができる。Cohereはこの取り組みを支援する用意がある。産業界、国防総省、議会が協力することで、われわれの安全保障を強化し、われわれの価値観を反映し、信頼されるAIシステムを構築できると確信している。 |
| Thank you for the opportunity to testify today. I look forward to your questions and to continuing the dialogue on how we can ensure the United States and its allies lead in the secure and responsible use of AI for our national defense. | 本日は証言の機会をいただきありがとう。米国とその同盟国が、国防のためのAIの安全で責任ある利用をリードすることを確実にする方法について、皆さまからのご質問と対話を続けられることを楽しみにしている。 |
3. Jim Mitre
| Artificial General Intelligence’s Five Hard National Security Problems | 人工知能が抱える5つの国家安全保障上の難問 |
| Testimony of Jim Mitre[1] | ジム・ミトレの証言[1] |
| RAND[2] | ランド研究所[2] |
| Before the Committee on Armed Services | 軍事委員会サイバーセキュリティ小委員会 |
| Subcommittee on Cybersecurity United States Senate | サイバーセキュリティ小委員会 米国上院 |
| 25-Mar-25 | 3月25日 |
| Chairman Rounds, Ranking Member Rosen, and distinguished members of the committee, thank you for the opportunity to testify today on the national security implications posed by the potential emergence of advanced artificial intelligence (AI) or artificial general intelligence (AGI).[3] | ラウンズ委員長、ローゼン委員長、そして委員の皆様、本日は高度な人工知能(AI)あるいは人工一般知能(AGI)の潜在的な出現がもたらす国家安全保障上の影響について証言する機会をいただき、ありがとうございます[3]。 |
| Leading AI labs in the United States, China, and the rest of the world are in hot pursuit of AGI, which would possess human-level or superhuman-level intelligence across a wide variety of cognitive tasks. The pace and potential progress of AGI’s emergence—as well as the composition of a post-AGI future—are uncertain and hotly debated.[4] Yet the emergence of AGI is plausible, and the consequences so profound, that the U.S. national security community should take it seriously—and plan for it. | 米国、中国、そして世界の主要なAI研究所は、AGIを熱烈に追求している。AGIは、多種多様な認知タスクにおいて、人間レベル、あるいは超人レベルの知能を持つだろう。AGIの出現のペースと潜在的な進展、そしてAGI後の未来の構成は不確実であり、熱い議論が交わされている[4]。しかし、AGIの出現はもっともらしく、その結果は非常に甚大であるため、米国の国家安全保障コミュニティは真剣に受け止め、そのための計画を立てるべきである。 |
| Consider the following: What would the U.S. government do if, in the next few years, a leading AI lab announced that its forthcoming model had the ability to produce the equivalent of 1 million computer programmers as capable as the top 1 percent of human programmers at the touch of a button? The national security implications are profound and could cause a significant disruption of the current cyber offense-defense balance. | 次のことを考えてみよう: もし今後数年のうちに、ある一流のAI研究所が、ボタンひとつで人間のトップ1%のプログラマーと同等の能力を持つ100万人のコンピューター・プログラマーを生み出す能力を持つ最新モデルを発表したら、米国政府はどうするだろうか?国家安全保障への影響は甚大であり、現在のサイバー攻撃と防衛のバランスを大きく崩す可能性がある。 |
| At RAND, we are planning for it. Our work has revealed that AGI presents five hard national security problems. | ランド研究所では、そのような事態を想定している。我々の研究は、AGIが5つの国家安全保障上の難問を抱えていることを明らかにした。 |
| 1. Wonder Weapons | 1. 脅威兵器 |
| First, AGI might enable a significant first-mover advantage via the sudden emergence of a decisive wonder weapon: for example, a capability so proficient at identifying and exploiting vulnerabilities in enemy cyberdefenses that it provides what might be called a splendid first cyber strike that completely disables a retaliatory cyberstrike. Such a first-mover advantage could disrupt the military balance of power in key theaters, create a host of proliferation risks, and accelerate technological race dynamics. | 第一に、人工汎用知能(AGI)は、決定的な驚異兵器が急激に出現することを通じて、非常に大きな先行者優位性を実現する可能性がある。例えば、敵のサイバー防御の脆弱性を特定し、それを突くことに長けた能力は、報復のサイバー攻撃を完全に無効化する、見事な先制サイバー攻撃と呼べるかもしれない。このような先手必勝の優位性は、主要地域における軍事力の均衡を崩し、多くの拡散リスクを生み出し、技術競争の力学を加速させる可能性がある。 |
| 2. Systemic Shifts | 2. システミックな変化 |
| Second, AGI might cause a systemic shift in the instruments of national power that alters the balance of global power. The history of military innovation suggests that being able to adopt a new technology is more consequential than being the first to achieve a scientific or technological breakthrough.[5] As the U.S., allied, and rival militaries establish access to AGI and adopt it at scale, it could upend military balances by affecting key building blocks of military competition, such as hiders versus finders, precision versus mass, or centralized versus decentralized command and control. States that are better postured to capitalize on—and manage—systemic shifts caused by AGI could have greatly expanded influence. | 第二に、AGIは、グローバル・パワーのバランスを変化させるような、国家権力の手段におけるシステミックな変化を引き起こす可能性がある。軍事技術革新の歴史は、新技術を採用できるかどうかが、科学技術上のブレークスルーを最初に達成することよりも重大であることを示唆している[5]。米国、同盟国、およびライバル国の軍隊がAGIへのアクセスを確立し、大規模にAGIを採用するようになると、ハイダー対ファインダー、精密さ対質量、または中央集権化対非中央集権化といった軍事競争の主要な構成要素に影響を与えることによって、軍事バランスが根底から覆される可能性がある。AGIによって引き起こされるシステムのシフトを活用し、管理する態勢を整えた国家は、影響力を大きく拡大する可能性がある。 |
| 3. Empowered Nonexperts | 3. 非専門家のエンパワーメント |
| Third, AGI might serve as a “malicious mentor” that explains and contextualizes the specific steps that nonexperts can take to develop dangerous weapons, such as virulent cyber malware, widening the pool of people capable of creating such threats. Knowing how to build a weapon of mass destruction is, of course, not the same as actually building it. But technological developments in related fields are lowering execution barriers. For example, advances in agentic AI may assist in performing certain tasks to directly aid a malicious actor in their goals. | 第三に、AGIは「悪意のある指導者」の役割を果たすかもしれない。AGIは、非専門家が病原性サイバー・マルウェアのような危険な兵器を開発するための具体的なステップを説明し、文脈化する。大量破壊兵器の製造方法を知っていることと、実際にそれを製造することは、もちろん同じではない。しかし、関連分野における技術開発は、実行の障壁を低くしている。例えば、エージェントAIの進歩は、悪意ある行為者の目標を直接支援するために、特定のタスクの実行を支援するかもしれない。 |
| 4. Artificial Entities | 4. 人工事業体 |
| Fourth, AGI might achieve enough autonomy and behave with enough agency to be considered an independent actor on the global stage. Consider an AGI with advanced computer programming abilities that is able to “break out of the box” and engage with the world across cyberspace. It could possess agency beyond human control, operate autonomously, and make decisions with far-reaching consequences. Such an AGI could be misaligned—that is, operate in ways that are inconsistent with the intentions of its human designers or operators, causing unintentional harm. In the extreme, a “loss-of-control” scenario could result, wherein an AGI’s pursuit of its desired objectives incentivizes the machine to resist being turned off, counter to human efforts.[6] | 第四に、AGIは十分な自律性を獲得し、グローバルな舞台で独立した行為者とみなされるだけの主体性をもって行動するかもしれない。高度なコンピュータ・プログラミング能力を持ち、「既成概念にとらわれず」サイバー空間で世界と関わることができるAGIを考えてみよう。そのAGIは、人間の制御を超えた主体性を持ち、自律的に動作し、広範囲に影響を及ぼす決定を下すことができる。このようなAGIは、人間の設計者や操作者の意図に反した動作を行い、意図しない危害をもたらすという、ミスアラインメントを起こす可能性がある。極端な場合、「制御不能」シナリオが生じる可能性があり、AGIがその望ましい目的を追求することで、人間の努力に反して、マシンが電源を切られることに抵抗する動機付けとなる[6]。 |
| 5. Instability | 5. 不安定性 |
| Fifth, the pursuit of AGI could foster a period of instability as nations and corporations race to achieve dominance in this transformative technology. This competition might lead to heightened tensions, reminiscent of the nuclear arms race, such that the quest for superiority risks precipitating, rather than deterring, conflict. Nations’ perceptions of AGI’s feasibility and potential to confer a first-mover advantage could become as critical as the technology itself. The risk threshold for action will hinge not only on actual capabilities but also on perceived capabilities and the intentions of rivals. Misinterpretations or miscalculations, much like those feared during the Cold War, could precipitate preemptive strategies or arms buildups that destabilize global security. | 第五に、AGIの追求は、国家や企業がこの変革的技術において優位に立とうと競争する中で、不安定な時期を助長する可能性がある。この競争は、核軍拡競争を彷彿とさせるような緊張の高まりにつながる可能性があり、優越性の追求は紛争を抑止するどころか、むしろ紛争を誘発するリスクとなる。AGIの実現可能性や先行者利益をもたらす可能性に対する各国の認識は、技術そのものと同様に重要なものとなる可能性がある。行動のリスク閾値は、実際の能力だけでなく、認識されている能力やライバルの意図にも左右される。冷戦時代に懸念されたような誤った解釈や誤算は、世界の安全保障を不安定にする先制攻撃戦略や軍備増強を引き起こす可能性がある。 |
| As the U.S. Department of Defense embarks on developing the National Defense Strategy, it will have to grapple with how advanced AI will affect cyber, along with all other domains. The five hard problems that AGI presents to national security can serve as a rubric to evaluate how the strategy addresses the potential emergence of AGI. | 米国防総省が国家防衛戦略の策定に着手する際、先進的なAIが他のあらゆる領域とともにサイバーにどのような影響を与えるかについて取り組まなければならないだろう。AGIが国家安全保障にもたらす5つの難問は、戦略がAGIの潜在的な出現にどのように対処するかを評価する基準として役立つ。 |
| Thank you again for the opportunity to testify. I welcome your questions. | 証言の機会を与えていただき、改めて感謝する。質問を歓迎する。 |
| [1] The opinions and conclusions expressed in this testimony are the author’s alone and should not be interpreted as representing those of RAND or any of the sponsors of its research. | [1] 本証言で述べられている意見や結論は認可者個人のものであり、ランド研究所やその研究スポンサーを代表するものと解釈されるべきではない。 |
| [2] RAND is a research organization that develops solutions to public policy challenges to help make communities throughout the world safer and more secure, healthier and more prosperous. RAND is nonprofit, nonpartisan, and committed to the public interest. RAND’s mission is enabled through its core values of quality and objectivity and its commitment to integrity and ethical behavior. RAND subjects its research publications to a robust and exacting quality-assurance process; avoids financial and other conflicts of interest through staff training, project screening, and a policy of mandatory disclosure; and pursues transparency through the open publication of research findings and recommendations, disclosure of the source of funding of published research, and policies to ensure intellectual independence. This testimony is not a research publication, but witnesses affiliated with RAND routinely draw on relevant research conducted in the organization. | [2] ランド研究所は、世界中の地域社会をより安全で安心な、より健康で豊かなものにするために、公共政策の課題に対する解決策を開発する研究機関である。ランドは非営利で、超党派であり、公共の利益にコミットしている。ランド研究所の使命は、その中核的価値観である質と客観性、そして誠実さと倫理的行動へのコミットメントによって実現されている。ランドは、その研究出版物を強固で厳格な品質保証プロセスの対象とし、スタッフ研修、プロジェクト審査、情報開示の義務化方針を通じて、金銭的およびその他の利益相反を回避し、研究成果と提言の公開、出版された研究の資金源の開示、知的独立性を確保するための方針を通じて、透明性を追求している。本証言は研究発表ではないが、ランドに所属する証人は、ランドで実施された関連研究を日常的に利用している。 |
| [3] This testimony is drawn from a paper on the topic I drafted with my colleague Joel B. Predd. See Jim Mitre and Joel B. Predd, Artificial General Intelligence’s Five Hard National Security Problems, RAND Corporation, PEA3691-4, February 2025, [web]. |
[3] この証言は、私が同僚のジョエル・B・ドラフトとともに起草した論文から引用したものである。Jim Mitre and Joel B. Predd, Artificial General Intelligence's Five Hard National Security Problems, RAND Corporation, PEA3691-4, February 2025, [web] を参照のこと。 |
| [4] Matteo Wong, “The AI Boom Has an Expiration Date,” The Atlantic, October 17, 2024. | [4] Matteo Wong, 「The AI Boom Has an Expiration Date,」 The Atlantic, October 17, 2024. |
| [5] Michael C. Horowitz, The Diffusion of Military Power: Causes and Consequences for International Politics, Princeton University Press, 2010. | [5] Michael C. Horowitz, The Diffusion of Military Power: プリンストン大学出版局、2010年。 |
| [6] Yoshua Bengio, testimony before the U.S. Senate Judiciary Subcommittee on Privacy, Technology, and the Law, July 5, 2023. | [6] ヨシュア・ベンジオ、2023年7月5日、プライバシー・テクノロジー・法に関する米上院司法小委員会での証言。 |






Comments