英国 AI Safety Institute（AI安全機構）からAI Security Institute（AIセキュリティ機構）へ (2025.02.14): まるちゃんの情報セキュリティ気まぐれ日記

March 2025
Sun	Mon	Tue	Wed	Thu	Fri	Sat
						1
2	3	4	5	6	7	8
9	10	11	12	13	14	15
16	17	18	19	20	21	22
23	24	25	26	27	28	29
30	31

2025.02.19

英国 AI Safety Institute（AI安全機構）からAI Security Institute（AIセキュリティ機構）へ (2025.02.14)

こんにちは丸山満彦です。

英国の科学・イノベーション・技術省が所管しているAI Safety Instituteの名称が、AI Security Instituteに変わりましたね...ミュンヘン安全保障会議の中で発表されたようですね...

Securityはサイバーセキュリティのセキュリティというよりも、安全保障のSecurityの意味ですかね...

英国政府（科学・イノベーション・技術省）とAnthropictとの覚書についても発表していますね。ソブリンAIと作る？

● GOV.UK

・2025.02.14 Tackling AI security risks to unleash growth and deliver Plan for Change

Tackling AI security risks to unleash growth and deliver Plan for Change	AIセキュリティリスクに取り組み、成長を引き出し、変革のための計画を実現する
UK’s AI Safety Institute becomes ‘UK AI Security Institute’.	英国のAI安全機構が「英国AIセキュリティ機構」になる
・UK’s AI Safety Institute becomes ‘UK AI Security Institute’ - strengthening protections against the risks AI poses to national security and crime	・英国のAI安全研究所が「英国AIセキュリティ研究所」に - AIが国家安全保障と犯罪にもたらすリスクに対する防御を強化する
・Institute bolstered by new criminal misuse team, partnering with the Home Office, to research a range of crime and security issues which could harm UK citizens	・内務省と提携し、英国市民に危害を及ぼす可能性のあるさまざまな犯罪やセキュリティ問題を研究する犯罪悪用チームを新設することで、研究所を強化
・New agreement reached with AI giant Anthropic on AI opportunities to help grow the economy as part of our Plan for Change	・「変革のための計画」の一環として、経済成長を支援するAIの機会について、AI大手のAnthropicと新たな合意に達した
Safeguarding Britain’s national security - a key pillar of the government’s Plan for Change - and protecting citizens from crime - will become founding principles of the UK’s approach to the responsible development of artificial intelligence from today (Friday 14 February), as the Technology Secretary sets out his vision for a revitalised AI Security Institute in Munich.	政府の「変革のための計画」の重要な柱である英国の国家安全保障を守り、市民を犯罪から守ることは、本日2月14日（金）より、人工知能の責任ある開発に対する英国のアプローチの基本原則となり、保護技術長官がミュンヘンでAIセキュリティ研究所を活性化させる構想を示した。
Speaking at the Munich Security Conference and just days after the conclusion of the AI Action Summit in Paris, Peter Kyle has today recast the AI Safety Institute the ‘AI Security Institute’. This new name will reflect its focus on serious AI risks with security implications, such as how the technology can be used to develop chemical and biological weapons, how it can be used to carry out cyber-attacks, and enable crimes such as fraud and child sexual abuse.	ミュンヘン安全保障会議で、またパリでのAIアクション・サミット終了から数日後、ピーター・カイルは本日、AI安全保障機構を「AI安全保障機構」と改称した。この新しい名称は、化学兵器や生物兵器の開発、サイバー攻撃の実行、詐欺や児童虐待などの犯罪の可能性など、安全保障に関わる重大なAIリスクに焦点を当てることを反映している。
The Institute will also partner across government, including with the Defence Science and Technology Laboratory, the Ministry of Defence’s science and technology organisation, to assess the risks posed by frontier AI.	アセスメント機構はまた、フロンティアAIがもたらすリスクを評価するために、国防省の科学技術組織である国防科学技術研究所を含む政府全体と提携する。
As part of this update, the Institute will also launch a new criminal misuse team which will work jointly with the Home Office to conduct research on a range of crime and security issues which threaten to harm British citizens.	この更新の一環として、研究所はまた、内務省と共同で、英国市民に危害を及ぼす恐れのある様々な犯罪や安全保障問題に関する研究を行う、新しい犯罪悪用チームを発足させる。
One such area of focus will be the use of AI to make child sexual abuse images, with this new team exploring methods to help to prevent abusers from harnessing the technology to carry out their appalling crimes. This will support work announced earlier this month to make it illegal to own AI tools which have been optimised to make images of child sexual abuse.	この新チームは、児童性的虐待画像の作成にAIを使用することに焦点を当て、虐待者がその技術を利用して恐ろしい犯罪を実行するのを防ぐのに役立つ方法を探求する。これは、今月初めに発表された、児童性的虐待画像を作成するために最適化されたAIツールを所有することを違法とする作業を支援するものである。
This means the focus of the Institute will be clearer than ever. It will not focus on bias or freedom of speech, but on advancing our understanding of the most serious risks posed by the technology to build up a scientific basis of evidence which will help policymakers to keep the country safe as AI develops. To achieve this, the Institute will work alongside wider government, the Laboratory for AI Security Research (LASR), and the national security community; including building on the expertise of the National Cyber Security Centre (NCSC), the UK’s national technical authority for cyber security, including AI.	これは、機構の焦点がこれまで以上に明確になることを意味する。バイアスや言論の自由ではなく、テクノロジーがもたらす最も深刻なリスクについての理解を深め、政策立案者がAIの発展とともに国の安全を守るための科学的根拠を構築することに焦点を当てる。これを達成するため、認可機構は、政府、AIセキュリティ研究室（LASR）、国家安全保障コミュニティと協力し、AIを含むサイバーセキュリティに関する英国の国家技術当局である国家サイバーセキュリティセンター（NCSC）の専門知識を活用することも含む。
The announcement comes just weeks after the government set out its new blueprint for AI to deliver a decade of national renewal, harnessing the technology to deliver on the Plan for Change. A revitalised AI Security Institute will ensure we boost public confidence in AI and drive its uptake across the economy so we can unleash the economic growth that will put more money in people’s pockets.	この発表は、政府が「変革のための計画」を実現するために技術を活用し、国家再生の10年を実現するためのAIに関する新たな青写真を発表した数週間後に行われた。AIセキュリティー研究所が活性化することで、AIに対する国民の信頼が高まり、経済全体への導入が促進される。
Secretary of State for Science, Innovation, and Technology, Peter Kyle said:	ピーター・カイル科学・イノベーション・技術担当国務長官は、次のように述べた：
The changes I’m announcing today represent the logical next step in how we approach responsible AI development – helping us to unleash AI and grow the economy as part of our Plan for Change.	本日発表する変更は、責任あるAI開発へのアプローチにおける論理的な次のステップであり、我々の『変革のための計画』の一環として、AIを解き放ち、経済を成長させる一助となる。
The work of the AI Security Institute won’t change, but this renewed focus will ensure our citizens – and those of our allies - are protected from those who would look to use AI against our institutions, democratic values, and way of life.	AIセキュリティ研究所の活動は変わらないが、この新たな焦点は、我々の機構、民主的価値観、生活様式に対してAIを利用しようとする輩から、我々の市民、そして同盟国の市民を確実に守ることになる。
The main job of any government is ensuring its citizens are safe and protected, and I’m confident the expertise our Institute will be able to bring to bear will ensure the UK is in a stronger position than ever to tackle the threat of those who would look to use this technology against us.	どのような政府であれ、その主な仕事は市民が安全で保護されていることを保証することであり、私は、当研究所が発揮できる専門知識によって、英国が、この技術を私たちに対して利用しようとする人々の脅威に取り組むために、これまで以上に強力な立場にあることを保証できると確信している。
As the AI Security Institute bolsters its security focus, the Technology Secretary is also taking the wraps off a new agreement which has been struck between the UK and AI company Anthropic.	AIセキュリティー研究所がセキュリティーに重点を置くよう強化される中、技術長官は英国とAI企業Anthropic社との間で締結された新たな協定についても言及した。
This partnership is the work of the UK’s new Sovereign AI unit, and will see both sides working closely together to realise the technology’s opportunities, with a continued focus on the responsible development and deployment of AI systems.	このパートナーシップは、英国の新しいソブリンAIユニットの仕事であり、AIシステムの責任ある開発と展開に継続的に焦点を当てながら、技術の機会を実現するために双方が緊密に協力することになる。
This will include sharing insights on how AI can transform public services and improve the lives of citizens, as well as using this transformative technology to drive new scientific breakthroughs. The UK will also look to secure further agreements with leading AI companies as a key step towards turbocharging productivity and speaking fresh economic growth – a key pillar of the government’s Plan for Change.	これには、AIがどのように公共サービスを変革し、市民生活を改善できるかについての見識を共有することや、この変革的技術を利用して新たな科学的ブレークスルーを推進することも含まれる。英国はまた、政府の「変革のための計画」の重要な柱である、生産性を飛躍的に向上させ、新たな経済成長を実現するための重要なステップとして、大手AI企業とのさらなる協定の締結を目指す。
Chair of the AI Security Institute Ian Hogarth said:	AIセキュリティ機構のイアン・ホガース会長は、次のように述べた：
The Institute’s focus from the start has been on security and we’ve built a team of scientists focused on evaluating serious risks to the public.	当機構は当初からセキュリティに重点を置いており、一般市民に対する重大なリスクの評価に重点を置いた科学者チームを構築してきた。
Our new criminal misuse team and deepening partnership with the national security community mark the next stage of tackling those risks.	私たちの新しい犯罪悪用チームと、国家安全保障コミュニティとのパートナーシップの深化は、これらのリスクに取り組む次の段階を示すものである。
Dario Amodei, CEO and co-founder of Anthropic said:	AnthropicのCEO兼共同設立者であるダリオ・アモデイは、次のように述べている：
AI has the potential to transform how governments serve their citizens. We look forward to exploring how Anthropic’s AI assistant Claude could help UK government agencies enhance public services, with the goal of discovering new ways to make vital information and services more efficient and accessible to UK residents.	AIは、政府が市民にサービスを提供する方法を変革する可能性を秘めている。我々は、AnthropicのAIアシスタントClaudeが英国政府機関の公共サービス強化にどのように貢献できるかを探求することを楽しみにしている。
We will continue to work closely with the UK AI Security Institute to research and evaluate AI capabilities in order to ensure secure deployment.	我々は、安全な展開を確保するため、英国AIセキュリティ研究所と緊密に協力し、AI能力の研究と評価を続けていく。
Today’s reset for the AI Security Institute comes just weeks after the UK government kickstarted the year by setting out a new blueprint for AI to spark a decade of national renewal.	本日のAIセキュリティ研究所のリセットは、英国政府が国家再生の10年に向けたAIの新たな青写真を打ち出し、今年をスタートさせた数週間後に行われた。
Thanks to the work of the Institute, the UK now stands ready to fully realise the benefits of the technology while bolstering our national security as we continue to harness the age of AI.	研究所の活動のおかげで、英国は現在、AIの時代を利用し続けるために国家安全保障を強化しながら、この技術の利点を完全に実現する準備が整っている。
Further Information:	詳細はこちら
The agreement between the UK and Anthropic on AI opportunities.	AI機会に関する英国とAnthropicの合意。

英国政府とAnthropict社との合意の件...

・2025.02.14 Memorandum of Understanding between UK and Anthropic on AI opportunities

Memorandum of Understanding between UK and Anthropic on AI opportunities	AI の機会に関する英国と Anthropic との覚書
Memorandum of Understanding between Anthropic and the UK government (Department for Science, Innovation and Technology - DSIT) on AI opportunities.	AI の機会に関する Anthropic と英国政府（科学技術革新省 - DSIT）との覚書。
Section (I): the transformative potential of AI	セクション(I)：AIの変革の可能性
Artificial intelligence (“AI”) has the potential to revolutionize how governments operate, drive widespread economic transformation, and touch almost all aspects of society.	人工知能（以下「AI」）は、政府の運営方法を変革し、広範な経済的変革を促し、社会のほぼ全ての側面に影響を与える可能性を秘めている。
Both Anthropic and the UK government recognise this defining opportunity. Our shared intention is to work together on the most consequential opportunities presented by advanced AI: to foster the continued responsible development and deployment of AI that aligns with our societal values and principles of shared economic prosperity, improved public services and increased personal opportunity.	Anthropicと英国政府はともに、この決定的な機会を認識している。つまり、経済的繁栄の共有、公共サービスの改善、個人的機会の増大という我々の社会的価値観と原則に沿った、責任あるAIの継続的な開発と展開を促進することである。
Section (II) on our ambitions for ongoing collaboration	セクション(II)：継続的な協力関係についての期待
The UK government and Anthropic are collaborating to explore the potential of advanced AI tools in improving how UK citizens access government information and services online. The aim will be to advance best practices for the responsible deployment of frontier AI capabilities by the public sector, while fostering close cooperation between government and leading AI innovators.	英国政府とAnthropicは、英国市民がオンラインで政府の情報やサービスにアクセスする方法を改善するための高度AIツールの可能性を探るために協力している。その目的は、政府と主要なAIイノベーターとの緊密な協力を促進しながら、公共部門によるフロンティアAI能力の責任ある展開のためのベストプラクティスを前進させることである。
The ambition is to enhance citizen experiences through the application of AI technologies. In pursuing this goal, the government will prioritize responsiveness to public needs, privacy preservation, and building trust as core principles guiding the development and implementation of AI-enabled solutions.	その目的は、AI技術の応用を通じて市民の体験を向上させることである。この目標を達成するため、政府はAIを活用したソリューションの開発・導入の指針となる基本原則として、国民のニーズへの対応、プライバシーの保護、信頼の構築を優先する。
DSIT and Anthropic, through Anthropic’s partnership with AI Security Institute (AISI), will continue their research collaboration to understand the capabilities and security risks of AI systems, and work together to mitigate these risks to enable the significant AI opportunities.	DSITとAnthropicは、AnthropicのAI Security Institute（AISI）とのパートナーシップを通じて、AIシステムの機構とセキュリティリスクを理解するための研究協力を継続し、重要なAIの機会を可能にするためにこれらのリスクを緩和するために協力する。
Section (III) on further collaborations and future work	セクション（III）：さらなる協力と今後の取り組み
DSIT and Anthropic intend to deepen our partnership by exploring additional opportunities in areas of shared interest, including:	DSITとAnthropicは、以下のような共通の関心分野におけるさらなる機会を模索することで、パートナーシップを深めていく意向である：
・The opportunities to advance scientific progress through AI, building on Anthropic’s capabilities and existing UK strengths in R&D and data assets.	・Anthropicの能力と、R&Dとデータ資産における英国の既存の強みを生かし、AIを通じて科学の進歩を促進する機会。
・Securing the supply chain for advanced AI and the UK’s future infrastructure.	・高度なAIと英国の将来のインフラのサプライチェーンを確保する。
・Supporting the innovation economy. Drawing on Anthropic’s state-of-the-art systems and tools to support the UK’s world leading startup community, universities, and other organisations.	・イノベーション経済の支援：Anthropicの最先端のシステムとツールを活用し、英国の世界をリードするスタートアップ・コミュニティ、大学、その他の組織を支援する。
・Situational awareness. Leveraging Anthropic’s Economic Index, which provides unique real-world AI model usage data to inform empirical insights into the integration of AI into the modern economy, inform future UK AI innovation, and ensure UK citizens can thrive in the AI-enabled economy.	・状況認識。AnthropicのEconomic Indexを活用し、ユニークな実世界のAIモデル利用データを提供することで、現代経済へのAIの統合に関する実証的洞察を提供し、将来の英国のAIイノベーションに情報を提供し、英国市民がAI対応経済で繁栄できるようにする。
This memorandum is voluntary, not legally binding, and without prejudice to any binding agreements. It does not prejudice against future procurement decisions.	この覚書は自発的なものであり、法的拘束力はなく、拘束力のある協定を損なうものではない。また、将来の調達決定を妨げるものではない。