米国 NIST AI 800-1（第2ドラフト）デュアルユースの基盤モデルの悪用リスクの管理 (2025.01.15)

こんにちは、丸山満彦です。

NISTがAI 800-1 デュアルユースの基盤モデルの悪用リスクの管理の公開ドラフト第2版を公開し、意見募集をしていますね...

AIの悪用に関して、技術面だけでなく、社会面も含めて広範に分析していますね...

● NIST - ITL

・2025.01.15 Updated Guidelines for Managing Misuse Risk for Dual-Use Foundation Models

Updated Guidelines for Managing Misuse Risk for Dual-Use Foundation Models	デュアルユース基礎モデルの悪用リスクの管理に関するガイドラインの更新
The second draft of NIST AI 800-1 is now available for review and public comment through March 15, 2025.	NIST AI 800-1 の第 2 ドラフトが、2025 年 3 月 15 日まで公開され、意見募集が行われている。
The U.S. AI Safety Institute (US AISI) at the National Institute of Standards and Technology (NIST) released the second public draft of its guidelines on Managing Misuse Risk for Dual-Use Foundation Models (NIST AI 800-1), which outlines voluntary best practices for identifying, measuring, and mitigating risks to public safety and national security across the AI lifecycle.	米国国立標準技術研究所（NIST）の米国 AI 安全研究所（US AISI）は、AI のライフサイクル全体における公共の安全および国家安全保障に対するリスクの識別、測定、緩和に関する自主的なベストプラクティスをまとめた、デュアルユース基礎モデルの悪用リスクの管理に関するガイドライン（NIST AI 800-1）の 2 番目の公開ドラフトを発表した。
US AISI made a number of improvements to the initial public draft (released July 2024) to improve usability and incorporate thoughtful feedback from more than 70 industry, academic, and civil society experts submitted during the initial comment period.	US AISI は、最初の公開ドラフト（2024 年 7 月公開）に対して、使いやすさを改善し、最初の意見募集期間に 70 以上の業界、学術界、市民社会の専門家から寄せられた慎重なフィードバックを反映するため、数多くの改善を行った。
Key updates in this expanded version include:	この拡張版における主な更新点は次のとおりである。
・Detailing Best Practices for Model Evaluations: This version was expanded to include a new appendix, which provides a detailed overview of existing approaches to measuring misuse risk and is intended to help make these guidelines more actionable for developers and other users.	・モデル評価のベストプラクティスの詳細：このバージョンでは、悪用リスクを測定するための既存のアプローチの詳細な概要を記載した新しい附属書が追加されました。これは、開発者やその他のユーザーがこのガイドラインをより実用的に活用できるようにするためのものである。
・Expanding Domain-Specific Guidelines on Cyber and Chemical and Biological Risk: In order to help operationalize these guidelines in high-priority public safety and national security domains, US AISI added two extensive appendices to the document – one on chemical and biological misuse risk and a second on cybersecurity misuse risk.	・サイバーリスクおよび化学・生物学的リスクに関する分野別ガイドラインの拡充： 公共の安全および国家安全保障の優先度の高い分野において本ガイドラインを運用しやすくするため、US AISI は、化学物質および生物学的悪用リスクに関する附属書と、サイバーセキュリティの悪用リスクに関する附属書の 2 つの詳細な附属書を文書に追加した。
・Underscoring a Marginal Risk Framework: Throughout the document, US AISI further clarified the importance of a “marginal risk” framework for assessing and managing risk when analyzing the potential impact of a given foundation model.	・限界リスクの枠組みの強調：文書全体を通じて、US AISI は、特定の基盤モデルの潜在的な影響を分析する際に、リスクを評価および管理するための「限界リスク」の枠組みの重要性をさらに明確化した。
・Addressing Open Models: These guidelines were updated to support their proportional application to and usefulness for open model developers, underlining US AISI’s continued support of the trustworthy development and deployment of both open and closed models.	・オープンモデルへの対応：このガイドラインは、オープンモデル開発者に対する比例的な適用と有用性を支援するために更新され、オープンモデルとクローズドモデルの両方の信頼性の高い開発と展開に対する US AISI の継続的な支援が強調されている。
・Managing Risk Across the AI Supply Chain: While model developers remain the main audience for these guidelines, US AISI included additional content to support risk management practices for a range of actors across the AI supply chain.	・AI サプライチェーン全体のリスク管理：このガイドラインの主な対象者は引き続きモデル開発者であるが、US AISI は、AI サプライチェーン全体のさまざまな関係者のリスクマネジメントの実践を支援するための追加コンテンツを追加した。
Input from a variety of stakeholders meaningfully strengthened the resulting guidelines. US AISI is committed to ensuring broad input and extensive collaboration to safely harness the immense potential of this technology and advance American leadership in artificial intelligence innovation.	さまざまな利害関係者からの意見が、このガイドラインを大幅に強化した。US AISI は、この技術の膨大な可能性を安全に活用し、人工知能のイノベーションにおけるアメリカのリーダーシップを推進するために、幅広い意見の収集と広範な協力に努めている。
US AISI is seeking another round of public feedback on this second draft of its guidelines on Managing Misuse Risk for Dual-Use Foundation Models (NIST AI 800-1).	US AISI は、デュアルユース基礎モデルの悪用リスクの管理に関するガイドライン（NIST AI 800-1）の 2 回目のドラフトについて、再びパブリックコメントを募集している。

・[PDF]

・[DOCX][PDF] 仮訳