OWASP LLM AI サイバーセキュリティとガバナンスのチェックリスト〜失敗しない大規模言語モデル導入のために〜 (2024.04.10)

こんにちは、丸山満彦です。

OWASPの LLM AI サイバーセキュリティとガバナンスのチェックリスト〜失敗しない大規模言語モデル導入のために　Ver1.1が英語版と同時に日本語版も公開されていますね... 岡田さん含めみなさんの尽力ですね...

● OWASP

・2024.05.07 LLM Applications Cybersecurity and Governance Checklist v1.1 – English

・2024.04.10 [PDF] LLM AI サイバーセキュリティとガバナンスのチェックリスト〜失敗しない大規模言語モデル導入のために〜 

第一章　概 要
責任ある信頼できるAI
対象読者
なぜチェックリストが必要なのか
将来にわたって網羅的ではない
大規模言語モデルの課題
AIの脅威の分類
AIのセキュリティとプライバシーのトレーニング
LLMのセキュリティとガバナンスを既存の施策に組み込む
セキュリティの基本原則  6 リスク  7 脆弱性と対応策

第二章　LLM導入戦略の策定
導入戦略

第三章　失敗しないLLM導入のためのチェックリスト
敵対的リスク
脅威のモデリング
AI資産目録
AIセキュリティとプライバシー研修
ビジネスケースの確立
ガバナンス
法務
規制（米国、カナダ）
大規模言語モデルソリューションの使用または実装
試験、評価、検証、妥当性確認（TEVV）
モデル・カードとリスク・カード
RAG：大規模言語モデルの最適化
AIレッドチーム

第四章　LLM導入に役立つリソース
OWASPのリソース
MITREのリソース
AI脆弱性リポジトリ
AIモデルの脆弱性を追跡する企業
AI調達ガイダンス

チーム
チェックリストの作成
日本語版の作成

生成AI関係はこちら...

● OWASP ーGenAI Security Project