中国「AI技術の濫用を是正する」特別措置を3ヶ月間、2段階にわけて実施 (2025.04.30): まるちゃんの情報セキュリティ気まぐれ日記

June 2025
Sun	Mon	Tue	Wed	Thu	Fri	Sat
1	2	3	4	5	6	7
8	9	10	11	12	13	14
15	16	17	18	19	20	21
22	23	24	25	26	27	28
29	30

2025.05.07

中国「AI技術の濫用を是正する」特別措置を3ヶ月間、2段階にわけて実施 (2025.04.30)

こんにちは、丸山満彦です。

生成AIを含むAI技術が社会にもたらす負の側面と中国共産党が考えることの取り締まり強化を3ヶ月間、2段階に分けて実施するようです。

第1段階：AI技術の源流管理を強化し、違法なAIアプリケーションを整理・整備し、AI生成合成技術とコンテンツの識別管理を強化し、ウェブサイトやプラットフォームの検出・偽装防止能力の向上を推進

違反AI製品の取り締まり強化
違反AI製品の使い方の伝授、宣伝等の取り締まり強化
トレーニングデータの管理強化
事業者の安全管理の強化
コンテンツの表示要件違反の取り締まり強化
重点分野（医療、金融、未成年者など）のセキュリティリスクへの対応強化

第2段階：AI技術を利用して、風説、虚偽の情報、わいせつで下品なコンテンツを制作・発信したり、他人になりすましたり、ネット工作活動に従事したりするなどの顕著な問題に着目し、関連する違法・有害な情報を集中的に整理し、違反アカウント、MCN機関、ウェブサイトプラットフォームを処分・処罰。

AIを利用して風説を流布に対する処分・処罰
AIを利用して虚偽の情報を制作・発信に対する処分・処罰
AIを利用して、わいせつで低俗なコンテンツを作成・発信に対する処分・処罰
AIを利用して他人を偽装し、著作権侵害や違法行為に対する処分・処罰
AIを利用してネット工作活動に対する処分・処罰
AI製品サービスおよびアプリケーションの違反行為に対する処分・処罰
未成年者の権利侵害に対する処分・処罰

● 中央网络安全和信息化委员会办公室 (Cyberspace Administration of China: CAC)

・2025.04.30 中央网信办部署开展“清朗·整治AI技术滥用”专项行动

中央网信办部署开展“清朗·整治AI技术滥用”专项行动	中央ネット情報弁公室、「清朗・AI技術の乱用取り締まり」特別措置の実施を指示
为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，近日，中央网信办印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。	AIサービスおよびアプリケーションの規範化、業界の健全かつ秩序ある発展の促進、および国民の合法的権利の保護を目的として、中央ネット情報弁公室は先日、全国規模で3カ月にわたる「清朗・AI技術の乱用取り締まり」特別措置の実施を指示する通知を発行した。
中央网信办有关负责人表示，本次专项行动分两个阶段开展。第一阶段强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，处置处罚违规账号、MCN机构和网站平台。	中央ネット情報弁公室の担当者は、今回の特別措置は2段階に分けて実施されると述べた。第1段階では、AI技術の源流管理を強化し、違法なAIアプリケーションを整理・整備し、AI生成合成技術とコンテンツの識別管理を強化し、ウェブサイトやプラットフォームの検出・偽装防止能力の向上を推進する。第2段階では、AI技術を利用して、風説、虚偽の情報、わいせつで下品なコンテンツを制作・発信したり、他人になりすましたり、ネット工作活動に従事したりするなどの顕著な問題に着目し、関連する違法・有害な情報を集中的に整理し、違反アカウント、MCN機関、ウェブサイトプラットフォームを処分・処罰する。
第一阶段重点整治6类突出问题：一是违规AI产品。利用生成式人工智能技术向公众提供内容服务，但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制，未定期排查清理违规语料。四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识，未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别，导致虚假信息误导公众。六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的，未针对性设置行业领域安全审核和控制措施，出现“AI开处方”“诱导投资”“AI幻觉”等问题，误导学生、患者，扰乱金融市场秩序。	第1段階では、6つの顕著な問題を取り締まる。1つ目は、違反AI製品だ。生成型AI技術を利用してコンテンツサービスを一般に提供しているが、大規模モデルに関する届出や登録手続きを行っていない。法律や倫理に反する「ワンクリックで服を脱がせる」などの機能を提供している。他人の音声や顔などの生体情報を、許可なく複製・編集し、プライバシーを侵害している。2つ目は、違反AI製品の教程や商品の販売・伝授。違反AI製品を利用して顔交換動画や音声交換動画を作成する方法を教える教程情報を伝授している。違反「音声合成器」「顔交換ツール」などの商品情報を販売している。違法なAI製品に関する情報をマーケティング、宣伝、普及している。3つ目は、トレーニング用データ管理の厳格化不足だ。他人の知的財産権、プライバシー権などの権利を侵害する情報を使用している。インターネットから収集した虚偽、無効、不実の内容を使用している。違法な出所のデータを使用している。トレーニング用データ管理メカニズムを構築しておらず、違法なデータを定期的に調査・削除していない。4つ目は、安全管理措置の脆弱さだ。事業規模に見合ったコンテンツの審査、意図の識別などの安全対策が確立されていない。効果的な違法アカウントの管理メカニズムが確立されていない。定期的なセキュリティ自己評価を実施していない。ソーシャルプラットフォームは、APIインターフェースを介してアクセスするAI自動返信などのサービスの基盤が不明確であり、管理が厳格ではない。5つ目は、コンテンツの表示要件が実施されていないこと。サービス提供者は、深層合成コンテンツに暗示的または明示的なコンテンツ表示を追加しておらず、ユーザーに明示的なコンテンツ表示機能を提供または提示していない。コンテンツ配信プラットフォームは、合成コンテンツの監視・選別を実施していないため、虚偽の情報が一般市民を誤解させる原因となっている。 6つ目は、重点分野のセキュリティリスクだ。医療、金融、未成年者などの重点分野における質問応答サービスを提供するAI製品が登録されているにもかかわらず、業界分野のセキュリティ審査および管理措置が適切に設定されておらず、「AIによる処方箋」や「投資誘導」、「AIの幻覚」などの問題が発生し、学生や患者を誤導し、金融市場の秩序を乱している。
第二阶段重点整治7类突出问题：一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等，编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道，发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑，生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素，翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民，传播迷信思想。三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频，衣着暴露、搔首弄姿等软色情、二次元擦边形象，或扮丑风等导向不良内容。制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术，假冒专家、企业家、明星等公众人物，欺骗网民，甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友，从事网络诈骗等违法活动。不当使用AI“复活逝者”，滥用逝者信息。五是利用AI从事网络水军活动。利用AI技术“养号”，模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿，批量生成发布低质同质化文案，博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论，刷量控评，制造热点话题上榜。六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务，例如创作类工具提供“热搜热榜热点扩写成文”等功能，AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。	第2段階では、7つの顕著な問題の改善に重点的に取り組む。1つ目は、AIを利用して風説を流布することだ。時事政治、公共政策、社会民生、国際関係、突発事件などに関する虚偽の情報をでっち上げたり、重大な方針政策を勝手に推測・悪意を持って解釈したりする。突発事件や災害事故などを利用し、原因、進展、詳細などをでっち上げたり捏造したりする。公式の記者会見やニュース報道を装って虚偽の情報を発信する。AIの認知バイアスを利用して生成されたコンテンツで悪意を持って誘導する。 2つ目は、AIを利用して虚偽の情報を制作・発信すること。無関係な画像や動画を切り貼りして編集し、虚実混在の半真実の情報を生成する。事件の発生日時、場所、人物などの要素を曖昧に改変し、過去のニュースを再利用する。金融、教育、司法、医療など専門分野に関する誇張や偽科学的な虚偽の内容を制作・発信する。AI占いやAI占いを利用してネットユーザーを誤導・欺瞞し、迷信思想を拡散する。3つ目は、AIを利用して、わいせつで低俗なコンテンツを作成・発信すること。AIの脱衣機能やAI絵作成機能を利用して、わいせつなコンテンツや他人のわいせつな画像・動画を合成し、露出度の高い服装や挑発的なポーズなどのソフトポルノや二次元キャラクターの境界線を越えた画像、醜悪な風貌のキャラクターなど、不健全なコンテンツを作成・発信する。血生臭い暴力シーンや、人体が歪曲変形した超現実的な怪物など、恐怖や不気味さを誘う画面を作成・発信する。性的な暗示が明らかな小説、投稿、メモなどの「小黄文」「荤段子」を生成合成する。4つ目は、AIを利用して他人を偽装し、著作権侵害や違法行為を行うこと。AIによる顔交換、音声クローンなどの高度な偽造技術を利用して、専門家、企業家、芸能人などの公人を偽装し、ネットユーザーを欺く行為。AIを利用して公人や歴史的人物を悪ふざけ、中傷、歪曲、変形する行為。 AIを利用して親族や友人を装い、ネット詐欺などの違法行為を行う。AIを不適切に利用して「故人を蘇らせる」行為や、故人の情報を濫用する。5つ目は、AIを利用してネット工作活動である。AI技術で「アカウント育成」を行い、本物の人間を模倣して大量のソーシャルメディアアカウントを登録・運営。AIコンテンツファームやAIリライトツールを利用して、低品質で同質的な文案を大量生成・投稿し、アクセス数を稼ぐ。 AI群制御ソフトウェアやソーシャルロボットを利用して、大量に「いいね！」やコメントを投稿し、アクセス数を水増しして話題を作り出す。6つ目は、AI製品サービスおよびアプリケーションの違反行為。偽造、偽装したAIウェブサイトやアプリケーションを作成、拡散する。AIアプリケーションが違反機能を提供する。例えば、創作ツールが「トレンドワードや人気ランキングの話題を文章に展開」する機能を提供したり、AIソーシャル、チャットアプリが低俗なソフトポルノ会話サービスを提供したりする。違法なAIアプリケーション、生成合成サービス、またはコースの販売、宣伝、誘導など。7つ目は、未成年者の権利侵害。AIアプリケーションが未成年者を依存に誘導したり、未成年者モードで未成年者の心身健康に悪影響を及ぼすコンテンツを含むなど。
中央网信办有关负责人强调，各地网信部门要充分认识专项行动对于防范AI技术滥用风险，维护网民合法权益的重要意义。切实履行属地管理责任，督导网站平台对照专项行动有关要求，健全AI生成合成内容审核机制，提升技术检测能力，做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，不断凝聚治理共识。	中央ネット情報弁公室の担当者は、各地のネット情報部門は、AI技術の乱用リスクの防止とネットユーザーの合法的な権利の保護における特別措置の重要性を十分に認識すべきだと強調した。管轄区域の管理責任を確実に履行し、ウェブサイトプラットフォームが特別措置の関連要件を遵守するよう監督し、AI生成合成コンテンツの審査メカニズムを整備し、技術検査能力を向上させ、改善措置を確実に実施すること。人工知能関連政策の広報・普及と人工知能リテラシーの科学教育を強化し、各関係者に人工知能技術の正しい理解と活用を促し、ガバナンスに関するコンセンサスを継続的に形成すること。