米国 連邦取引委員会 AIコンプライアンス作戦：過剰な約束やAI関連の嘘に対する取り締まりを継続

こんにちは、丸山満彦です。

米国連邦取引委員会が、AIコンプライアンス作戦についてのブログを載せていますね。。。AIにかこつけた詐欺的な話にだまされんようにということやね...

いつの世も、甘い話には...ですよね...欲をかき過ぎると失うものは多い、欲がなければ、得るものが少ない...こころのバランスは難しいですね...

FTCが上げている例示５つは興味深いです...

で、

消費者へのメッセージは...

・有資格の専門職を完全に代替できると主張するAI関連製品には懐疑的になるべきである。

（AIは良い出発点になるが、完全な置き換えにはならない。細かい事実関係の違いで結果が大きくことなるから、このような状況で完全にAIに置き換えられるわけがないだろう...）

というのは、その通りだと思いました...

● U.S. Federal Trade Commission

ブログ...

・2024.09.25 Operation AI Comply: continuing the crackdown on overpromises and AI-related lies

Operation AI Comply: continuing the crackdown on overpromises and AI-related lies	AIコンプライアンス作戦：過剰な約束やAI関連の嘘に対する取り締まりを継続
Maybe you grew up daydreaming about artificial intelligence, or AI. You imagined its potential to change the future, possibly with an army of helpful robots to take on your least favorite human tasks. The Star Wars franchise had R2-D2. The Jetsons had Rosey. There was RoboCop. And when everything else was gone, the world had WALL-E, the stoic trash collector looking for love. Now, as a business owner, you’re always watching for the next big invention to fine-tune processes and increase profitability. And some marketers can’t resist taking advantage of that by using the language of AI and technology to try to make it seem like their products or services deliver all the answers.	もしかしたら、あなたは人工知能(AI)について夢想しながら成長してきたのかもしれない。あなたは、未来を変える可能性を想像した。おそらく、最も苦手な人間的な作業を引き受ける、役に立つロボットの軍団とともに。スターウォーズ』シリーズにはR2-D2がいた。『宇宙家族ジェットソン』にはロージーがいた。『ロボコップ』もいた。そして、すべてが失われた後、世界には愛を求めるストイックなゴミ収集車、WALL-Eがいた。今、あなたはビジネスオーナーとして、プロセスを微調整し収益性を高めるために、次の大きな発明を常に探している。そして、一部のマーケティング担当者は、AIやテクノロジーの言葉を使って、自社の製品やサービスがすべての答えを提供しているかのように見せかけようとする。
Today, as part of Operation AI Comply, the FTC is announcing five cases exposing AI-related deception. First, we have four settlements involving allegedly deceptive claims about AI-driven services, three of which are oldies but not-so-goodies: deceptive business opportunity scams that claim to use AI to help people earn more money, faster. We also have a settlement involving a company that offered a generative AI tool that let people create fake consumer reviews. Here’s what you need to know:	本日、FTCは「AIコンプライアンス作戦」の一環として、AI関連の欺瞞を暴いた5つの事例を発表た。まず、AI駆動型サービスに関する欺瞞的とされる主張を含む4つの和解案があるが、そのうち3つは、AIを使ってより早くより多くのお金を稼ぐ手助けをするという欺瞞的なビジネスチャンス詐欺という、昔からあるがそれほど良いものではないものだ。また、偽の消費者レビューを生成できる生成的AIツールを提供していた企業に関する和解案もある。知っておくべきことは以下の通りである。
DoNotPay: An FTC complaint claims U.K.-based DoNotPay told people its online subscription service acts as “the world’s first robot lawyer” and an “AI lawyer” by using a chatbot to prepare “ironclad” documents for the U.S. legal system. The complaint also says DoNotPay told small businesses its service could check their websites for law violations and help them avoid significant legal fees. In fact, according to the complaint, DoNotPay’s service didn’t live up to the hype. You’ll have 30 days to comment on a proposed settlement between FTC and DoNotPay, which requires DoNotPay to stop misleading people, pay $193,000, and tell certain subscribers about the case.	DoNotPay:FTCの申し立てによると、英国を拠点とするDoNotPayは、チャットボットを使用して米国の法制度に適した「鉄壁」の文書を作成する同社のオンライン購読サービスについて、「世界初のロボット弁護士」および「AI弁護士」として宣伝していたという。訴状によると、DoNotPayは小規模企業に対して、同社のサービスは法律違反の疑いがあるウェブサイトをチェックし、多額の弁護士費用を回避する手助けができると説明していたという。実際には、訴状によると、DoNotPayのサービスは宣伝文句ほどの効果はなかった。FTCとDoNotPayの和解案について、30日以内に意見を提出する。和解案では、DoNotPayは人々を欺く行為を停止し、19万3000ド：を支払い、特定の加入者にこの件について通知することが求められている。
Ascend Ecom: An FTC complaint filed in California alleges a group of companies and their officers used deceptive earnings claims to convince people to invest in “risk free” business opportunities supposedly powered by AI. Then, when things went sour, the FTC says, the defendants refused to honor their “risk free” money-back guarantees, and threatened and intimidated people to keep them from publishing truthful reviews. According to the complaint, the defendants’ conduct violated the FTC Act, the Business Opportunity Rule, and the Consumer Review Fairness Act.	Ascend Ecom：カリフォルニア州で提出されたFTCの申し立てによると、企業グループとその役員は、AIによって推進されているはずの「リスクフリー」のビジネスチャンスに投資するよう人々を説得するために、欺瞞的な収益主張を使用した。そして、状況が悪化した際、FTCによると、被告らは「リスクフリー」の返金保証を履行することを拒否し、人々を脅迫して脅し、真実のレビューを公表しないよう仕向けたという。訴状によると、被告らの行為は、FTC法、ビジネス・オポチュニティ規則、消費者レビュー公正法に違反している。
Ecommerce Empire Builders: In a complaint filed in Pennsylvania, the FTC claims a company and its officer violated the FTC Act and the Business Opportunity Rule with their AI-infused earnings claims. According to the complaint, in addition to failing to provide required statements and disclosures, the defendants promised people they would quickly earn thousands of dollars a month in additional income by following proven strategies and investing in online stores “powered by artificial intelligence.” The complaint also says the defendants made clients sign contracts keeping them from writing and posting negative reviews, in violation of the Consumer Review Fairness Act.	Ecommerce Empire Builders：ペンシルベニア州で提出された訴状によると、FTCは、AIを駆使した収益の主張により、ある企業とその役員がFTC法およびビジネス・オポチュニティ規則に違反したと主張している。訴状によると、必要な声明や開示を行わなかったことに加え、被告らは、実績のある戦略に従い、「人工知能を駆使した」オンラインストアに投資することで、人々がすぐに毎月数千ドルの追加収入を得られると約束したという。また、この訴状によると、被告らは消費者レビュー公正法に違反して、顧客に否定的なレビューを書いたり投稿したりしないよう契約で義務付けたという。
FBA Machine: In June, the FTC filed a complaint against a group of New Jersey-based businesses and their owner, claiming they used deceptive earning claims to convince people to invest in a “surefire” business opportunity supposedly powered by AI. According to the complaint, the defendants promised people they could earn thousands of dollars in passive income. Then, the FTC says, the defendants threatened people who tried to share honest reviews, and told people they couldn’t get refunds unless they withdrew their complaints. According to the FTC, through these tactics, which violate the FTC Act, the Business Opportunity Rule, and the Consumer Review Fairness Act, the defendants defrauded their customers of more than $15.9 million. The case is ongoing.	FBAマシン：6月、FTCはニュージャージー州を拠点とする企業グループとそのオーナーを相手取り、AIを駆使した「確実な」ビジネスチャンスに投資するよう人々を説得するために、欺瞞的な収益主張を使用したとして訴訟を起こした。訴状によると、被告らは人々に何千ドルもの不労所得が得られると約束した。その後、FTCによると、被告は正直なレビューを共有しようとした人々を脅迫し、苦情を取り下げない限り返金はできないと人々に伝えた。FTCによると、FTC法、ビジネス・オポチュニティ規則、消費者レビュー公正法に違反するこれらの戦術により、被告は顧客から1590万ドル以上を詐取した。この訴訟は継続中である。
Rytr: According to an FTC complaint, a Delaware-based company sold an AI-enabled writing assistant with a tool specifically designed for its customers to generate online reviews and testimonials. The problem? The complaint says Rytr customers could, with little input, generate an unlimited number of reviews with specific details that would almost certainly not be true for those users. According to the complaint, some Rytr customers used this tool to quickly generate thousands of false reviews that would have tricked people reading those reviews online. This, the FTC says, likely harmed many people and was unfair. Rytr has agreed to a proposed settlement prohibiting the company – or anyone working with it – from advertising or selling any service promoted for generating reviews. You can submit your public comments for 30 days.	Rytr：FTCの申し立てによると、デラウェア州に拠点を置く企業が、顧客のために特別に設計されたツールを搭載したAI対応のライティングアシスタントを販売していた。問題は何か?申し立てによると、Rytrの顧客はほとんど入力作業なしで、ほぼ確実に真実ではない詳細情報を記載したレビューを無制限に生成することができたという。訴状によると、Rytrの顧客の中には、このツールを使用して、オンラインでレビューを読む人を欺くような、数千件もの偽のレビューを素早く作成した者もいたという。FTCは、これは多くの人々に損害を与え、不当な行為であると述べている。Rytrは、同社または同社と提携する人物が、レビューの生成を目的としたサービスの広告または販売を行うことを禁止する和解案に同意した。30日間の期間内に、一般コメントを提出することができる。
So, what’s the takeaway?	では、何を学んだだろうか?
First, if you’re looking for AI-based tools to use in your business:	まず、ビジネスで使用するAIベースのツールを探しているなら、
・Be skeptical of AI-related products that claim they can fully replace a qualified human professional. Firms are rushing to claim that their AI tools can replace the work of doctors, lawyers, and accountants. But when it comes to legal or financial advice, small mistakes lead to big problems, and not every firm can back up their claims with tools that are actually equipped to address complicated, fact-intensive cases. AI tools can be a good starting point, but be skeptical of claims that they can fully replace a professional.	・有資格の専門職を完全に代替できると主張するAI関連製品には懐疑的になるべきである。企業はこぞって、自社のAIツールが医師、弁護士、会計士の仕事を代替できると主張している。しかし、法律や財務に関するアドバイスにおいては、小さなミスが大きな問題につながるため、すべての企業が、複雑で事実関係が重視される案件に対処できるツールを実際に備えており、その主張を裏付けることができるわけではない。AIツールは良い出発点となり得るが、AIツールが専門職を完全に代替できるという主張には懐疑的になるべきである。
・Don’t take shortcuts on reviews. You know people read reviews before buying your product or service, and you might be tempted to use AI tools to help you fake your way to five stars. Don’t do it. By posting fake reviews you betray your customers’ trust and hurt honest businesses trying to compete fairly. And, you may violate the FTC Act and the FTC’s Rule on the Use of Consumer Reviews and Testimonials in the process. We’ve published a guide with tips on soliciting and paying for online reviews. Check it out and avoid problems.	・レビューに近道を求めるべきではない。顧客が貴社の製品やサービスを購入する前にレビューを読むことは周知の事実であり、AIツールを利用して5つ星の評価を偽装したい誘惑に駆られるかもしれない。しかし、それはすべきではない。偽のレビューを投稿することは、顧客の信頼を裏切る行為であり、公正な競争をしようとしている誠実な企業を傷つける行為である。また、その過程で連邦取引委員会法および連邦取引委員会の消費者レビューおよび体験談の利用に関する規則に違反する可能性もある。弊社では、オンラインレビューの依頼と報酬に関するヒントをまとめたガイドを公開している。ぜひご一読いただき、問題を回避していただきたい。
Second, if you’re tempted to mention AI in ads to boost sales:	次に、販売促進のために広告でAIについて言及したい誘惑に駆られた場合:
・Don’t say you use AI tools if you don’t. Easy enough, right? If you’re investigated by the FTC, our technologists and others can look at your product or service and figure out what’s really going on. Be aware that just using an AI tool when you’re developing your product is not the same as offering your customers a product with AI inside. Tell the truth.	・AIツールを使用していないのに、AIツールを使用していると述べてはならない。簡単だろう?FTCの調査を受けた場合、当社の技術者やその他の専門家が貴社の製品やサービスを調査し、何が実際に起こっているのかを解明することができる。製品開発時にAIツールを使用していることと、顧客にAIを搭載した製品を提供していることは同じではないことを認識すべきである。真実を伝えること。
・A lie in robot’s clothing is still a lie: the same old advertising principles apply. The FTC expects you to have a reasonable basis for any claim you make about your product or service. If special rules apply to the product or service you offer, like business opportunities, you must follow those as well. Don’t think using technological jargon or saying your product or program relies on AI changes the analysis. When it comes to business opportunities, if the FTC investigates you, we’re going to check to see whether you can back up your earnings and other claims, and whether you’re supplying appropriate disclosures to your customers. Don’t claim your program uses new technologies to help people make more money unless that’s true. Have concrete data demonstrating what you’re promising is typical for your customers.	・ロボットの服を着た嘘は、やはり嘘である。昔ながらの広告の原則が適用される。FTCは、貴社が製品やサービスについて主張する内容について、妥当な根拠があることを期待している。貴社が提供する製品やサービスに特別なルールが適用される場合、例えばビジネスチャンスなど、それらも遵守しなければならない。技術的な専門用語を使用したり、貴社の製品やプログラムがAIに依存していると述べたりしても、分析が変わるわけではない。ビジネスチャンスに関して言えば、FTCがあなたを調査した場合、私たちは、あなたの収益やその他の主張を裏付けることができるかどうか、また、顧客に適切な開示を行っているかどうかを確認する。あなたのプログラムが新しい技術を使用して人々がより多くのお金を稼ぐのを支援していると主張する場合は、それが事実である場合に限る。あなたが顧客に約束していることが典型的なものであることを示す具体的なデータを用意する。
Finally, be informed:	最後に、情報を入手しておくこと:
・These cases are just the latest in the FTC’s ongoing work to combat AI-related issues in the marketplace from every angle. We’re checking to see whether products or services actually use AI as advertised, if so, whether they work as marketers say they will. We’re examining whether AI and other automated tools are being used for fraud, deception, unfair manipulation, or other harmful purposes. On the back end, we’re looking at whether automated tools have biased or discriminatory impacts. You can read about other cases here: Automators, Career Step, NGL Labs, Rite Aid, CRI Genetics.	・これらの事例は、市場におけるAI関連の問題をあらゆる角度から取り締まるFTCの継続的な取り組みにおける最新のものに過ぎない。我々は、製品やサービスが実際に広告通りにAIを使用しているか、また、そうであれば、マーケティング担当者が主張する通りに機能しているかを確認している。また、AIやその他の自動化ツールが詐欺、欺瞞、不正操作、その他の有害な目的に使用されていないかについても調査している。さらに、自動化ツールがバイアスや差別的な影響を与えていないかについても確認している。その他の事例については、こちらを参照のこと:Automators、Career Step、NGL Labs、Rite Aid、CRI Genetics。
・For more information on how to avoid getting swept up in one of our law enforcement efforts, check out the FTC’s AI and Your Business series:	・FTCのAIと貴社ビジネスシリーズで、法執行活動に巻き込まれないための詳細を確認する。
・・Keep your AI claims in check	・・AIの主張を抑制する
・・Chatbots, deepfakes, and voice clones: AI deception for sale	・・チャットボット、ディープフェイク、音声クローン:販売されるAIの欺瞞
・・The Luring Test: AI and the engineering of consumer trust	・・誘惑テスト:AIと消費者信頼の構築
・・Watching the detectives: Suspicious marketing claims for tools that spot AI-generated content	・・探偵の監視:AI生成コンテンツを検知するツールの疑わしいマーケティング主張
・・Can’t lose what you never had: Claims about digital ownership and creation in the age of generative AI	・・失うものなどない:生成的AI時代のデジタル所有権と創作に関する主張
・・Succor borne every minute	・・救いは毎分訪れる

余裕なあるかたは5つのケースも読むとよいと思います。訴状、命令等のリンクもあります...

・2024.09.25 DoNotPay

・2024.09.25 Ascend Ecom

・2024.09.25 Empire Holdings Group LLC, et al. FTC v.

・2024.09.25 FBA Machine

・2024.09.25 Rytr