« 事業継続計画策定済みは15% KPMGビジネスアシュアランス調べ | Main | SAS No.55の内部統制の要素 »

2006.08.27

総務省 ネット上のウソ発見器開発?

 こんにちは、丸山満彦です。総務省がまたまたすごいことを考えているようです。なんでも、インターネット上のウソや間違いらしい情報を自動的に洗い出すシステムの開発を考えているようです。
仕組みは、ネット上にある関連深い別の情報を探し出し、比較参照することで、情報の「デマ率」などを示すということらしいです。

 
 多数決で決めるということなのでしょうかね・・・
 もしそうであれば、多数のウソと少数のホントがあれば、多数のウソがホントになり、少数のホントがウソになってしまいそうですが、そのあたりは旨くホントとウソを見分ける方法があるのでしょうね・・・。
 この研究に3億円の予算申請をするそうです。

■朝日新聞
・2006.08.26 ネット情報「ウソ発見器」 総務省が開発へ

=====
 完成すれば、ある情報のデマ率を調べたり、ネットで検索するときに信頼性のある順番に表示したりできるという。「この情報はデマ率95%ですが表示しますか」などという注意表示もできるようになる。
=====

 なるほど・・・

 このブログも評価されることになるのでしょう・・・。やばいなぁ・・・。

|

« 事業継続計画策定済みは15% KPMGビジネスアシュアランス調べ | Main | SAS No.55の内部統制の要素 »

Comments

丸山 様

夏井です。

どんなアルゴリズムとデータベースを用いて判定するのか非常に興味がありますね。

もしこの現代の世界に「裸の王様」が存在すると仮定すると(ロックシンガーの「王様」は上半身が裸ですけど・・・(笑)),世の大半のコンテンツには「王様は立派な服を着ている」と書かれることになるんでしょうね。たまに純真な子供が「王様は裸だよ」という書き込みをすれば,デマ情報として扱われるのでしょうか?

私なぞは発言する時点では非常識との判定をされてしまいがちな発言をし続けてきましたけど,かつて非常識と批判された発言であってもその大半が現時点では通説化または常識化しています。凡庸なことしか考えられない人には理解できないことでも真理は真理なので曲げようがないと思うのですけど,きっとデマ情報として扱われてしまうんでしょうね。(苦笑)

また,時間的推移という要素や情況関数のようなものも検討せざるを得ないですね。例えば,数日前までは「冥王星は惑星ではない」という情報はデマ情報に分類されてしまったのかもしれませんけど,現時点では「冥王星は惑星だ」という情報がデマ情報だということになってしまいそうです。しかし,時間的推移や情況判断などのできないシステムでは,判定基準それ自体の確実性や健全性の検証が常にできないという結論になりそうです。

もともと,概念を示すためのシンボルそれ自体は単なるシンボルに過ぎないものであり,それによって示されるべき意味・概念は人間の側の脳内でのみ処理され判別されるものです。コンピュータには概念の処理などできません。したがって,非常に簡単な三段論法により,「デマの判別などできない」という結論しか出てこないように思うのですけど,それがコンピュータによって処理できるようになったとは非常に驚きです。

かつて第五世代コンピュータの時代に人工知能の世界にも首をつっこんでいた人間の一人として,是非ともそのアルゴリズムとデータベースの構造を知りたいものだと思います。

Posted by: 夏井高人 | 2006.08.29 08:09

夏井先生、コメントありがとうございます。

=====
概念を示すためのシンボルそれ自体は単なるシンボルに過ぎないものであり,それによって示されるべき意味・概念は人間の側の脳内でのみ処理され判別されるものです。コンピュータには概念の処理などできません。したがって,非常に簡単な三段論法により,「デマの判別などできない」という結論しか出てこないように思うのですけど,
=====
私も賛成です。でも、こういう意見は、信憑性が低い意見と言われるかも知れませんね。


Posted by: 丸山満彦 | 2006.08.30 00:34

丸山 様

夏井です。

何だかんだと夜なべ仕事中です・・・(苦笑)

私は会計や経理の専門家ではないので間違っているかもしれませんけど,金額の整合性などはコンピュータによって自動的に判別できる範囲が比較的大きいのではないかと思います。しかし,帳票等の記載の信憑性の判断は金額の整合性判断だけでは決まらないことがあり,そのような場合にはコンピュータによる自動判別ができないことになるだろうと推測しています。

もし仮にこのような意見が正しいとしても,信憑性の乏しい意見として扱われてしまうんでしょうね。

なぜなら,仮に「コンピュータによる自動判別ができない場合がある」という意見の信憑性が高いとすれば,「コンピュータによるデマ情報の判別ができる」という一般的な結論と根本から自己矛盾してしまうような結果を招いてしまいますからね。(笑)

そうすると,「場合により結論が異なる」といったタイプの意見は原則としてデマ情報として自動判別されてしまう可能性があります。

しかしねぇ・・・

世の中の出来事の大半は,状況によって判断が異なるんですよ。コンピュータによって簡単に判別できるほど単純な構造にはなっていないと思います。

もちろん,常識をもたず,非常に単純素朴で,かなり限定された乏しい機能しかない頭脳の持ち主にとっては,丸山様の意見も私の意見も全く理解できないだろうと想像しますけど・・・(笑)

そこで,コンピュータによる自動判別が可能かどうかを試すためのテスト問題を用意しました。

次のテキストの信憑性を正確に自動判定できたらそのシステムは合格です。その場合には,私の意見を撤回しましょう。

「国会議員や公務員の汚職等の非違行為に関する風評の信憑性を,検察庁が起訴し有罪判決を得ることができる程度の確度をもって,コンピュータより自動的に判定することができる」

もし仮に「このようなタイプの課題には対処できないけれども一定の制約された範囲内では対処可能だ」というのであれば,その制約条件と対処可能な対象範囲を明確に示した上でそのシステムを運用するのでなければ,そのシステムそれ自体が「デマシステム」であることになりかねないですね。(笑)

Posted by: 夏井高人 | 2006.08.30 03:14

夏井先生、コメントありがとうございます。夜遅くまでお疲れ様です。

朝日新聞の記事では、
=====
ネット上の情報は、何人もの目で事前に校閲された出版物などに比べ、誤った内容が少なくない。信頼性を確かめるには、利用者が他の情報と付き合わせるなどの作業を行うしか手がない。
=====
と説明されていますが、何人もの目で事前に校閲された出版物であっても誤った内容がないわけではないと説明しているわけですが、そのとき、そのときの状況で何が正しいことであるのか(それはきっとひとつに決まらないこともあるのでしょうが)を考える力をつけることが重要なことだと思うんですよね。

Posted by: 丸山満彦 | 2006.08.30 08:48

丸山 様

夏井です。

健康食品や民間薬の薬効に関しては,まったくでたらめの内容を記載した「書籍」が刊行され,かなり多数の部数が販売されて大量に増刷されておりながら,だいぶあとになってから「実はインチキだ」ということが分かって関連法規違反ということで検挙された事例がいくつもありますね。この場合,その「出版物」は,ウソであっても読者を巧みに騙すことができるように,プロのライターなどを動員して「何人もの目で事前に校閲」されているはずです。つまり,本当はウソなのにその信憑性を高めるために書籍の出版という体裁をとっているわけです。難病に苦しむ人々の苦悩につけこもうとするその悪質さや違法の度合いは筆舌に尽くし難いものがありますね。ちなみに,新聞社やTVに出演している有名人がそのようなインチキ健康食品を推奨するようなことをしたり,そもそもその書籍の出版元が新聞社系の出版社であったりするとますますもってそのインチキ本の信憑性が高められてしまうことになります。いくらでもその実例をあげることができますが,名誉毀損だと非難されるといやなので実例はあげません(どの出版社でも新聞社でもTV局でも本当は明確に自覚しているはずだと思います。)。

ともかく,このような事例が数多くあることからすれば,丸山様があげておられるような新聞記事それ自体の「信憑性」がほとんどないということを誰でも理解することができると思います。つまり,論拠になっていません。

ただし,範囲を限定し,科学的に検証可能な問題に特化するのであれば,「デマ」かどうかを判定できる場合がないわけではないので,その範囲内に限定するというポリシーをしっかりと構築しそれを遵守する限りにおいてはデマ情報であることを公示するシステムを構築することが可能だろうと思っています。例えば,「偽ウイルス情報」などがその典型例でしょう。この例では,適用範囲が情報セキュリティに限定されており,当該情報それ自体の真贋を科学的に検証することが可能で,常に一義の結果をもたらすことができますので,「明らかなデマ」かどうかを判定できるわけです。

しかし,およそ情報全般についてデマかどうかの判定の対象範囲を広げるとすれば,最初から破綻してしまうことが明らかです。

文字情報の中でも最も論理的な部類に入るとされている法律情報でさえ,学説上の争いがいくらでもあるし,訴訟という限定された場所でやりとりされる訴訟関係書類の中にも偽造やらウソやら間違いやらがいくられも混じっています。しかも,敗訴した当事者が「偽造でもウソでも間違いでもない」として上訴することは日常茶飯事で,敗訴が確定しても「自分は正しい」と言い張り続ける人が現実に多数あります。つまり,このようにかなり限定された世界でさえ,何が正しくて何がウソであるかを確定することが非常に困難な場合が決して少なくないんですよ。

・・・と書き始めればキリがないので,ここらでやめておきます。

やりかけの仕事を続けねば・・・(とほほ)

Posted by: 夏井高人 | 2006.08.30 15:52

夏井先生、コメントありがとうございます。

範囲を限定するというアプローチは有益でしょうね。
 なんでもそうですが、汎用的に使えるものというのは、そのまま汎用的には使えないことが多いですね。
 特に厳密性が求められるものは、範囲を限定しなければ無理でしょう。どちらも・・・というのは難しいでしょうね。。。

Posted by: 丸山満彦 | 2006.08.31 13:08

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



TrackBack


Listed below are links to weblogs that reference 総務省 ネット上のウソ発見器開発?:

» [記事][IT][ネット]asahi.com:ネット情報「ウソ発見器」 総務省が開発へ-社会 [個人研究者の愚痴帳]
こちら経由 まるちゃんの情報セキュリティ気まぐれ日記: 総務省 ネット上のウソ発見器開発? 久々に政府が笑わせてくれた。あまり批判的なことは書かないようにしようと思っていたのだけれど、これはあまりに馬鹿馬鹿しいので取り上げておこう。 ネット上の情報は、何人もの... [Read More]

Tracked on 2006.08.27 22:59

» [ウソ発見器]国認定のガセネタ? [BBRの雑記帳]
ひと言、大きなお世話です。 ネット情報「ウソ発見器」 総務省が開発へ(asahi.com) (元ニュースはこちら) (記事引用) 真偽が見極め難いさまざまな情報が乱れ飛ぶインターネット。その中で、ウソや間違いらしい情報を自動的に洗い出し、ネットの利便性を...... [Read More]

Tracked on 2006.08.30 22:24

« 事業継続計画策定済みは15% KPMGビジネスアシュアランス調べ | Main | SAS No.55の内部統制の要素 »