« 公認会計士協会 パブコメ IT委員会研究報告第31号「IT委員会報告第3号「財務諸表監査における情報技術(IT)を利用した情報システムに関する重要な虚偽表示リスクの評価及び評価したリスクに対応する監査人の手続について」Q&A」 | Main | 埼玉の信用金庫 ATMに設置された隠しカメラの被害3000万円以上? »

2005.12.24

情報セキュリティに関する最近の悩み

 こんにちは、丸山満彦です。最近の悩みです。私達はどこまで情報システムに依存して生活すべきか?ということなんです。可能性はある、でも、リスクもある、社会的にどこでバランスをとるべきか?技術はどこまで成熟してきたのか、それともstill発展途上で成熟していないのか?

 
 東京証券取引所のシステムエラー、風雪による新潟の停電、いつまでもなくならない脆弱性の発見とパッチ・・・どこまで私達は情報システムに依存することができるのか?

 もっとも難しいと考えているのは、命にかかわることなんですね。

 というと医療という話がでてくるかもしれませんが、医者と話をしていると、今のところ医療は目の前の患者を診察できないようでは医者ではない。電子カルテが見れなくてもよっぽど難しい問題でなければ問題ない。ということで、電子カルテがあれば便利、なくても多くの場合目の前の患者をみることは可能。

 ではなくて、たとえば、人間の目の代わり、人間の耳の代わり、人間の手や足の代わりになった場合、どこまで信頼できるのかということです。

 たとえば、目の見えない方が目の変わりに情報システムを利用する。足を失った人が脳とコンピュータをつなぎコンピュータ化された義足を使って歩く。

 そのとき、目の代わりをしている情報システムにバグがあり、誤った処理をしたら、とまったら、義足が意思とは違う方向に動き出したら・・・

 どこまで依存できるのだろう。

 

|

« 公認会計士協会 パブコメ IT委員会研究報告第31号「IT委員会報告第3号「財務諸表監査における情報技術(IT)を利用した情報システムに関する重要な虚偽表示リスクの評価及び評価したリスクに対応する監査人の手続について」Q&A」 | Main | 埼玉の信用金庫 ATMに設置された隠しカメラの被害3000万円以上? »

Comments

全くその通りですね。

Windowsというか、パソコンが登場したとき、確かミッションクリティカルな業務には使用できないという制約があったような気がしますが、今では病院や交通機関など命に関わるシステムにどんどん使われるようになり、軍需にも使われるようになっているという事実だけでも少し恐ろしい気がします。

それが身体に組み込まれるような時が来たらどうなるのか?

スパイダーマン2のような話ですが、映画の中の話にとどめておきたいとも思います。

Posted by: 個人情報保護blog/最適解 | 2005.12.24 at 17:41

亡き手塚治氏も同じ事を悩んで、様々な彼の作品で言及されています。また、日米の映画でもありますよね、「ロボットの反逆」みたいなことが。高度化されたITというのは80年代半ばのAI研究そのものであり、知性=ITというものでした。
セキュリティというより、安全にIT、もっと言えば、ITとの共存をまじめに考えるべきでしょう。どう抑制しても、誰かしらは暴走し、神の領域であるヒトDNA製造や、知性を持ち、ヒトに危害をくわえるようなロボットも生まれてくること必至です。
これらを予防するためには、結局のところ教育、ITリテラシーの徹底を倫理学や哲学の領域まで広げなければならないと思います。

2063年のファースト・コンタクトまでに人類はもっと高度化していないと(笑)

Posted by: 下道 | 2005.12.24 at 20:32

悪徳商法?マニアックスに「ものつくり屋」さんへのコメントで書いたのですが、
知識が急速に増えているのだがその分だけ知恵が摩滅した社会なのでは?
ということです。

IT化は知識をストックしたり流通させたりすることは出来ますが、その知識を作り出した知恵を伝えるのは難しい。

SFで「図面を引き写すのに、白い紙に線を残して紙を青く塗る」という一節がある作品があります。
図面は残るが青写真の作り方は伝わらなかった、ということですね。

「法律違反ではないか」「法律違反にならないようするには」という質問が多すぎる。

Posted by: 酔うぞ | 2005.12.24 at 21:18

最適解さん、下道さん、酔うぞさん、コメントありがとうございます。

一律にITに依存してはダメとかイイとかそういう問題ではないと思っているんです。でも、これはダメとかこれはイイとかを決める基準とか、程度を決める尺度とか、そういうものがありそうだなぁ・・・と漠然と思っているんです。

ITは所詮、技術で、目的を達成するための手段に過ぎないわけですから、それを広めるとかそれを世界一にするとかそういうことはどうでもよいことですね。きっと・・・。

どういう社会を目指しているのか、そのためにITはどのように使えるのか、使ったときにどのようなマイナスがでるのか、それを極小化するためにはどのような方法があるのか、その方法を適用した場合、社会的に受けいれらるのか・・・

時々もんもんと考えているわけです・・・。

Posted by: 丸山満彦 | 2005.12.25 at 18:07

ま、IT技術をうまく社会に適用していくしかないという結論しかないと思うのですが、そのときに問われるのが提供者側の良心ですね。

姉波建築士のような人が出てくると困るわけです。韓国のES細胞を発見したとうその報告をした教授のような人が出てくると困るわけです。

それを使って本当に大丈夫なんだという確信を持って、IT技術を社会に適用することが重要だと思います。

視点が少し変わりますが、スティーブジョブズなんかはマックにせよ、iPodにせよ、これは便利だと確信を持って出してくるわけです。だから、成功するし、無駄がない。

一方、確信がないのに社の方針とか上の方針とかで大して便利でもないものやバグが残っているものをそのまま商品化してしまって、案の定売れなかったり、世の中に迷惑をかけたりということが起こったりします。

だから、ITの話をしていても、結局は人間の問題になってくる、そんな風に思いました。

丸山さんのもんもんとした思いに少しでも役に立てればうれしいです。。。。

Posted by: 個人情報保護blog/最適解 | 2005.12.25 at 19:37

丸山 様

夏井です。こんばんは。

この話題は,ちょっと難しいですね。

誤解を怖れずに正直に言えば,使う側の人間の能力に完全に依存しており,その能力の程度に正比例するものだろうと思っています。

例えば,ITでなくても百科事典を考えてみればわかりやすいでしょう。どんなに素晴らしい百科事典でも,それを使いこなしている人,さらには自分の仕事のために日常的に役立てている人は非常に少ない。それは,現実世界で書籍の百科事典を使いこなせる人の割合と正比例していると信じています。

だから,どんなに優れたITであっても,それを使う側の能力程度に応じて,本来の機能を発揮できる場合もあればできない場合もあるわけですよね。

義足などがロボット化した場合には,自動車と同じに考えてみればよいと思います。上手に使いこなせる人もあればぜんぜん駄目な人もある。そして,濫用または悪用する人もでてくるでしょう。

要するに,人の側の問題がかなり重要なんですが,これをいきなりぐっと改善することのできる方法なんて存在し得ないですね。

Posted by: 夏井高人 | 2005.12.25 at 19:39

夏井先生

誤読かな?と思いつつですが。

>使う側の人間の能力に完全に依存しており,
>その能力の程度に正比例するものだろうと思っています。

この部分はその通りとは思うのですが、わたしの「知識と知恵」についてイメージは相互補完的なものであるだろう。です。

現実には違うかもしれませんが、円周率を例にすると、3.14159・・・と覚えたのは筆算主体の時代であって、これは知恵の問題であった。
円周率で計算するというのは知識の問題。
そこで、円周率で計算することを知っていれば記憶する円周率は3でも良いだろう。
なんて感じじゃないかと思います。

しかし、下手すると円周率が3だと思い込む可能性もある、ここらを相互補完的と思うわけで、円周率の知識を3でも良いだろうとしたのは、電卓の発展つまりITの落とし子というイメージです。

つまり、ITは知識を増大させたり加速させたりするのでしょうがそれを使う知恵つまり人間側は、知識が容易に入手できることで知恵が摩滅する、のだとすると、正比例するべきところが反比例になっているではないか?という疑いが出てきます。

昔の「コンピュータで計算したから・・・」というのが復活してくるということですね。
強いて言えば「コンピュータの計算もわたしの経験でも正しいです」とかになれば、知識と知恵の双方でチェックされている。まさに正比例なのだと思います。

自動車のキーが電子化されて、接近するだけロックが解除され、車から離れるとロックされるという仕組みなりつつありますが、これだ「鍵を掛ける」ということを忘れるわけで、盗難に遭った場合などは「鍵は自動的に掛かったはずだ」ということになるでしょうね。
鍵について掛けた、掛けなかった、分からないが機械式の鍵でそれに、自動的に掛かったはずだ、が増えるわけです。

一部の合理化はどこかで埋め合わせをしないといけいない(例えばお金を出す)と思っているので、合理化に伴うリスクを考える「知恵」こそが必要なはずなのだが、と思っています。

Posted by: 酔うぞ | 2005.12.25 at 23:22

丸山 様

夏井です。

円周率は,一般人にとってはもともと受験のときにしか必要なく,あってもなくてもどっちでも大差のない知識だったので(←その意味で受験勉強は無意味な時間の浪費ということができる。),覚える必要がなくなってしまえば自然と忘れ去られてしまうことになるんでしょう。円周率を覚えていないと仕事にならない特殊な人にとってのみ意味のある特殊な知識の一つですよね。そうでないという人もいますが,普通の人々にとっては何のために必要な知識なんでしょうか?私を納得させるだけの返答を頂戴したことは一度もありません。ちなみに,私の立場では司法試験合格レベルの法律の知識を身につけていることが望ましいとは思いますが,普通の人にそれを要求したらクレイジーだといわれるにきまっています。円周率の暗記を求めることはそれに近いことだろうと思います。円周率の知識が必要な職業につきたいときに,そのような人だけが覚えればそれで足りることでしょうし,仕事上必要のある知識を速やかに覚えることができないのであれば,そのような職業に就くべきではないですね。

私が言っているのはそういうことではなく,どんな道具にせよ,それを使いこなせるかどうかは,使う側の人間の能力の程度と正比例しているということです。器用な人は何をやらせても器用だけれど,そうでない人はそうでないということや,記憶力の良い人はどんなことでもすぐに覚えてしまうけれども,そうでない人はそうでないということや,推論能力の優れた人ははじめて扱うことでもすぐにコツや要領を見つけてしまうけれど,そうでない人はそうでない・・・というような感じです。

また,どのような機械器具にしてもそれを悪用・濫用する人は,一定割合で発生し,その発生確率は現実世界における悪人の発生確率と同じであるとも思っています。どのような機械器具でもそのような悪人にとっては非常に便利な凶器または犯行手段となります。そのことを忘れて銀行施設を設計したりATMのデザインを考えたりすると,すぐに悪用されてしまうんですよ。すべての工業製品や建築物の設計者は,その施設や機械器具などを悪人が必ず悪用・濫用するという前提でものごとを考えないといけないのですが,そのような想像力をもった人が乏しいというのも事実です。いろんな審議会や委員会などでこのことを口すっぱく言ってきたのですが,受け入れられたことはほとんどないです。残念ながら,皆さん想像力に欠如しているようです。しかも,現実に事件が起きても誰も知らんふりをして責任をとろうとしないので,責任感も欠如しているのでしょう。

それから,自動車の例についてですが,自動車が完全にロボットになってしまって「座るだけ」になってしまったら,その機械はもうすでに「自動車」ではないでしょう。そのようなマシンは自動車の形をしたベルトコンベアのようなもので,誰かによって完全に管理され尽くしている状態になりますね。私が自動車を例にとる場合の「自動車」とは運転者の意思によって操作可能な機械であることを当然の前提にしています。

それはさておき,便利な機械がどんどんでてくると,便利さに目を奪われ,「誰か」によって集中管理される状態になっていることを忘れてしまいそうですね。

星新一さんのショートショートではないですが,そのような社会とは,中枢のコントロールがトラブルによって停止すると,それによって文明全体が一晩で滅んでしまうような社会だろうと想像します。今回発生した寒い雪国での停電事故を見ても分かるとおり,電気器具に依存した社会はとても脆弱です。死にたくなければ,突然原始状態に戻ってしまっても大丈夫なように,常に準備と訓練をしておくべきなんでしょうね。

私は,情報セキュリティに関しても相談を受けることがありますが,そのような場合には常に,すべての電気・石油・ガスの供給が停止し,すべての通信機器が使用不能であり,すべての交通機関が麻痺しており,どのような専門家の助力も一切得られないような状況を想定した上で,そのような場合でもサバイバル可能な体制を整えることを推奨しています。

Posted by: 夏井高人 | 2005.12.26 at 14:03

最適解さん、酔うぞさん、夏井先生、コメントありがとうございます。

人間は、自分の命にかかわるような問題をITに依存するのではなく、自分で管理すべきなのでしょう。

ITは所詮、最終的には誰かが管理しているわけで、自分の生命を本当の専門家以外には、預けないように、自分の生命を専門家ではない人が管理しているITには預けないのが普通だと思いました。

それと、夏井先生のおっしゃるとおり、「どんな道具にせよ,それを使いこなせるかどうかは,使う側の人間の能力の程度と正比例しているということです。」は、私もそう思います。

また、「どのような機械器具にしてもそれを悪用・濫用する人は,一定割合で発生し,その発生確率は現実世界における悪人の発生確率と同じであるとも思っています。」もそのように思います。

残念ながら、このような経験的な事実は、大きく変えることはできないので、このような経験的な事実を踏まえた、政策や制度設計が必要ということでしょうね・・・


Posted by: 丸山満彦 | 2005.12.27 at 05:48

Post a comment



(Not displayed with comment.)




TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/64462/7806971

Listed below are links to weblogs that reference 情報セキュリティに関する最近の悩み:

« 公認会計士協会 パブコメ IT委員会研究報告第31号「IT委員会報告第3号「財務諸表監査における情報技術(IT)を利用した情報システムに関する重要な虚偽表示リスクの評価及び評価したリスクに対応する監査人の手続について」Q&A」 | Main | 埼玉の信用金庫 ATMに設置された隠しカメラの被害3000万円以上? »