« 高額納税者公示制度見直しへ | Main | 自民党の個人情報保護法改正案 »

2005.05.18

人は自分の命をどこまでコンピュータに任せられるか?

 こんにちは、丸山満彦です。今朝の日本経済新聞に、米国でプリウスが運転中にエンジンが停止したという苦情が寄せられていて、その原因がコンピュータプログラムのプログラムミスであるという話が掲載されていました。私が乗っている車はプリウスではありませんが、最近の車は本当にハイテク機器の塊という感じがします。車という人命にかかわる装置に利用されているコンピュータに人間はどこまで命を預けることができるのだろうか。

 
 プリウスのコンピュータがBluethoothに感染するのか、しないのかという話が話題になったばかりですが、そういう問題も含めて、人命にかかわる装置に利用されているコンピュータに人間はどこまで命を預けることができるのか、という問題が気になりだしました。

 そんなこと言っても既に、飛行機も鉄道もコンピュータでかなり自動制御しているよ。神戸のポートライナーなんてずいぶん前から無人の自動運転しているし、今回の鉄道事故もヒューマンエラーを起こさないようにコンピュータで制御しようという話もでているよ・・・という意見が聞かれそうです。

 もちろん、Fail Safe側に倒れるようにコンピュータが機能する場合と、人型ロボットのように能動的に動く場合では違うだろうという意見もあるでしょう。とは言いながら、Fail safe機能が働くはずと信頼していたら実は働かなかったという問題もありますね。コンピュータが自動的に時速120kmから70kmに減速するはずだったのに、プログラムのバグでその機能が働かなかったとか・・・。
 いざとなれば、コンピュータを切断し、人間の判断でコントロールできるようにしておけばよいのでは、という意見もあるかもしれませんが、人間には制御できないような複雑なコントロールが要求されていたり、そのような職人的な技量をもった人がいなくなっていた、ということも考えられますね。そもそも、コンピュータの切断ができなかったり・・・

 どこまでコンピュータ(プログラムも含めて)を人間が信頼することができるのか?私個人の問題だけでなく、社会のコンセンサスとして気になるところです。

■河北新報社 2005.05.16
高速でエンジン停止と苦情 トヨタ・プリウスで米紙

■CNET Japan 2005.05.12
ウイルス対策専門家:「トヨタのプリウス、Cabirワームの攻撃にビクともせず」


このブログの中の意見は私見であり、所属・関係する組織の意見ではないことをご了承ください。

|

« 高額納税者公示制度見直しへ | Main | 自民党の個人情報保護法改正案 »

Comments

一応、専門業界なので(^_^;)
まず、制御用コンピュータといった分野はPCよりもずっと歴史が古く、実績があるもので今はそれを Windows などに置き換えつつある段階です。

従って、制御方法のミスなどでどんな自体が起きるのか?という種類の問題はPC以前から経験していることで、PCを何も無いところに取り付けたというのとはだいぶ違います。

わたしの専門分野である、NC工作機械が実用化された昭和45年ごろのNC装置にはCPUというかマイコン・チップ自体が無くて、いわばアンプのように配線をして回路を作っていました。

その他、工場の自動生産装置などではシーケンサーという制御機器を長年使っていて、最近になって「ソフト化」されている、といったところです。

つまり、一般に接するパソコンとは全くレベルの違うところで自動制御してきた実績がありますから、総合評価が出来る間はパソコンが相当情けなくても「使えない」となりますから、大丈夫でしょう。

ただ、今後30年とか経つと総合的な判断が出来る人がいなくなって「バーチャルでチェックした範囲では大丈夫でしたが・・・・」と大事故になる可能性はあります。
それまでに、ソフトウェア側の安全のための精度向上を期待することになりますね(^_^;)

Posted by: 酔うぞ | 2005.05.18 at 18:15

酔うぞさん、コメントありがとうございます。明日はいよいよ白浜です。

さて、今までは、コンピュータを信頼できてきたのです。それは、実績のあるシステムを使ってきたから・・・。ところが、安易にコストダウンを図るために、既存の脆弱なシステムを意識せずに使った時が怖いのだと思います。

で、問題は、技術者が安心ですということではなく、利用者が信頼して使えることだと思うんですね。

Posted by: 丸山満彦 | 2005.05.18 at 19:24

丸山さん

こんばんは。

飛行機・車ほど人命には直結していませんが、巷にはコンピュータを内蔵したものがあふれています。
私の仕事場、家にも家電の皮をかぶったlinuxボックス/Windows CEボックスが多くあると思います。
(ちなみにうちのCATVのSTBはlinuxの上で動いているようです)

私の家の風呂はいわゆるコンピュータコントロールのもので、さすがにまだWindows CE/Linuxでではない思いますが、そのうち、ウィルスに汚染する種類のものが出てきて、家内ネットワークにより汚染し、熱湯コマーシ
ャル(古いか?)状態になったり、水風呂になったりすると困りますねぇ。

今までの組み込み型のものは、
1. 機能限定(単能)
2. 専用
3. 隔離
の3つの点で守られていたのではないかと思います。
ところが、機能追加、利便性向上、コスト削減のため
1. 万能
2. 汎用
3. インターネット接続
により壁がどんどん崩れていっています(ちなみにうちのSTB君には、10Base-Tのインターフェイスがありネットサーフィンで切る機能が入っています。使っていませんけどね)。

まぁ、うちの本業であるコピー機、プリンターもウィルスに感染するので他人事ではないのですが。
こんなページを作って、お客様に注意を喚起し、SE/CEがパッチを当てたり、開発部門では脆弱性の検証を行って修正したり、脆弱性を持ちにくい開発手法の確立を考えているわけですが……
http://www.fujixerox.co.jp/service/netsecurity/

大変な時代であると感じています。

Posted by: ryu | 2005.05.30 at 23:54

ryuさん、コメントありがとうございます。

ryuさんのご指摘の視点

1. 単能 <=> 万能
2. 専用 <=> 汎用
3. 隔離 <=> 接続

は、おもしろい視点ですね。なるほどです。価格が安いからといって、万能・汎用・接続でコンピュータ接続をするのはなく、安全を重視して単能・専用・隔離のものがもっとあってもよいと思うのです。なぜか、なんでもオープンシステムにするのが当然だ・・・という流れを誰かが作っているように思えるんですよね・・・。

インターネット接続を法的に禁止するシステムを決めるということもありだと思うんですよね(将来的に問題が生じそうになった場合には・・・)。

Posted by: 丸山満彦 | 2005.05.31 at 13:50

丸山さん

米軍の基幹ネットワークがインターネットに直接は接続していないというのはこういうことなのですよね。

つながると便利というのは否定はできない(出先からビデオの予約ができるのはうれしいです。帰るとお風呂が沸いていたり、ご飯が炊けているのは本当にうれしい)ので、何らかの方策を考えなければいけないとは思っています。

ただ、
1. 何でもつながればよい
2. なんでもブラウザがなければいけない
といのは?なんです。

ものには役目と見え方があるべきでそれに沿ったものが残る(淘汰される)とは思うんですけどねぇ。

時間がかかりそうで困っています。
今の何でもインターネットが時代のあだ花ではないことを祈ってはいるのですが。
変な事例が重なるとそーなってしまいそうで。

Posted by: ryu | 2005.06.02 at 17:06

ryuさん、コメントありがとうございます。私はテレビをほとんど観ない、お風呂は10分弱でお湯がはる、ご飯も30分もあれば炊けるので、それほどIP化してほしいとは思っていません。でも、それなりに情報家電が必要となる世界はあると思っています。しかし、つながることが優先されすぎて、セキュリティがおろそかになると、顧客の信頼が得られないので、だめでしょう。いったん信頼が失われると、あとからメーカが大丈夫といってもなかなか顧客の信頼を回復するのは難しいので、はじめの導入時期が重要だと思っています(住民基本台帳ネットの二の舞にならないためにも・・・)。

さて、プリウスの件ですが、2005.06.02の毎日新聞では「米当局:エンジン停止で調査開始 トヨタ・プリウスに」と報道されています。

Posted by: 丸山満彦 | 2005.06.02 at 18:48

Post a comment



(Not displayed with comment.)




TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/64462/4177579

Listed below are links to weblogs that reference 人は自分の命をどこまでコンピュータに任せられるか?:

« 高額納税者公示制度見直しへ | Main | 自民党の個人情報保護法改正案 »