つながる車の危うさ〜人間が操る部分と機械が操る部分をどうバランスするか〜

（社説）みずほトラブル　信頼を取り戻せるのか：朝日新聞デジタル

みずほ銀行で大規模なシステム障害が起きた。０２年、１１年に続く３度目の大きなトラブルだ。前２回と比べれば、範囲や期間は限られていたが、多くの顧客に迷惑をかけたことは見過ごせない。原因究明と再発防止を徹底すべきだ。

みずほ銀行のトラブルで、システムの危うさを改めて感じた。以下にあるように、大きなシステムがダウンすると、被害は非常に大きくなる。また、システム更新などはどうしても必要だ。その際、人間はミスをするものだ。

通帳やカードは不正利用防止などの観点から、異常時には機械に取り込まれる仕組みだが、想定以上に大規模に起きたため、その後の対応が追いつかなくなったという。
　さらに検証が必要だが、いまの説明の範囲でも事前の想定の甘さが目につく。システムにはトラブルはつきものだ。臨時の作業であればこそ、テストに余裕を持たせ、人員の配置を含め異常時に機敏に対応できるよう準備しておくべきではなかったか。翌日に頭取が会見して謝罪したとはいえ、情報開示の量やスピードも十分には見えない。

アップルが車を作るとか、自動運転とか、車がネットで繋がると、ユーザーは大変便利にいろいろな機能を使えるようになると宣伝されるし、皆バラ色の世界を描く。
そういえばテスラでもディスプレイが壊れただけで、大きなリコールとなるということもおきている。
13.4万台のリコールに同意したテスラ、｢タッチスクリーンの寿命は元々5、6年｣と主張 | Business Insider Japan

テスラはタッチスクリーンの不具合を理由に13万4000台以上をリコールすることになった。
アメリカの規制当局は、問題のディスプレイが後方カメラやウインカーなどの重要な安全機能に影響を与える可能性があると述べた。
テスラはリコールに同意したが、もともとスクリーンの寿命は5、6年だと述べている。

そう、システムの更新もなく、バグもなく、容量も十分で、センターで人間のオペレーションにミスがなければ、人間が運転するより安全で、確実で楽になるだろう。しかし、実際にはシステムの更新が必要で、そのシステムのプログラムの作成にミスがあり、想定外の使用状況が必ず起こる。プログラムの暴走もある。だから、私は完全自動運転には懐疑的である。
アップルやソフトウエア開発のエンジニアは、自動車の開発に携わる前は、間違えると、あるいはバグなどあると、人が死ぬという商品の開発経験がないのが普通である。だから、そのようなエンジニアが、自分のミスがそのようなことにつながる実体験がなしで開発するので、FMEAなどの欠陥の想定に不足が生じる可能性が高いと思う。しかし、これらは10年、20年の実体験の経験で補われるだろう。市場に、かなりの数が出て10年、20年経てば、かなり信頼性の高いシステムになるだろうが、そのくらい時間がかかると思う。
現在の自動車は、よくも悪くもドライバーの意思通り自由に操れる。自動運転やネットに繋がり、センターコンピュータで操る部分が増えてくると、多かれ少なかれ機械に操られる部分が大きくなっていく。その際、人間が操る部分と機械が操る部分をどうバランスするかがキーとなると思う。船のレギュレーションで、電子的に操作する部分は、人間が手で操作できる操作系を必ずパラレルで設けうr事になっていた記憶があるが、このような配慮が絶対必要だと思う。私は100％機械（コンピュータ）に命を預けたくはない。重大な危険の際には、自動システムより人間の操作が優先されるような冗長性が必要だと思う。しかし、これは100％安全ではなくなるということ、これがまさにバランスをとるということだ。非常に難しい課題ですよ、これは。