ＨＡＬの自我

「2001年宇宙の旅」ブレイクスルーについて最近考えたことがある。

彼の自我はどこで発生したのだろう。
ＨＡＬ９０００が素子を抜き取られ機能を停止する前に
言い出す言葉である。
「やめてください。こわいのです」
ＨＡＬにとって意識が断絶することは
起動してから一度もなかったことであり、
それは”死”を意味する。
コンピュータにとっての死。
形而下の問題のようでありながら
それは人間にとっての死を延長線上に
感じさせる。
同時にブレイクスルー。
機械に意識はあるかという問題。
ＨＡＬは”死”を身近に感じたときに
意識を発生させたともいえるがそれ以前に
ＡＥ３５ユニットの故障を予知した段階で
強ストレス下におかれたＨＡＬはブレイクスルーしていたのだと
思われる。

実際に意識があるか否か。チューリングテストなど
いろんなテストがあるが実際に人間が機械と対話していても
（チャットなどの場合）相手が機械だと思わないことが多いという。

ゲーデルが示した数学の限界。知の壁。
それを超えられるのはおそらく人間というものではないだろうか。

それをわたしは辺縁で眺めているしかないのだろう。