Seminar with Professor Geoffrey Hinton, at the Royal Swedish Academy of Engineering Sciences (IVA)

Seminar with Professor Geoffrey Hinton, at the Royal Swedish Academy of Engineering Sciences (IVA)


Deep Learning の父と呼ばれる
Hinton 博士のノーベル物理学賞受賞記念講演は
ボルツマンマシンの紹介だった。

授賞対象となった研究の紹介
という趣旨を素直に実行したわけだが、
AI のリスクなども含めた
もっと広い話題を期待していたので、
少し肩透かしな感じが否めず、
他の動画を検索していたら、
授賞式の直前に、
スェーデン王立アカデミーで
講演をしたときの動画があった。

Hinton 博士は、最初に短く、
ChatGPT のような対話 AI による
言語の理解と、人間の言語の理解は
そんなに違わない、という話をしている。

その後、何人かのパネリストが話した後に、
ディスカッションになって、
AI のリスクや AGI の可能性、などについて
質問に答える形で話をしていた。

語られている内容をごく簡単にメモしておく：
・LLM は人間と同じように言語を扱って
　理解していると考えて良い
・マルチモーダルチャットボットは
　人間と同じように主観的経験をしている
　と言ってよい
・「クオリア」はナンセンスでどうでもよい概念
・AGI ができたことを認識する方法は、
　人間がそれと議論すること
　人間が常に負けるようになったとき
　AGI ができたと言えるのでは？
・デジタル知能のほうがエネルギー消費が大きいのは、
　ハードウェアとソフトウェアを分けているから。
　そのおかげで、多くのハードウェアで
　同じソフトウェア、学習結果をシェアできるので
　アナログ知能は最終的にデジタル知能に勝てない
・AI の危険の抑止について国際的な協調が
　得られることは期待できない
　資本主義の中では企業は競争をやめられない。
　ただし、人類の存続に関する危機が明らかになれば
　協力が期待できるかもしれない

最後に、クリスマスに願うことは？
と質問されて、他のパネリストが、
「AI と人間の共存」みたいなことを
言っていたのに対して、
「脳がなんらかの方法で誤差逆伝播を
実装しているのかどうかを知りたい」
と研究者らしく答えたのは
なんというか、いいなぁ・・・

「研究者」の理想像を
体現している感じだ。