ETL Speaker Series: Ilya Sutskever, OpenAI

ETL Speaker Series: Ilya Sutskever, OpenAI


OpenAI の CSO（Chief Science Officer）である
Ilya Sutsukever のインタビュー動画。

以下は自分のためのメモ。
間違っている可能性がある。

　＊　＊　＊

Q: シンギュラリティーは起こるのか、起こるとしたらいつか？
A: いつかは起こる。いつ起こるかはわからない。

Q: AI は意識を持つのか？
A: いつかは持つだろうが、
意識の定義は曖昧だ。
将来の実験として、
学習データの中に一切「意識」についての
情報を入れずに学習させた後、
意識について対話することができたら、
意識が生まれたと言ってもよいと思う。

Q: OpenAI は、非オープンソース、
利益追求（for-profit）、
Microsoft との連携、などで、
当初の趣旨と異なっているのではないか？
それについての自身の立場は？

A: CSO ではあるが、OpenAI の
ファウンダーの一人として、世の中への
インパクトに責任があると思っている。

非オープンソースについては、
オープンソースとクローズドソースの
それぞれに得失があり、
AI のレベルが低いとき、その研究開発を
加速するためにはオープンソースモデルが良いが、
非常に強力な AI をオープンソースにすることは危険が伴い、
無責任な行動になる。
私の意見では、現在の AI の能力はまだそこまで
高くはないが、急速に発達していることを考慮している。

巨大な NN の開発には、
非常に大きな計算コスト＝費用と
組織が必要という性質がある。
先端的な AI の研究は大学でおこなわれてきたが、
2010年代のある時点から、
AI のプロジェクトの複雑さとコストが増大して、
従来のやり方では競争することが
不可能になっている。

その費用を非営利（non-profit）で賄うのは困難だった。
そこで、capped-profit company という
非常に独特な会社制度を作った。

OpenAI の株式を持つ株主が得られる
利益には上限があり、それをすべて償還した後には
OpenAI は非営利に戻ることができる。

CEO のサム・アルトマンは株式を持っていない。
他の創業者は持っている。

マイクロソフトとの関係については、
マイクロソフトは OpenAI の出資者の１つで、
Google と DeepMind の関係とは異なる。

すべての出資契約書のトップには、
OpenAI の ミッションと相反する場合には
出資者はすべての権利を失うと書かれていて、
出資者はそれにサインしている。

Q: AI の開発を止めたり、規制するべきだという
意見もある。強力になった AI を公開して
いろいろな国で使われるようにすることについて、
ロシアで生まれて、イスラエルで育って、
カナダに住んでいる国際的市民として
どう考えているか？

A: AI の能力の適切な評価や予測、
強力な NN の開発に関する適切な規制は
必要と考えている。しかし、それは、
開発をスローダウンするということではなく、
個々のステップをより思慮深く行うという意味。
国際関係については、専門ではないが、
それについても議論が行われるべきだと思う。

Q: 企業の戦略として、
OpenAI の最も主要な KPI は何か？
現状の OpenAI の達成をどう評価しているか？

A: 主要な KPI の一つは
技術的に進歩しているかどうか。
自分たちのシステムについての理解、
学習性能、制御、がより良くなっているかどうか。
研究計画や安全計画が進んでいるかどうか。
５年先のことはわからない。

Q: AI に興味があり、Ilya のようになりたい
と思っている学生へのアドバイスは？

A: 一般的なアドバイスは難しいが
それでもするとすれば、
自分の持っている ユニークなものに
注力するのが良いと思う。
それぞれの人が、いろいろな興味や能力を
持っていて、その組み合わせは独特だ。

研究についていえば、自分の直感に従うこと、
自分には明らかにやったら良いと思われるのに、
他の人がやっていないことがあれば
そこをやって、自分の直感が正しかったかを
検証するのは良いことだと思う。

Hinton 教授も、自分の直感を信じるべきだ、
なぜなら、それが合っていれば遠くまで行けるし、
間違っていたら、何もできることはないのだから、
と言っていた。

同じことは、起業についてもいえる。
より広い経験や視野にもとづいて
ユニークなパースペクティブを持ち、
それに従うことがより重要だと思う。

Q（学生の質問）:
深層学習の今後についての考えは？

A: 今後も発展すると思う。ただし、
これまではデータやネットワークの規模を
スケールさせることによる発展が大きかったが、
スケールさせるためのコストが大きくなっているので、
それは少し変わってくるかもしれない。

しかし、深層学習技術のいろいろな
レイヤーでこれからも進歩が起こり、
技術が発展してゆくと考えている。
５年後の姿を言うのは難しい。

Q: サム・アルトマンも、LLM の
スケーリングは限界にきていると言っているが
どう考えるか？また、次のイノベーションの
フロンティアのどこに注目しているか？

A: 簡単にスケーリングできる時期は
終わったということだと思う。
他の人が見落としているような
新しいフロンティアを見つけることは
とても実り多いことだと思う。

Q: 一般的なデータで汎用性の高い学習をするのと
専門性の高いデータで専門性の高い学習をするのと
どちらが良いと考えているか？

A: 今の段階は汎用性が高い学習をしているが、
より信頼性が高くなってゆけば
専門性の高い学習がより高いインパクトを
持つようになる可能性はある。
どちらの方向も役に立つし、
どちらかを選ぶという話ではない。

Q: GPT3/4 の訓練のコストは？

A: あなたもよく知っているように
その質問にはコメントできない。

Q: 今後、モデルの詳細や
重みパラメータなどを公開する可能性は？

A: オープンソースとクローズドソースの話
にも関連するが、中間的な実り多い方法があると思う。
モデルの詳細にアクセスして理解してもらうことは
重要で、既に、academic access program があり、
いくつかの研究室がそうしたアクセスをしている。

Q: ほかの人が知らない、
GPT の使い方はあるか？

A: ほかの人が知らないというわけではないが、
詩を書いてもらうことは好きだ。
AI は詩を書いたりラップを書いたりすることができて、
それはとても楽しい。

Q: 人の組織やチームワークに
与えるインパクトは？

A: 今言えることは、
すべての人がより生産的になるということ。
まだ大きなインパクトがあったと
言うことはできない。

Q: 個人化された AI ボットとの会話に
興味があるが？

A: そういうふうにはならないと思うが、
そうなるかもしれない。

他の動画でもそうだが、
個々の質問についてしっかり理解して、
複数の質問に分解しながら、
言葉を選んで丁寧に回答している。

詩を作らせる、というのは、
レムの影響もあるのだろうか？