なんじゃこりゃあ!!

自然科学全般をこよなく愛するブログです。OCNブログ人から引っ越してきています。

ChatGTPのTransformerはなんだろう?(Newonより)

2025年02月24日 | 本と雑誌
皆さんこんにちはtatuakicadoです('ω')ノ
お元気でしょうか?
世の中日本列島は寒いの一言で北側は大変寒くなっていますね、ここ下呂市でも水道凍結が多く困った人もいると言います。みなさんも寒さを何とか乗り越えてくださいね。
さてChatGPTを生んだ革命的技術を紹介しましょう。
それはTransformerという技術です、ChatGPTなどをプロンプトを使い本当によく人間が描いたかのような文章を作成させてくれます。
これは何故でしょうか?
transfomer(トランスフォーマー)はGoogleで2017年に発表されました。
GPTの基本的な仕組みは文章の次に来る単語を探す技術が中心的に使われています。「電車に乗り遅れそうだったので、駅まで」の次に来る文章は何でしょうと考えるときに電車に乗り遅れそうとという文脈はコンピューターには解釈できません。そこで電車や乗り遅れそうなどの離れた位置の単語との関係を考慮して次の単語を予測するのがtransfomerは行います。これを自己注意機構と言います。
これは画像や音声やDNA、タンパク質の配列などに応用ができます。
trandfomerのもう一つの重要な特徴がスケール測というものです、ニューラルネットワークの規模や学習するデータ量が多いほど性能が向上するという法則でありGPTは大規模言語モデルと言われる通りモデルを大規模にすることで性能を上げてきたのです。つまりお金をかけて非常に多くの学習をさせています。
2001年宇宙の旅にHALという人工知能が出てきますがこれがようやく実現したと言えますね、いまのAIであるGPTと非常にイメージは似たり寄ったりです。アーサーCクラークさんは今の技術を見てどう思うでしょうか?非常にびっくりすると思います。
皆さんに言いたいのはこれからAIの混沌期だということです、いろんなモデルが出てきて混乱すると思いますが一歩引いて落ち着てからAI商品を買うことをお勧めします。まだAIの技術は未熟で安定してから対応パソコンやスマホを買った方がいいでしょう。わたしは常々そう思います。
さて今週もはじまりました。
どちらさんもお元気で。
そりではm(__)m
コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« ダークマターを探すAI(Newto... | トップ | 量子エラーを克服するには?... »
最新の画像もっと見る

コメントを投稿

ブログ作成者から承認されるまでコメントは反映されません。