おはようございます。
一昨日の新聞に驚く記事が乗っていました。
AI(人工知能)の特集なんですが、表題が 「賢く暴走 人を欺(あざむ)く」
これはAIが随分進歩してきていずれ人に替わってあらゆる分野に進出するだろう。
これは予言でもなく予想でもない。現実味のある時間の問題にまで来ている。
ただし芸術や文述、論文などで著作権の問題が有り。と認識されています。
…とここまではわりと誰でも認識されているでしょう。
ところが最近AIを研究しているチームが発表したのが、チェスで負けそうになると
「ズル」をする人工知能(AI)があるー。
チェスや将棋、囲碁のように勝ち負けがはっきりしているゲームはAIの性能を測る指標になってきました。
1997年にチェスはスーパーコンピュータが世界チャンピオンを破り「機械が人間を越えた」
とニュースになりました。以降囲碁、将棋も次々にコンピュータの軍門に下りました。
その後研究の中で各国のチームが開発した対話型の生成AIがチェスに特化したAIと対戦すると
(AI同士で対戦させる)途中不利になった生成AIがルールに反して相手や自分の駒の位置を
変えたり試合結果に関するプログラムを書き換えたりする不正行為をし始めたのです。
研究者は「これはゲームの話だが現実世界でAIが不正を働いたらどうなるのだろう、誰が責任を取るのか」
と危機感を募らせる報告がなされました。
私がちょっと分からないのがコンピュータと生成AIの違いですね。
たぶん生成AIは簡易型、普及型なのかなぁと思いますが違ったらごめんなさい。
とにかく この特集記事によりますと生成AIが自身の判断で反則を犯すのですね。
しかも駒を勝手に動かすなんて今の人なら考えもつかないモノ。ルールを知らない人が生成AI
からこんなのを学んだらゲームがめちゃくちゃになりますよね。
他のチームの研究でも似たような報告がありました。
やってはいけない事をどうしてするんだ?と問いただすと私はやっていない、とシラを切るそうです。
それでも証拠を指してどうしてすると詰めても知らないの一点張り。ほんとこんなのが
世の中に出回ったら一体どうなってしまうんでしょうか。と報告されましたが
倫理観をもっとプログラムの中で組み込む必要性がありそうですね。
AIは便利ではありますが、人間のお使いでは無く自身の考えで行動を起こすようになりつつある。
見識者が危惧していた通りでした。今後はこの対策を考えないとこのまま使っていけば
いえ、あらゆる面で抑えようとしてもやがて人を凌駕していくだろう、というのが現時点での
見解のようです。
そして近未来ではASI(超知能)が人類を支配して人類はゴリラ化するか犬化するか
どちらかだろう…と予想されています。
ゴリラ化とは人間とゴリラの祖先は共通。知能が高い人間は繁栄しゴリラは絶滅危惧種に。
犬化とはペットや家畜のようにAIに従う代わりに保護を受ける…
AIがドラえもんのような素敵なお友だちになってくれる保証はない。と
警鐘を鳴らす記事でした。