:::::
Brian Bushard Forbes Staff
I am a Boston-based reporter, foodie and cyclist, with five-plus years of experience in professional news organizations.
Before joining Forbes, I covered the environment, town and government, housing, and the arts for a small-town newspaper on Nantucket, called The Inquirer and Mirror. Previously, I reported for NPR, WBUR, WCAI and Nantucket Today. I am a graduate of the University of Massachusetts, Amherst, with a degree in political science.
私はボストンを拠点とするレポーター、食通、サイクリストであり、プロの報道機関で 5 年以上の経験があります。
Forbes に参加する前は、The Inquirer and Mirror というナンタケット島の小さな町の新聞で、環境、町と政府、住宅、芸術について取り上げていました。 以前は、NPR、WBUR、WCAI、Nantucket Today について報告しました。 私はマサチューセッツ大学アマースト校を卒業し、政治学の学位を取得しています。
:::::
OpenAI(オープンAI)は、人工知能が政府関係者やテック業界内の厳しい監視の目にさらされる中、物議を醸しているチャットボットChatGPT(チャットGPT)を含む同社のAI製品の不具合やセキュリティ問題を見つけたユーザーに、最大2万ドル(約270万円)を支払ういわゆるバグバウンティプログラムを開始する。
サンフランシスコに本社を置くOpenAIは、Bugcrowd Inc.(バグクラウド)と共同で展開するバグバウンティプログラムを通じて発見された不具合1件につき最大6500ドル(約87万円)を提供すると、4月11日のブログ記事
<
>
で発表した。
このプログラムでは、AIシステムの不具合を見つけて報告し、同社がコードを変更するきっかけとなった場合に報酬が支払われる。報酬は、不具合の「可能性または影響」の程度に基づき、OpenAIの独自の裁量で決定される。
同社は「重大性の低い発見」に対しては200ドル(約2万7000円)を支払い、最大で合計2万ドル(約270万円)までを支払う可能性がある。
報酬の対象となる不具合には、研究レビュー段階にあるChatGPTのほか、ログイン、プラグイン、支払い問題、データ漏洩などがあり、ユーザーは、OpenAIから公開の許可を得るまで、これらの脆弱性を秘密にする必要がある。
同社はブログの中で、このプログラムは「透明性とコラボレーション」を促進するためのものであると述べ「リスクを防ぐために努力していますが、現実世界で人々が我々の技術をどのように使用するかをすべて予測することはできません」と認めている。
2015年に設立されたOpenAIは、11月にChatGPTを一般公開し、AIソフトウェアへの関心が一気に高まった。
すでにOpenAIの支援企業の1つであるMicrosoft(マイクロソフト)は、今年初めに同社に100億ドル(約1兆3000億円)の追加投資を約束し、OpenAIを搭載したチャットサービスを同社のBing検索エンジンに統合することを開始した。
ChatGPTは、大学レベルのエッセイや詩の執筆、コンピュータコードの作成、食事の計画や予算の作成などに使用され、しばしば人間のような精度をほこるが、質問に対する回答が正しくない、矛盾しているなどの問題も確認されている。
また、ChatGPTが公開されて以来、ユーザーは、ヘイトスピーチや犯罪のやり方の詳細など、有害な活動を防ぐために組み込まれた制限を巧みに回避しようとする「脱獄」を試み、製品の限界に挑んでいる。
ワシントン大学のコンピュータサイエンス専攻の学生で、脱獄プロンプトのウェブサイトを作成したアレックス・アルバートは、先月Twitter(ツイッター)でChatGPTの脆弱性について説明し、OpenAI会長のグレッグ・ブロックマンにバグバウンティプログラムを検討させるに至った。
一部の専門家は、AI製品は一見正しいような誤報が本物であると人々を騙すリスクを高め、最終的には従業員の代わりの労働力になり、学生の試験カンニングを手助けする可能性があると警告している。
ツイッターのイーロン・マスクやApple(アップル)の共同創業者であるスティーブ・ウォズニアックなどのテック幹部は、AIの台頭を批判し、リスクを徹底的に評価できるよう、開発者にAIへの取り組みをただちに一時停止するよう呼びかけた。
1000人以上の署名を集めたオープンレターの中で、テックリーダーたちは、開発者たちがより高度で強力なシステムを作るために「制御不能な競争」をしていると主張している。
OpenAIのバグバウンティプログラムは、この種のものとしては初めてではない。 Amazon(アマゾン)、AT&T、Bumble(バンブル)、Buzzfeed(バズフィード)、Chime(チャイム)、Coinbase(コインベース)、Google Chrome(クローム)など、他の企業
<
>
も自社のシステムの不具合を発見した人に報酬を提供している。
バイデン政権は、ChatGPTやGoogleのBardAI(バードAI)を含むAIシステムに対する規制を検討しているが、まだ具体的なものは示していない。米国商務省は11日、AI対策の導入方法について政策立案者に協力を求める意見公募
<
米政府、AIの規制方法について一般に意見を募る
>
を行った。