OpenAI共同創業者「研究をオープンにする」方針は「間違っていた」と暴露

先日、OpenAIは待望の次世代AI言語モデル「GPT-4」を発表しました。研究者や専門家がこれについての資料に注目しましたが、ある点に落胆の声が上がっています。それは、会社の名前とは裏腹に、GPT-4がまったくオープンなAIモデルではないことです。

GPT-4を紹介する論文では、トレーニングセットの内容については「何も開示しない」と堂々と宣言しています。なぜ、OpenAIは方針を変え、「クローズド」へと方向転換したのでしょうか？

*Category:テクノロジー Technology *Source：The Verge ,The New Yorker ,vice ,OpenAI ,Wikipedia

「非営利」としてスタートしたOpenAIの信念が変貌した理由

OpenAIは、現CEOであるサム・アルトマンや現テスラCEOのイーロン・マスク、LinkedIn共同創業者のリード・ホフマンなどの多くのテック界の大物によって、2015年に非営利の研究組織として設立されました。設立時の声明では「金銭的リターンを得る必要性に制約されることなく、人類全体に最も利益をもたらす可能性の高い方法でデジタルインテリジェンスを進化させる」と宣言しています。

共同創業者のグレッグ・ボックマン氏は当時、米誌「The New Yorker」で「今の私たちの目標は…やるべき最高のことをすること。ちょっと曖昧だけどね」と語っています。OpenAIは当初、AIの基礎研究をオープンな形で行い、目的を定めずに行うことを想定した自由な企業だったのです。

しかし現在、OpenAIは「クローズド」な営利企業に変貌しています。テックメディア「The Verge」によれば、同社はGPT-4のベンチマークやテスト結果、興味深いデモを数多く公開しているものの、システムのトレーニングに使用したデータやエネルギーコスト、特定のハードウェアや作成方法に関する情報は基本的に提供していません。

OpenAI共同創業者、研究をオープンに共有する会社の過去のアプローチについて：私たちは間違っていた

AIコミュニティーの多くは、この決定を批判し、研究機関としての同社の設立理念を損なうものであり、他社が同社の研究を複製することを困難にすると指摘しています。また、GPT-4のようなAIがもたらす脅威に対する安全策を開発することが困難になるという声もあり、AIの世界では緊張が高まりつつも急速な進展が見られる中、このような不満が噴出しています。

— 出典：The Verge

これについて「The Verge」のインタビューに応じたOpenAIのチーフサイエンティストで共同創業者のイリヤ・スーツケバー氏が回答。OpenAIがGPT-4についてより多くの情報を共有しない理由として「競争への恐れと安全性への不安」は「自明」であると述べています。

「競争環境の面では……そこそこ競争はある」と、スーツケバー氏は言う。「GPT-4は開発が容易ではありません。これを作るのに、OpenAIのかなりのメンバーが非常に長い時間をかけて協力しました。そして、同じことをやりたがっている会社がたくさんあるので、競争的な側面から見ると、この分野の成熟と見ることができます」

「安全面については、まだ競技面ほど切実な理由にはなっていないと言えるでしょう。しかし、それはこれから変わっていくもので、基本的には次のようなものです。これらのモデルは非常に強力で、ますます強力になります。ある時点で、これらのモデルを使って多大な損害を与えることは、やろうと思えば非常に簡単にできるようになる。そして、その能力が高くなるにつれて、それを公表したくないと思うようになるのです」

— 出典：The Verge

なぜOpenAIは研究を共有するアプローチを変えたのか、という質問に対して、スーツケバー氏は「私たちは間違っていた」と簡潔に答えました。

「はっきり言って、間違っていたのです。私たちのように、ある時点でAI（AGI）が非常に、信じられないほど強力になると信じているのなら、オープンソースにするのは意味がない。それは悪い考えです…。数年後には、AIをオープンソース化することは賢明でないということが、誰の目にも完全に明らかになると思います」

— 出典：The Verge

とはいえ、OpenAIが「変わりすぎ」であることは疑いようのない事実です。スーツケバー氏らはOpenAI設立時のブログ記事で、同団体の目的は「株主ではなく、みんなのために価値を築くこと」であり、そのためにこの分野の他の人々と「自由にコラボレーションする」と述べていました。

ところが、OpenAIは非営利団体として設立されたのにも関わらず、マイクロソフトから数十億ドルの投資を受け、現在独占的なビジネスライセンスを締結しました。共同設立者のイーロン・マスクはこれについて、「マイクロソフトに支配されたクローズドソースで最大利益を上げる会社になっている」「全然意図していたのと違う」と批判しています。

OpenAI was created as an open source (which is why I named it “Open” AI), non-profit company to serve as a counterweight to Google, but now it has become a closed source, maximum-profit company effectively controlled by Microsoft.

Not what I intended at all.

— Elon Musk (@elonmusk) February 17, 2023

GPT-4がリリースされる直前に公開されたアルトマンCEOによるブログ記事では「AGI（人工知能）は、全人類に利益をもたらし、すべての人に信じられないほどの新しい能力を与える可能性を秘めている」と宣言。リスクについても解説しているものの、全体的にはAIが「人間をよりも賢くなる」という可能性をアピールするものとなっています。

私たちのミッションは、人工知能（人間よりも一般的に賢いAIシステム）が全人類に利益をもたらすようにすることです。もしAGIが誕生すれば、豊かな生活を実現し、世界経済を活性化させ、可能性の限界を変える新しい科学的知見を発見することで、人類を進化させることができるかもしれません。

AGIは、すべての人に信じられないような新しい能力を与える可能性があります。私たち全員が、ほとんどすべての認知タスクを支援することができる世界を想像することができ、人間の創意工夫と創造性に大きな力を与えてくれます。

— 出典：OpenAI

海外メディア「vice」は、このブログ記事やOpenAIの最近の行動は「非営利団体であった創業時からどれほど変化したかを思い起こさせるものだ」と指摘。なんでも答えるAIの魅力は、そのAIを作り出した人間たちの信念すら狂わせてしまったのかもしれません。