一週間足らずで収束したOpenAIのサム・アルトマンCEOの解任劇ですが、その舞台裏に「Q*（読み方はQスター）」と名付けられた「潜在的に危険なAI」の発見があったことを示す書簡が発見されました。

*Category:テクノロジー Technology *Source：Tom’s Hardware ,Reuters ,OpenAI

サム・アルトマン解任劇の裏にあった「Q*」計画

海外通信社「Reuters」によると、「Q*」は人工知能（AI）の推論を根本的に改善する可能性があり、人工的な一般知能の開発における大きなブレークスルーと見なされる可能性があるとのこと。

同メディアによれば、OpenAIの研究者が書簡で取締役会に、このAIが「人類を脅かしかねない」と警告した後、アルトマン氏が同社の取締役会によって更迭されたとされています。

Ahead of OpenAI CEO Sam Altman’s four days in exile, several staff researchers wrote a letter to the board of directors warning of a powerful artificial intelligence discovery that they said could threaten humanity, two people familiar with the matter told Reuters.

— 引用：Reuters

訳：OpenAIのサム・アルトマン最高経営責任者（CEO）が4日間の亡命生活を送るのに先立ち、複数のスタッフ研究者が取締役会宛に、人類を脅かしかねない強力な人工知能の発見を警告する書簡を書いたと、この件に詳しい2人の関係者がReutersに語った。

「Reuters」によれば、OpenAIの社内メッセージの中で、プロジェクト「Q*」と、それを警告する書簡が存在していたことが確認されたとのこと。

After being contacted by Reuters, OpenAI, which declined to comment, acknowledged in an internal message to staffers a project called Q* and a letter to the board before the weekend’s events, one of the people said. An OpenAI spokesperson said that the message, sent by long-time executive Mira Murati, alerted staff to certain media stories without commenting on their accuracy.

— 引用：Reuters

訳：Reutersの連絡を受け、コメントを拒否したOpenAIは、スタッフへの社内メッセージの中で、週末の出来事の前にQ*と呼ばれるプロジェクトと取締役会への書簡があったことを認めた。OpenAIの広報担当者は、長年の幹部であるミラ・ムラティ氏によって送られたメッセージは、その正確性についてコメントすることなく、特定のメディア記事についてスタッフに注意を喚起するものだったと述べた。

生成AIの特徴のひとつは、過去に学習した情報を基に答えを導き出すことです。しかし、現代のAI技術には認知能力が欠けており、人間のように理性的に判断することはできませんでした。

「Q*」は、人工知能（AGI）の分野における重要なブレークスルーであると考えられています。これは意思決定を推論することができる自律的なシステムで、様々なタスクや分野においてより人間との競争力を持つとのこと。

「Q*」の能力は、一般的に「唯一の正解」によって定義される数学的問題の解決において特に顕著であると言われており、これはAIの推論と認知能力の著しい進歩を示すものです。

The AI model has demonstrated proficiency in tackling mathematical problems at a level comparable to elementary school students, which is quite significant. Such advancements suggest that Q* could have far-reaching implications and applications in various fields that require reasoning and decision-making.

— 引用：Tom’s Hardware

訳：このAIモデルは、小学生に匹敵するレベルで数学的問題に取り組む能力を実証しており、これは非常に重要なことである。 このような進歩は、Q*が推論や意思決定を必要とする様々な分野で、広範囲な意味合いと応用が可能であることを示唆している。

なお、ChatGPTでも正確な計算は可能ですが、これはシステムに組み込まれたプログラム実行環境を利用したもので、厳密にはGPTによる計算ではありません。

「Q*」の登場は、このような強力なAI技術の潜在的リスクや倫理的意味合いに関する懸念にも火をつけたようです。この「Q*」の開発が、会社や生成AIの分野で大きな影響力をもつアルトマン氏の解任劇に繋がった可能性があるとのこと。

しかしその後アルトマン氏は、同社社員からの大きな支持やマイクロソフトからのサポートを背景に、OpenAIへの復帰を果たしました。これによって取締役会のメンバーも大きく変わっており、今後のAI開発方針にも影響をもたらすことが予想できます。

• Original:https://www.appbank.net/2023/11/24/technology/2700978.php
• Source:AppBank
• Author:岩佐