〝AIの父〟がGoogleを退社「人類の脅威になる」と危険性を暴露

深層学習（LLM）の第一人者であり、AIの父（ゴットファーザー）と呼ばれるジェフリー・ヒントン氏が、Googleを退社していたことを米メディア「The New York Times」に明かしました。同氏は退社した理由について「AIのリスクについて自由に発言するため」だとしています。

*Category:テクノロジー Technology *Source：The New York Times ,Wikipedia ,The Verge

「AIの父」ヒントン氏が語る現状の危険性

ヒントン氏は、現在のChatGPTなどのLMMにつながる基礎的な研究を行った人物で、2018年にはチューリング賞を受賞しています。

AIのゴッドファーザー」、ライフワークへの後悔と不安を胸にグーグルを退社

ヒントンと彼の学生2人（そのうちの1人はOpenAIのチーフサイエンティストとなった）が立ち上げた会社をGoogleが買収した後、生涯現役の学者がGoogleに入社しました。ヒントンと彼の学生は、何千枚もの写真を分析した後、犬、猫、花などの一般的な物体を識別するように学習するニューラルネットワークを開発していた。最終的にChatGPTやGoogle Bardの誕生につながったのは、この研究成果です。

— 出典：The Verge

しかしヒントン氏は現在、自分のライフワークに「後悔している部分がある」と「The New York Times」のインタビューに語っています。

A.I.のゴッドファーザー」がグーグルを去り、その先にある危険を警告する

「もし私がやらなかったら、他の誰かがやっただろう、という普通の言い訳で自分を慰めている」と、ヒントン博士は先週、トロントの自宅のダイニングルームで長いインタビューに答えてくれた。

— 出典：The New York Times

同メディアによると、ヒントン氏は先月Googleに辞任を通告し、サンダー・ピチャイCEOとも直接話をしたそうです。この話し合いの詳細は明らかにされていません。

インタビューによると、ヒントン氏は、マイクロソフトがOpenAIを導入した新しいBingを発表し、Googleが「コードレッド」の危機を宣言するまでは、Googleの技術管理には満足していたそうです。ヒントン氏は、このような熾烈な競争を止めることは不可能かもしれず、その結果、偽物の画像やテキストが溢れ、誰も「何が真実なのかを見分けられなくなる世界が到来する」と言います。

また同氏は、AI技術がやがて雇用市場を根底から覆すことも懸念。ChatGPTのようなチャットボットはパラリーガル、パーソナルアシスタント、翻訳者など、定型的な仕事をこなす人に取って代わる可能性があると語りました。

そしてヒントン氏が最も危険視しているのが、AIの兵器利用です。

この先、膨大な量のデータを分析した結果、予期せぬ行動を学習することが多いため、未来のバージョンの技術が人類に脅威を与えることを彼は懸念しています。このことは、個人や企業がA.I.システムに独自のコンピューターコードを生成させるだけでなく、実際にそのコードを実行させるようになると、問題になってくると彼は言います。そして、真に自律的な兵器、つまり殺人ロボットが現実のものとなる日を恐れています。

— 出典：The New York Times

ただし、ヒントン氏はAI開発のコントロールについて「不可能かもしれない」と述べ、核兵器と違って、企業や国が秘密裏に技術開発を進めているかどうかを知る術はないことを指摘しました。

「このようなものが実際に人間よりも賢くなれるという考え方は、少数の人は信じていました。しかし、ほとんどの人は、そんなことはあり得ないと思っていました。私もそう思っていました。30～50年、あるいはもっと先の話だと思っていました。明らかに、私はもうそう思っていません」

— 出典：The New York Times

Googleのチーフサイエンティスト、ジェフ・ディーン氏は今回の件について「私たちは、AIに対する責任あるアプローチに引き続き取り組んでいます。私たちは、新たなリスクを理解するために継続的に学習しながら、大胆にイノベーションを進めています」と述べました。

なお、ヒントン氏はTwitterで、Googleを批判しているわけではないと説明しています。

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023