Kue Bacang: イーロン・マスクによるOpenAI提訴、その中核にある“曖昧”な主張の中身

kuebacang.blogspot.com

イーロン・マスクが2月最終週の最初にとった行動は、イライラした調子でXにポストすることだった。その内容とは、Windowsの新しいノートPCのセットアップに苦労しているというものだ。そして同じ週の最後の行動とは、訴訟を起こすことだった。マスクは訴状において、OpenAIが無謀にも人間に匹敵する水準の人工知能（AI）を開発し、マイクロソフトにそのライセンスを供与したと非難したのである。

マスクの訴訟はOpenAIとその経営陣のふたり、最高経営責任者（CEO）のサム・アルトマンと社長のグレッグ・ブロックマンを相手取っている。このふたりは2015年、ロケットと電気自動車（EV）の分野の起業家であるマスクと共同でOpenAIを設立した人物だ。

今回の訴訟の大半で焦点となっている技術的な主張は、大胆で疑わしいものである。それはOpenAIが、いわゆる汎用人工知能（AGI）を開発したという主張だ。一般的にAGIという用語は、人間に総合的に匹敵する、あるいは人間を凌駕する機械を指す際に使用される。

訴訟における主張は、アルトマンとブロックマンがOpenAIの当初の「設立時の合意」に違反したというものだ。この合意はマスクとともに策定したもので、OpenAIが「人類の利益のために」オープンにAGIを開発すると確約しているという。

マスクの訴状での主張によると、彼がOpenAIとたもとを分かった後の19年に設立されたOpenAIの営利部門（事業部門）が、合意に反して適切な透明性を確保することなくAGIを開発し、同社に数十億ドルを投資するマイクロソフトにAGIのライセンスを供与したという。訴状ではOpenAIに対し、その技術をオープンに公開し、マイクロソフト、アルトマン、ブロックマンに金銭的利益をもたらすためにその技術を使用することを禁ずるよう求めている。

訴状には「その情報と信ずるところによると、GPT-4はAGIのアルゴリズムである」と、会話型AI「ChatGPT」を構成する大規模言語モデル（LLM）について触れている。そのうえで、GPT-4が人間の基本的な能力を超えた証拠として、GPT-4が米国統一司法試験やその他の標準的なテストで合格点をとれるという研究を挙げている。訴訟の主張によると、「GPT-4は推論できるだけではない。GPT-4は平均的な人間より推論能力が高い」という。

GPT-4が23年3月に発表された際には大きなブレークスルーであると称賛を受けたものの、AI専門家のほとんどはGPT-4をAGIが達成された証拠とはみなしていない。「GPT-4は汎用的ではありますが、一般的な用法でのAGIではないことは明らかです」と、ワシントン大学名誉教授でAI専門家のオーレン・エツィオーニは語る。

AIと言語を専門とするスタンフォード大学教授のクリストファー・マニングは、マスクの訴訟でのAGIに関する主張について「荒唐無稽な主張とみなされるでしょう」と語る。マニングによると、AGIを構成する要素についてはAIコミュニティにおいても見解が分かれているという。

専門家のなかには、認定基準を低く設定して、幅広い機能を実行できるGPT-4の能力は「AGI」と呼ぶにふさわしいと主張する人もいるかもしれない。一方で、人間をあらゆる面で凌駕するアルゴリズムだけを「AGI」と呼ぶようにしている専門家もいる。「この定義のもとでは、AGIがまだ存在しないことは明らかですし、実際AGIにはまだほど遠いのです」と、マニングは言う。

GPT-4は「AGI」なのか？

GPT-4が注目され、OpenAIの新たな顧客を獲得できたのは、幅広い質問に答えられるからだ。これに対して旧来のAIプログラムは、一般的にチェスを指したり画像にタグ付けしたりといった特定のタスクに特化したものである。

マスクの訴状で引き合いに出されているのは、23年3月に発表された論文にあるマイクロソフトの研究者による以下のような主張だ。「GPT-4の能力の幅広さと深さを考えると、汎用人工知能（AGI）システムの初期バージョン（ただしまだ不完全）とみなすことが妥当と考えている」

これに対してGPT-4は、素晴らしい能力をもつにもかかわらず、依然としてミスを犯す。それに、複雑な質問を正しく解析する能力には大きな限界がある。

「（GPT-4のような）LLMは、人間ができることを増やすための非常に重要なツールだが、制限があって自律性をもつ知能にはほど遠い。わたしたちのような現場にいる研究者たちは、そう考えていると思います」。カリフォルニア大学バークレー校教授で、機械学習の分野で影響力をもつマイケル・ジョーダンは、そう補足する。

ジョーダンによると、AGIという用語は非常に曖昧なので、自身は一切使わないようにしたいという。そのうえで、「イーロン・マスク氏のAIに関する発言について、精度が高い、あるいは研究の実情に基づいていると感じたことはわたしはありません」と、ジョーダンは語る。

マスクの訴訟にはもうひとつ難点がある。OpenAIが長い間、「AGI」について独自の定義を使用してきたことだ。そこでは、AGIは「経済的価値のある仕事の大部分で人間を凌駕する、高度に自律的なシステム」と説明されている。現在のGPT-4は、その水準からはほど遠いようだ。

マスクが過去に示した別の定義では、GPT-4はAGIの栄誉にあずかれないだろう。22年12月にOpenAIが発表したChatGPTについて、マスクは「恐ろしく優秀だ」と断言した直後に、AGIという称号に値するにはアルゴリズムが「驚くべきものを発明するか、深遠な物理学的発見をする」必要があると示唆している。「わたしはまだそうした可能性を見いだせない」と、マスクは投稿していたのだ。

OpenAIが最初に発表したChatGPTは、GPT-3と呼ばれるAIモデルを基に構築されたものだった。GPT-4は現在のChatGPTの有料版の動作を支えているが、GPT-3とGPT-4はOpenAIが先駆けて開発した一連のプログラムの最新版であり、これらは大規模言語モデル（LLM）として知られる。

LLMとは、ウェブや書籍などから得た膨大な量のテキストを使って訓練することで、文字列の後に続くべきテキストを学習して予測するアルゴリズムの一種だ。GPT-4やグーグルの「Gemini」のような競合サービスは、その柔軟性とパワーでAI研究者を驚かせたが、情報を捏造したり、不快なことを口走ったり、混乱したり一貫性がなくなったりする傾向がいまなお残っている。

専門家からは懐疑的な声

GPT-4をAGIとみなす主張は、マスクの訴訟の中核をなしている。これはOpenAIの設立理念に反しているという主張や、営利部門がマイクロソフトとのライセンス契約に違反したという主張の根拠を構成するものでもある。このライセンス契約には、マイクロソフトには「AGIが達成される以前の」技術のライセンスだけが供与されると記載されている。

スタンフォード・ロー・スクール教授のマーク・レムリーは、GPT-4がAGIであるという主張にも、この訴訟の全般的な法的妥当性にも懐疑的だ。OpenAIはオープンではなくなり、より利益を重視するようになったように見えるが、それがマスクにどのような権利をもたらすのかはまったく明確ではない。

「注目すべきは、この訴状にはマスク氏とOpenAIとの契約書や、マスク氏が存在を主張する理念を強制したり、金銭を取り戻したりする権利に触れた文書が含まれていないことです」と、レムリーは言う。「もしそうした文書が存在するなら、訴状に明確に記載されているはずです」

訴訟では「設立時の合意」には言及しているが、会社設立前にマスクとアルトマンが交わしたメールと、簡単な法人設立証明書が引用されているだけで、具体的な契約書については言及されていない。

この訴訟は、OpenAIが営利部門を設立したという主張など、ほかの理由でつまずく可能性もある。テック企業としては珍しい構造ではあるが、多くの企業は非営利団体に管理されているからだ。

「この訴訟に正当な根拠があるのか、勝訴する見込みがあるのかについては、わたしは非常に懐疑的です」と、ロヨラ大学シカゴ校の副学部長で非営利組織法について教えているサミュエル・ブランソンは語る。「マスク氏は、OpenAIが利益を追求し、営利団体と共同で投資をしたことを主な根拠として、OpenAIが非営利であることをやめたと主張しているのです。これは単純に間違っています」

（WIRED US/Edit by Daisuke Takimoto）

Related Articles