Kue Bacang: イーロン・マスクが新たなAIモデル「Grok」を発表、“反抗的”なAIでいかなる世界を実現するのか

kuebacang.blogspot.com

人工知能（AI）が人類を滅亡させるリスクに対する不安をイーロン・マスクが英国であおったのは、11月初旬のことである。それから数日後、マスクは競合と比べて安全対策の少ない強力なAIを新会社のxAIが開発したと発表した。

xAIのAIモデルは「Grok」という名称で、この単語はテクノロジー界隈では「理解」を意味する。同社のウェブサイトには「少しばかりウィットに富んだ回答をするだけでなく、反逆的な一面があるので、冗談が嫌いな人は使用しないでください！」と説明されている。「ほかのAIシステムのほとんどが拒否する刺激的な質問にも答えます」

「刺激的」や「反逆的」が具体的に何を意味するのかは、この発表では説明されていない。とはいえ、商用AIモデルのほとんどは露骨に性的、暴力的、違法なコンテンツの生成を拒否し、訓練データに含まれている偏見を表現することを避けるよう設計されている。こうした安全策がないと、AIモデルがテロリストの爆弾づくりを助けたり、人種や性別、年齢などの特徴に基づいてユーザーを差別する製品が生まれたりする懸念があるのだ。

xAIはウェブサイトに連絡先を掲載しておらず、一般的なメールアドレスに送信したメールも跳ね返されてしまった。Xの広報宛のメールアドレスにも送ってみたが、「いまは忙しいので、後でまた連絡してください」という自動返信があるのみだった。

「世界のリアルタイムの知識」が優位性

xAIの発表によると、「Grok」は「Grok-1」という330億のパラメータをもつ言語モデルを基に構築されている。また「Grok」は2カ月で開発したとxAIは主張している。これは業界の標準に比べると比較的短い。また、Xのプラットフォーム、すなわち22年にマスクが440億ドル（約5.6兆円）で買収した「Twitter」として知られていたプラットフォームを通じて得られる「世界のリアルタイムの知識」が、このモデルの最大の優位性であるとしている。

xAIの発表にある主張は妥当なものだと、AIのオープンソースの取り組みであるEleutherAIにかかわるAI研究者のステラ・バイダーマンは語る。バイダーマンによると、「Grok」は「検索拡張生成（RAG）」として知られる手法でXの最新情報を出力に反映できるのだという。ほかの最先端の言語モデルも、検索エンジンの結果などの情報を取り込むためにこの手法を活用している。

大規模言語モデル（LLM）、特にOpenAIの画期的なチャットボットである「ChatGPT」は、この1年ほどでその驚くべき能力を証明している。これらのモデルは書籍やウェブサイトから取得された大量のテキストを取り込み、ユーザーの指示に応じて文章を生成する。

また、攻撃的なコンテンツや無礼、あるいは危険な回答を減らし、指示に対して一貫性があり妥当な内容を出力をするために、人間によるさらなる訓練を受けている。ただし、それでも間違った内容や偏見を含む回答を出力する傾向は残る。

OpenAIやグーグル、そしてAnthropic、Cohere、Inflection AIのようなスタートアップが開発する言語モデルは、基本的に犯罪に関するアドバイスの提供を拒否し、きわどい内容を求められた際には回答を差し控えるよう設計されている。これに対してxAIの発表からは、「Grok」がほかのモデルが不適切とみなす指示に対する回答の範囲が広く設定されているのか、単に同様の二次的な訓練を受けていないのかはわからない。

こうしたなかxAIは、大規模言語モデルの能力を測定するために設計されたいくつかのベンチマークテストの結果を投稿している。その結果は、ほかのよく使われているモデルの結果と似ているようだと、マサチューセッツ工科大学（MIT）の研究者であるアンドレイ・バルブは語る。

「Grok」はいまのところ少数のユーザーで検証を進めているが、今後はアクセスの申請を受け付け、より多くの人が使えるようになるとxAIは発表している。また、Xの月額プラン「Xプレミアムプラス」の加入者はこのモデルを使えるようになると、マスクはXの投稿で説明している。xAIはいまのところ、このモデルを一般公開するとは明示していない。

xAIの発表によると、同社はAIの進歩にかかわるいくつかの重要な課題に取り組んでいる。これには出力の信頼性を評価し、必要に応じて支援を求めることができるモデルを構築したり、「敵対的攻撃」と呼ばれるモデルが不適切な行動をとるように仕向ける攻撃に対して防御力の高いモデルをつくることが含まれている。「わたしたちは非常に悪意のある使い方に対抗するために、信頼できる防御策の開発に努めています」と発表には書かれている。

AIの開発に対するマスクの執念

マスクは生成AI（generative AI）に早い段階から投資していた。彼がOpenAIの設立を支援すべく5,000万ドルから1億ドルを投資したのは15年のことである。ところが、OpenAIを支配する試みが失敗した後（この時点でOpenAIはまだ非営利団体だった）、18年に同社への支援を停止している。

OpenAIが非営利団体から営利企業に変わってマイクロソフトの出資を受け入れると（そして「ChatGPT」の大成功を受けて）、世界で最も裕福な男はOpenAIを公然と批判し、その言語モデルは過度に「目覚めている」と非難した。その後、マスクは23年7月に「偏りの少ない」AIを開発するために、小規模ながらも優れたAI研究者のチームを組織したと発表している。

より多様な政治的意見をもつ言語モデルの構築をすでに試みているAI研究者はいる。OpenAIも、自社のモデルから政治的な偏見を取り除くために開発を進めていると説明している。

マスクがXを支配してからの1年間で、Xのプラットフォームは新しいオーナーのソーシャルメディアにおけるコンテンツのモデレーションに反対する姿勢に従って、極右派を含む物議を醸す多くのユーザーのアカウントを復活させた。また、マスクが経営を引き継いで以来、このプラットフォーム上の誤情報は増えていることを複数の研究が明らかにしている。

「Grok」の発表には「全人類に最大限の利益をもたらすAIツールを構築しています。どんな背景、どんな政治的見解をもつ人にとっても有用なAIツールを設計することが重要だと信じています。また法律の範囲内で、AIツールを通じてユーザーを支援したいと考えています。「Grok」でこの取り組みを公に探求し、示すことがわたしたちの目標です」と説明されている。

xAIの計画に詳しい別のAI研究者（xAIに関する話し合いは公的なものではないことから匿名を希望している）によると、xAIは自社の言語モデルを使用するコーディング用ツールを開発中だ。マイクロソフトは自社のコードエディタ「Visual Studio Code」で、OpenAIが開発したコード専用の言語モデルによって動くプラグインを提供している。コンピューターのコードでモデルを訓練することにより、ほかのタスクにおける性能の向上が見込まれる。

なお、何人かの著名なAI研究者に連絡をとったが、「Grok」を利用できる研究者はいまのところ見つけられていない。

すでに多くの優れた言語モデルがあるなかで、マスクが「Grok」をどのように活用し、それをどのように収益化するつもりなのかという点には疑問があると、MITのバルブは指摘する。「優秀な人材を集めて何かを始める準備は出来ているようです」と、バルブは言う。「しかし、それが何なのかはまだはっきりしません」

（WIRED US/Translation by Nozomi Okuma）

※『WIRED』による人工知能（AI）の関連記事はこちら。

Related Articles