なぜ今 AI が話題なのか?(ChatGPT 以降の衝撃)

ざっくり言うと

正確には

話しかけられる入口が付いた日

ChatGPTは2022年11月30日に公開されました。長年の研究が、「入力欄に文章を書けば返事が来る」という分かりやすい形で届いた日です。

OpenAIの当日の発表は、これを研究プレビューと呼んでいます。得意なことと苦手なことを知るための公開、という位置づけです。質問に答えたり、聞き返したり、誤りを認め直したりするやり取りを、会話のまま続けられると紹介されました。

では、なぜ話題になったのでしょうか。短く言えば、性能が伸びた技術に、誰でも話しかけられる入口が付いたからです。そのうえで、製品として一気に届きました。

画面の裏側にあるのは、2017年に生まれたモデルの設計、学習に使う計算機とデータ、そして答え方を人の希望へ近づける調整の3つです。

「bank」は銀行か、川岸か

Google Researchの2017年の解説は、英語の bank を使って新しい仕組みを説明しました。「川を渡ったあと、bankに着いた」という例文です（※原文は I arrived at the bank after crossing the river.）。

この bank は、銀行ではなく川岸ですよね。決め手になる river は少し離れた位置にあります。それでも人は、2つの語をすぐ結び付けます。

それ以前によく使われた方式は、文を端から順に読み進めていました。離れた語の関係は、何段階もかけて運ぶことになります。

Transformerは、ここが違います。文中の各語をほかのすべての語と比べ、「どの語をどれだけ重く見るか」を数値にする仕組みです。bank を考えるときは river の重みを大きくできるので、離れた手掛かりを一度に結び付けられるようになりました。

この重み付けは、答えの根拠を人のように理解したという意味ではありません。ただ、文中の関係を同時に計算できます。そのため、一語ずつ順に処理する方式より、GPUを生かしやすくなりました。GPUは、多数の計算を同時に進める装置です。

Googleの2017年の解説では、当時の翻訳課題で品質を上げながら、学習を最大で約10倍速くできたと報告されています。もちろん、TransformerだけでChatGPTができたわけではありません。それでも、大量の計算を進めやすい設計は、その後の大きな言語モデルを育てる土台になりました。

大きくすると、どこまでよくなるのか

設計があっても、それだけでは性能は伸びません。学習に使う文章、計算機、時間のどれかが足りないと、そこで止まります。では大きくすればよいのかというと、そう簡単でもありません。学習には多くの専用計算機と電力が必要で、ただ規模を大きくするだけでも、研究者にとっては高価な賭けでした。

OpenAIが2020年に公表したScaling Laws研究は、まさにここを調べています。モデルの大きさ、データ量、学習に使う計算量を増やすと何が起きるのか、という調査です。

言葉の予測誤差は、一定の規則に沿って下がりました。一部の傾向は、最小と最大が1000万倍を超える幅でも続いたと報告されています。規模を大きくすることは、闇雲な試行ではなくなりました。限られた計算予算をどう配分するかを考える材料になったのです。

ここで測っている「予測誤差」は、次の語をどれだけうまく予測できるかに近い物差しです。あくまで学習の中で使う点数だと考えてください。数字や固有名詞を必ず正しく答えること、失礼な表現を避けること、家庭の事情を察することまでは保証しません。

つまり、大きさの効果を見通せることと、どんな場面でも安心して任せられることは、別の話です。この研究も「最大のモデルがいつも正解」と言っているわけではありません。データ、モデル、計算量の組み合わせから改善のしかたを見通しやすくなり、大規模な学習へ資源を振り向ける判断がしやすくなりました。

広く読む時期と、答え方を覚える時期

会話型AIを作る学習は、大きく2つの時期に分かれます。1つ目が「事前学習」、2つ目が「調整」です。

どちらも初めて聞くと難しそうですよね。本を広く読む時期と、接客の練習をする時期。この2つを思い浮かべると、つかみやすくなります。

OpenAIのChatGPT公開資料には、その進め方が書かれています。人の訓練担当者が、利用者役とAI役の両方を書いた会話を用意しました。さらに、複数の回答候補を人がよい順に並べ、その評価を学習へ反映しています。これは「人間からのフィードバックによる強化学習（RLHF）」と呼ばれる方法の一部です。

広く文章を学んだだけのモデルと、頼み方に合わせて返すよう調整したモデル。持っている知識が同じでも、使い心地はかなり違います。2022年のChatGPTは、この後半の工夫と会話画面を組み合わせました。利用者が言い直しながら答えを整えられる形になったのです。

使う場面

ニュースは、どこが変わったのかを見る

ここまでを振り返ると、ブームは1つの発明では説明できません。技術を実際のサービスとして保つ仕組みも要ります。誤りや不適切な利用を減らす、使い方の決まりも必要です。

積み上がったのは、次の5つです。

• Transformerというモデルの設計
• データと専用計算機という資源
• 事前学習と調整という方法
• 自然な文章で続けて頼める機能
• ブラウザから触れられる製品

同じ分け方は、AIニュースを読むときにも役立ちます。

5つの名前を覚えることが目的ではありません。見出しが「AIが劇的に進化」とうたっていても、実際には画面のボタンが1つ増えただけかもしれません。反対に、目立たない学習方法の変更が、回答を大きく変えることもあります。何が変わったのかを本文まで読めば、自分に関係する知らせかどうかを判断しやすくなります。

生成AIの広がりも、この重なりから生まれました。画像や音声を扱う機能、検索を組み合わせる機能、文書ソフトへの組み込みが増えています。同じモデルでも、任せられる作業は変わります。会社名や投資額の大きさより、自分が使う入口と出てくる物を見るほうが実用的です。

やってみよう

5000枚の写真を、7日分に分けてみる

ここまで読んだら、手元で試してみましょう。題材は、スマートフォンにたまった約5000枚の写真です。対話画面がなぜ普及を後押ししたのか、やってみると分かります。

専門用語は要りません。枚数、使える時間、絶対に避けたいことを普段の言葉で伝えれば、最初の計画が返ってきます。

まず、次の文を会話型AIへコピーしてください。写真そのものを渡す必要はありません。ここで頼むのは、整理作業の段取りだけです。枚数、使える時間、避けたい操作を分けて書くと、返ってきた計画のどこを直せばよいかも見つけやすくなります。

スマートフォンに写真が約5000枚あります。
無理なく続けられる7日間の整理計画を作ってください。

条件:
- 使える時間は1日5〜15分
- アプリやAIによる自動削除は禁止
- 削除する写真は、必ず私が一枚ずつ最終確認する
- 新しい有料アプリは使わない
- 家族写真や書類の写真を誤って消さない順番にする

各日について「やること」「終わりの目印」を一つずつ書いてください。
初日は、今日すぐ始められる作業にしてください。

最初の返事が立派すぎて、続けられそうにないこともあります。そんなときは、質問を最初から書き直さないでください。同じ会話で、次の一文だけを送ってみましょう。前の条件を残したまま、時間と作業量だけを小さくする頼み方です。

1日5分で終わる、もっと簡単な手順に直してください。
各日は一つのアルバムか一種類の写真だけを扱い、
5分たったら途中でも終える計画にしてください。

さらに「1日目はスクリーンショットだけ」「削除候補と保存候補を分けるだけにして」と続けてみてください。自分が動ける大きさまで、計画を縮められます。返事を受け取ってから条件を足せるので、最初の質問を完璧に作る必要はありません。この言い直しの気軽さこそ、専門家向けの技術を多くの人の日用品へ変えた理由の一つです。

締めに

この体験で手元に残るのは、AIについての抽象的な知識ではありません。5000枚という気の重い用事を、今日の5分の行動へ変えたチェックリストです。

高性能なモデルがあり、学習に使う資源がそろい、人の希望へ近づける調整が加わりました。そこへ、自然な言葉で何度も直せる会話画面が重なります。だからAIは、使い始められる道具になったのです。