埋め込み(Embedding)

ざっくり言うと

「犬」と「ワンちゃん」が同じことを言っていると AI が判断できるのも、検索で「意味が近い文章」を引っ張ってこれるのも、裏側ではこの Embedding が動いています。RAG(検索拡張生成)や社内ナレッジ検索の 基礎部品 だと思ってください。

イメージ

正確には

Google の機械学習解説では、Embedding は 「高次元のデータを、意味のある関係性が保たれるように低次元の数値ベクトルへ写像したもの」 と説明されています。似た意味を持つアイテムが、ベクトル空間上で互いに近くに配置されることが特徴です。

IBM の用語解説でも、Embedding は 「単語・文・画像などの離散的なオブジェクトを、連続的な数値ベクトルに変換したもの」 と定義されており、機械学習モデルが意味的な類似性を扱うための土台として位置づけられています。

OpenAI も公式ブログで、Embedding を 「テキストの意味的な類似性を測るための、数値ベクトル表現」 として紹介し、検索・クラスタリング・推薦・分類・異常検知などに利用できると説明しています。

何をベクトルにできる?

Hugging Face のチュートリアルでは、Embedding の対象として テキスト・画像・音声など、複数のモダリティ が紹介されています。代表的なものを並べるとこんな感じです。

対象	ベクトル化すると何ができる?
文章(単語・文・段落)	意味の近い文章を検索、文書分類、要約の類似度比較
画像	似た構図・似た被写体の画像を検索、画像分類
音声	似た声・似た曲調の検索、音声認識の前処理
コード	機能が似ているコードの検索、バグの近傍探索

「変換の仕方」自体は学習済みのモデル(Embedding モデル)が担当します。利用者は 文章を投げ込めば、ベクトル(数字の配列)が返ってくる という API として使うのが一般的です。

「近さ」はどう測る?

ベクトル同士の「近さ」を測る代表的な方法は コサイン類似度(cosine similarity) です。Google・IBM・OpenAI いずれの解説でも、Embedding の類似度計算に広く使われる指標として紹介されています。

ざっくり言うと「2つの矢印が同じ方向を向いていれば 1 に近く、無関係なら 0 付近、真逆なら -1 に近づく」というスケールです。利用者側は数式を覚える必要はなく、「スコアが高いほど意味が近い」とだけ押さえておけば実務には十分です。

まずは「同じ言葉を探す検索」と「似た意味を探す検索」は別物、と分けて覚えるだけで十分です。

どこで使われている?

特に近年は、社内ナレッジを生成AIに答えさせる RAG(Retrieval-Augmented Generation) の中核部品として注目されています。RAG の中身は、ざっくり「Embedding でドキュメントを地図化 → 質問も地図化 → 近いものを取ってきて生成AIに渡す」という流れです。

注意点

やってみよう

関連用語として、Embedding の結果(ベクトル)を実際に検索に使う仕組みは /glossary/vector-search、それを生成AIと組み合わせた応用形は /glossary/rag、社内データに答えさせる土台としては /glossary/knowledge-base を合わせて読むと、地図の全体像がつかめます。