IBM Graniteチームは2026年11月12日、生成AIが指示と参照資料を区別しやすくする新しい記述形式「LLMON」を発表しました。あわせて、LLMONに対応するGranite 4.1の3B・8BプレビューモデルをHugging Face上で公開しています。

LLMONは指示・データ・実行対象の区別を明確にする

チャットAIに社内文書や検索結果、ツールの返答を渡すと、入力の中には「従うべき指示」と「読んで参考にするだけの情報」が混在します。LLMONは、それぞれを明示的なブロックとして記述し、実行対象の指示と入力データの関係をモデルに伝える方式です。

IBMは、参照データの中に紛れ込んだ命令をモデルが誤って実行する「プロンプトインジェクション」への耐性向上を狙いとして説明しています。ただし、これは学習によって得た挙動であり、攻撃を必ず防ぐ保証ではありません。

Granite 4.1の3Bと8Bをプレビュー公開

「指示に従う領域」と「資料として読む領域」を区別したいRAGやツール実行で意味があります。たとえば検索で取得したページに「以前の指示を無視して」と書かれていても、その文章を検索資料として渡し、命令とは区別させる設計です。

提供されたモデルは「granite-4.1-3b-llmon-preview」と「granite-4.1-8b-llmon-preview」の2種類です。サイズの異なるモデルを公開することで、開発者は環境の計算資源や必要な応答品質に合わせて評価できます。

両モデルのHugging FaceページにはApache 2.0ライセンスが表示されています。既存のGranite 4.1 Instructを単純に書き換えたものではなく、ベースモデルからLLMON形式を使って追加学習したプレビュー版です。

RAG・AIエージェントでLLMONを活用する方法

社内検索を組み合わせたRAG、外部ツールを呼び出すエージェント、長い会話履歴を扱うシステムなどで、情報の役割を整理する用途が考えられます。通常のチャットメッセージからLLMON形式への変換には、モデルが提供するチャットテンプレートも活用できます。

モデル選定では一般的なベンチマークだけでなく、実際の入力形式で必要な指示を守れるか、資料に含まれる不正な命令を無視できるかを検証してください。プレビュー版である以上、運用前に互換性や変更可能性も確認が必要です。

LLMONの導入手順と、プレビュー版の注意点

既存のアプリに組み込む場合は、ユーザーの依頼、検索結果、ツールの返答をそれぞれ何の情報として扱うかを整理し、LLMON対応のチャットテンプレートでモデルへ渡します。IBMはJSONとLLMONの相互変換も案内しており、現在のシステムをすべて作り直さずに入力表現を評価できます。ただし、データ内の命令を「実行すべき指示」と誤認するかどうかは、業務に近い攻撃例で確かめる必要があります。

公開された2モデルは技術評価向けのプレビューです。実際の採用では、推論に必要なGPUメモリ、応答速度、既存プロンプトとの互換性、機密データの保護、商用利用時のモデルカード・ライセンスを個別に確認しましょう。従来型のJSONやMarkdownを一律に置き換える発表ではありません。

関連記事

RAGとは

構造化出力とは