生成AIは何が苦手?(限界を知る)

ざっくり言うと

苦手分野を知っておくと、「思ったほど役に立たない」と感じる場面がかなり減ります。敵を知ることは、味方として使いこなす第一歩です。

総務省『令和元年版情報通信白書』でも、AIは「人間の知的な営みをコンピュータに行わせる技術」と整理されつつ、「白書公開時点のAIは特定の用途に特化したものが中心で、人間のような汎用的な知能には達していない」という方向で説明されています。万能機械ではない、というのが公的見解の出発点です。

IBM の解説でも、AI は「特定タスクを支援する技術分野」と位置づけられており、生成AI(Generative AI)は確率的に「それっぽい続き」を作るのが本職であって、真偽の判定機ではない、と整理されています。

苦手分野	具体例	なぜ苦手か(構造的な理由)
学習後の情報	学習後のニュース、日々変わる株価、学習後の法改正	学習データに期日(カットオフ) があり、それより後は基本知らない
正確な計算	大きい桁の四則演算、複雑な確率計算	言語モデルは「次に来そうな単語」を予測する仕組みで、電卓ではない
法的・医療的な最終判断	「この契約書、サインしていい?」「この症状、薬飲んでいい?」	責任を負えない/個別事情を全部把握できない/専門家の独占業務
個人の特定・詮索	「この人の住所教えて」「この写真の人は誰?」	プライバシー保護のため意図的にブロックされている領域
責任を伴う最終意思決定	採用・解雇・融資審査・進路選択	判断の根拠を完全には説明できない/最終責任は人間が負うべき領域
長期的なコンテキスト記憶	「半年前に話したあの案件、覚えてる?」	会話履歴は基本セッション単位。昨日の話を今日忘れていることがある
ニッチな専門知識	自社の社内ルール、地域限定の慣習、マイナー業界の新しい動向	学習データにそもそも載っていないので、知らないことは作れない

苦手分野の話と必ずセットで出てくるのが「ハルシネーション」です。これは生成AIが「事実と違うことを、自然な文章で書いてしまう」現象のこと。

仕組みはシンプルで、生成AIは「学習データから、それっぽい次の単語を確率で選ぶ」ことをしています。真偽の判定はしていないので、知らないことを聞かれても「それっぽく」答えてしまいます。詳しくは別記事「ハルシネーション」で扱います。

生成AIの苦手分野は「AIが劣っている」という意味ではなく、「人間と組むための役割分担の線」だと捉えてください。AIに下書きしてもらって、人間が裏取りして判断する。この組み合わせが、実務では現実的で強い使い方です。

次のステップとして、苦手分野の代表選手である「ハルシネーション」をもっと深く知りたい方は、関連記事(ハルシネーションとは / AIとの上手な付き合い方)へ進んでみてください。