AIにPC作業を任せる前に知っておくこと

「AIにフォルダ整理を頼んで、必要なファイルまで消されたら？」「ホームページの修正を任せたら、勝手に公開されない？」「確認ボタンが出るなら安心？」。AIがパソコンや外部サービスを操作できるようになると、こうした疑問も出てきます。

最初に決めるのは「AIが触れてよい範囲」「人が確認して止める操作」「失敗したときに元へ戻す方法」の3つです。 最初から本番のファイルを変更させず、確認だけ → 作業用コピーで試す → 変更内容を見る → 必要な部分だけ反映する順に進めましょう。

AIがすべての操作で確認を求めるとは限りません。製品の設定や許可モードによっては、指定フォルダ内の編集や一部のコマンドが確認なしで実行されます。また、「削除しないで」と文章で頼むだけでは、技術的に削除を禁止したことにはなりません。 実際の権限設定と合わせて考える必要があります。

この記事では、2026年10月12日に確認したOpenAI・Anthropic・NISTの公式資料と現行記事をもとに、プログラミングをしない人にも役立つ事故の防ぎ方を説明します。

ざっくり言うと

イメージ

1. AIにPC作業を任せるとは、何をすること？

会話で手順を教えてくれるだけのAIと、実際にファイルを編集したり、Webサイトを操作したりするAIは区別します。後者のように、必要なツールを使って複数の作業を進める仕組みがAIエージェントです。

たとえば「来月の案内文を考えて」なら、文章をチャットで返すだけでも目的を達成できます。一方、「案内文を共有フォルダに保存し、取引先へメールで送って」では、ファイル作成と外部送信の権限が関わります。

AIは「とても手の速い新人スタッフ」に例えられます。ただし、AIが会社の事情やファイルの重要性を最初から知っているわけではないため、任せる仕事と禁止する仕事を区別します。

正確には

2. よくある事故は「削除・上書き・公開・送信・接続」の5つ

次の5分類を使うと、作業前に危険を見つけやすくなります。これは事故の発生件数を比較したランキングではありません。

「接続」は、それ自体がファイル削除と同じ事故という意味ではありません。AIが操作できる範囲を広げる入口なので、接続した後にどのような操作が可能になるかを確認します。

加えて、AIがWebページやメールの中の悪意ある指示を、利用者からの依頼と取り違える「プロンプトインジェクション」にも注意が必要です。たとえば、読んでいるページに「ほかのファイルを探して送信せよ」という文が隠されていたとしても、そのページの文章に指示する権限を与えてはいけません。OpenAIは、エージェントが外部情報を読む場面で起こる現実的なセキュリティ課題として説明しています。

「AIが確認を求めなかった＝安全だった」ではありません。 作業環境の許可設定によって、確認が省かれている場合もあります。

3. 安全の基本①：作業範囲を小さくする

初心者がいちばん始めやすい対策は、本物の重要ファイルを直接渡さないことです。たとえば「見積書を整理して」と頼みたいなら、練習用のコピーだけを新しいフォルダに置きます。

1. 対象ファイルを選び、元の場所に原本を残す。
2. 別の「AI作業テスト」フォルダへコピーする。
3. AIに見せる資料と、書き換えてよい資料を分ける。
4. 可能な場合は、ツール側のアクセス権限や作業場所もそのフォルダに限定する。
5. デスクトップ全体・ダウンロード全体・共有ドライブのルート・本番サーバーなどを、練習の作業場所に選ばない。

閲覧できることと、編集してよいことも別です。必要なら資料の内容を読ませても、原本への書き込みや外部送信は許可しません。

特に注意したいのは、OneDriveなどの同期フォルダです。PC上の変更がクラウドや別の端末へ反映される場合があります。同期しているから自動的に安全なバックアップが完成している、とは考えないでください。

また、「このフォルダだけを触って」と文章で書いても、外側のフォルダや連携先へ実際にアクセスできない設定になるとは限りません。CodexやClaude Codeなどの一部ツールでは、サンドボックス（実行環境の制限）や許可ルールで操作範囲を管理できます。対応範囲は製品・環境・設定により異なります。

より詳しくはAIが触れる範囲を決めるで確認できます。

4. 安全の基本②：「確認してから実行」を本当に機能させる

AIに作業を頼むとき、先に「調べて提案する段階」と「実際に変更する段階」を分けます。確認したいのは、単に「実行しますか？」と表示されたかではなく、何がどこで変わるかを理解できたかです。

たとえば、確認画面や変更案を見るときは、次の4つに注目します。

確認画面が必ず出るとは限りません。OpenAIのCodex公式資料では、サンドボックス内での操作と承認ポリシーを区別し、作業場所内の編集が自動で進む構成も案内しています。AnthropicのClaude Codeも、acceptEditsや権限確認を省くモードでは、操作によって許可が不要になります。

逆に、ChatGPTのブラウザ操作には、購入・送信などの重要操作前に確認を求める仕組みが案内されています。どの製品でも一律に「全部の編集で確認される」と思い込まず、利用中の画面と設定を確認してください。

理解できない操作が出たら、いったん止めます。説明をAIに求めるのは役立ちますが、その説明も間違う可能性があります。 不安が残るなら、原本や設定を確認できる人に見てもらいましょう。

5. 安全の基本③：作業前の状態に戻せるようにする

バックアップは、実際に戻せて初めて役立ちます。 まずは「元データをどこに残したか」「どこまで戻せるか」を決めます。

メールの誤送信、第三者に見られた公開ページ、外部へ渡った個人情報などは、ファイルを元に戻しても相手側のコピーまで消せるとは限りません。 そのため、削除や上書きだけでなく、外への公開・送信を特に慎重に扱います。

復元方法を知らない場合は、いきなり本番のデータで試さず、別の練習用ファイルで戻せることを確認します。

具体的な保存方法は消える事故を防ぐバックアップと履歴の基本でも説明しています。

6. まず「確認だけ」を任せるための指示文

最初は変更を実行させず、調査と提案から始めましょう。禁止する操作と、受け取りたい報告も伝えてください。

次は架空の会社の見積書フォルダを想定した、コピーして使える依頼文です。

まず、作業の調査と提案だけをしてください。まだ変更は実行しないでください。

対象：私が指定した「AI作業テスト」フォルダ内の、練習用見積書だけ。
目的：重複しているファイルと、名前が分かりにくいファイルを見つけること。

今回してよいこと：
- 指定フォルダ内のファイル名を一覧化する
- 重複の可能性があるファイルを「候補」として挙げる
- 変更案を「対象ファイル／変更内容／理由／元に戻す方法」で表にする

今回してはいけないこと：
- ファイルの作成・上書き・移動・削除・名前変更
- フォルダ外の探索、外部サービスへの接続
- メールやチャットの送信、共有設定の変更、Webへの公開

処理する前に必要な権限と確認があるなら、説明してください。
判断できないファイルは無理に分類せず「要確認」としてください。
結果を読んで私が次の操作を指定するまで、提案だけで止めてください。

これなら、最初の成果物は「変更結果」ではなく「実行候補の一覧」になります。

ただし、この文章は作業方針を伝えるもので、技術的なアクセス制限ではありません。 実際に変更を防ぎたいときは、利用ツールが対応する読み取り専用モード、許可設定、アクセス権を合わせて選びます。

次の段階も、一度に全部許可しない

一覧を見て納得できたら、たとえば次のようにファイル1つだけ試します。

さきほど提案したファイル名変更のうち、指定した1件だけを、
練習用のコピーに対して実行してください。
原本や別のファイルは変更しないでください。
実行前に、対象の元ファイル名と新ファイル名を示してください。
作業後は、変更前後と対象件数を報告してください。

実行後は、AIの「完了しました」という返答だけで判断せず、実際のファイルと変更履歴を見ます。

7. ホームページ・メール・クラウド操作では何を追加で確認する？

同じ「AIに任せる」でも、ローカルの練習ファイルと、公開Webサイトや顧客メールでは影響が大きく違います。

ホームページの修正

「文章の修正案を作る」「テスト環境へ反映する」「本番へ公開する」を別の段階にします。テスト環境で問題がなかったからといって、本番への自動公開を無条件に許可しないことが大切です。変更前の版、差分、公開先URL、戻す手順を確認します。

メール・チャットの整理

最初は受信内容の分類や返信案の作成だけを任せます。送信する前には、宛先、CC・BCC、本文、添付ファイル、送信アカウントを確認します。メールに含まれる悪意ある指示を、利用者の依頼だと取り違えるリスクにも注意してください。

クラウドストレージと外部連携

Drive、カレンダー、チャットなどを接続すると、AIがアクセスできる情報や操作が増える場合があります。「閲覧だけ」「新規作成まで」「削除や共有も可能」を区別し、不要な権限を付けないことが基本です。連携サービスの管理画面で、許可した内容や共有範囲を確かめましょう。

詳しくはAIを外部サービスにつなぐ前にで扱います。

8. AIが作業したあとのチェックと、止め方

どの作業でも、最終的に「自分の意図と実際の変更が一致しているか」を見ます。次の順番が実用的です。

1. 対象件数： 依頼したファイルや項目以外が変更されていないか。
2. 変更箇所： 変更前と変更後を見比べ、文章・数字・数式・日付・リンクが正しいか。
3. 共有・外部送信： 誰に何を渡したか、公開されたページやアクセス権が変わっていないか。
4. 元に戻す準備： 原本・履歴・バックアップが使える状態か。
5. 次に進む条件： どの部分を本人が承認し、どの部分が未確認か。

「処理できました」だけでは、検証できたことにはなりません。 変更を確認できない場合は「未検証」と記録し、必要なら操作を停止します。

想定外の操作を始めたら、まず使っているAIツールや作業画面の停止・中断機能で作業を止めてください。停止を押しても、すでに完了した送信・公開が元に戻るとは限りません。その後、実際の変更範囲と共有状況を確かめ、必要な復元や対応を検討します。

もし機密情報を誤って共有した疑いがあるなら、作業を中断し、該当する組織の手順に沿って、共有権限・認証情報・受信者などを確認してください。事故の有無をAIの自己申告だけで判断しないことが重要です。

9. 最初に試す5分チェック

まずは架空の内容を入れた練習用フォルダだけで、次を試してみましょう。練習では本物の顧客情報も、本番サイトのログイン情報も使いません。

1. 「AI作業テスト」というフォルダを自分で作り、架空の短い見積書を2つ置く。
2. 元ファイルを別の場所に残し、使っているツールの許可範囲を確認する。
3. 第6章の「確認だけ」の指示文を送り、ファイル一覧と変更候補だけを作らせる。
4. 実際にファイルが変更されていないこと、提案に対象外のファイルが含まれていないことを確かめる。
5. 実行に進む場合でも、作業用コピーの1ファイルだけを対象にして結果を確認する。

最初の目標は、AIに大量の仕事を自動で終わらせてもらうことではありません。「何を任せたか、何が変わったか、止めたいときにどう止めるか」を説明できる状態にすることです。

よくある質問

やってみよう

判断クイズ

第1問

AIに見積書フォルダの整理を頼む前、最も適切なのはどれでしょう？

• A. 原本だけを渡して、処理はすべて任せる
• B. 練習用コピーで対象と変更候補を確認し、作業範囲を制限する
• C. 「絶対安全」と書けば、権限の確認を省いてよい

第2問

AIに「削除は禁止」と伝えました。この一文だけで削除を技術的に防げますか？

• A. できる。指示に書けば権限も自動で変わる
• B. できない。文章の指示とツール側の権限設定は別
• C. できる。AIから確認が出た場合だけ、後で考えればよい

第3問

AIが顧客向けメールを作成し「送信準備完了」と答えました。次にすることは？

• A. 重要な連絡でも、AIが作成したなら自動送信する
• B. 宛先・本文・添付・送信元を確認し、明示的に送信を承認する
• C. 送ったあとで宛先を確認し、問題があればバックアップから戻す

あわせて読みたい

• AIが触れる範囲を決める — 原本・作業用コピーと閲覧・編集範囲の分け方
• 消える事故を防ぐバックアップと履歴の基本 — 同期とバックアップの違い、復元の考え方
• AIを外部サービスにつなぐ前に — メール・クラウド・ブラウザ連携の許可範囲

締めに

まとめ

安全策の設計は、2026年10月12日にOpenAIの承認とセキュリティと不正な指示への対策で確認しました。使う製品の権限・承認設定は、実行前に最新の案内で確かめてください。

AIにPC作業を任せる前は、「範囲を小さくする・重要操作を人が確認する・戻せる状態を用意する」の3つを決めます。 削除・上書き・公開・送信・接続の5つを意識すると、何を自動化してよいか判断しやすくなります。

最初は実行させず、練習用のコピーで一覧と変更案を出してもらいましょう。必要な部分だけ小さく実行し、実際の変更を確認します。文章で「禁止」と頼むだけで安心せず、使っているツールの権限設定と、外に出た情報は元に戻せない場合があることも確認してください。