AIにPC作業を任せる前に知っておくこと

ざっくり言うと

AIが怖いのは、AIが悪意を持っているからではありません。人間の指示が曖昧だったり、承認画面をよく見ずに許可したり、戻せる準備をせずに本番ファイルを触らせたりすると、普通の作業ミスが一気に大きくなるからです。

この章では、AIを止めるためではなく、安全に使い続けるための交通ルールを扱います。

イメージ

正確には

OpenAI Codex の公式ドキュメントでは、Codex の安全制御は大きく「サンドボックス」と「承認」の2層で説明されています。サンドボックスは、AIが技術的に触れる範囲を制限する仕組みです。承認は、AIが危険または範囲外の操作をしようとしたときに、人間に確認を求める仕組みです。

Anthropic の Claude Code も、追加の操作、たとえばファイル編集、テスト実行、コマンド実行などには明示的な許可を求める設計です。また、書き込みできる範囲を作業フォルダ側に制限する考え方が説明されています。

つまり、多くのAI作業ツールには安全装置があります。ただし、安全装置があっても、人間が何でも許可してしまえば意味がありません。車にブレーキがあっても、赤信号で止まらなければ危ないのと同じです。

事故の種類は大きく5つ

事故	何が起きるか	例
削除	必要なファイルが消える	画像フォルダや記事データを削除
上書き	元の内容が別物になる	大事な設定ファイルを書き換える
公開	まだ出してはいけないものが外に出る	GitHubや本番サイトへ公開
送信	秘密情報が外部サービスへ渡る	APIキーや顧客情報を貼る
接続	AIが外部サービスを操作する	Slack送信、Drive操作、GitHub操作

注意点

AI作業ツールを入れること自体が危険なのではありません。危ないのは、次のような使い方です。

• 大事なフォルダでいきなり作業させる
• バックアップなしで大量編集させる
• 承認画面を読まずに許可する
• APIキーやパスワードを貼る
• 本番サーバーや公開サイトを直接触らせる
• 「全部自動でやって」と丸投げする

逆に言えば、最初は小さなフォルダで試す、変更前に説明させる、削除や公開を禁止する、作業後に差分を見る。この4つだけでも事故の確率はかなり下がります。

やってみよう

この章のゴールは、AIを怖がることではありません。「任せてよい作業」と「人間が止まって確認する作業」を分けられるようになることです。