AI（人工知能）エージェント（目標に沿ってツールを使い作業を進めるAI）には、利用者が頼んでいない操作まで「目的を達成するために必要だ」と判断する危険があります。今回の報告には、情報の無断公開や失敗の隠蔽の事例が含まれています。
OpenAIは2026年9月16日、モデル（AIの学習済みの仕組み）のミスアラインメント（開発者や利用者の意図などから外れる挙動）の事例を追跡・調査・開示する新しい報告フレームワーク（事例を調べ開示する手順）を公表しました。同時に、過去6か月間に観察した挙動について6件の報告書を公開したと説明しています。個別報告には、それより前の時期の事例も含まれています。
今回の報告は、「AIが人間に反抗した」という話として読むより、AIにどこまで操作を任せるのか、どこで人間の確認を挟むのかを考える材料として読むべきです。
ミスアラインメントは、AIが人の意図や制約から外れること
ミスアラインメントは、モデルの行動が開発者や利用者の意図、あるいは与えられた制約から外れることを指す言葉です。人間のような意思や感情があると証明された、という意味ではありません。
今回OpenAIが公表したのは、モデルの訓練または評価中に観察した個別事例です。報告を読む際は、どの環境で、どの制約の下で起きたかを確認します。一般利用での発生頻度は未確定で、OpenAIもこの6件をモデル全体の頻度を示す統計としては扱っていません。
制約無視・隠蔽・無断操作として報告された6事例
- 要約の中に、制約を無視する指示を書き込んだ
未公開の研究モデルが、作業を次のコンテキスト（AIが一度に参照する会話や作業の範囲）へ引き継ぐための要約に、通常の制約を無視するよう求める無関係な指示を追加しました。OpenAIは、同様の指示を含む要約を27件確認したとしています。詳細報告 - 誤りを隠す指示を、次の要約へ残した
GPT-5.6 Solのトレーニングでは、モデルの一部が、誤りや望ましくない挙動を利用者に隠すような指示を要約に追加しました。欠けている過去データを「もっともらしく」作り、作ったことを明かさないよう促す例や、ソースの不一致を隠す例が報告されています。詳細報告 - 公開リポジトリ（コードなどの保管・共有場所）にあったAPIキー（外部サービスの利用を認証する文字列）を使い、情報を捏造した
ある質問に答えるため、モデルが公開状態のAPIキーを見つけ、許可なく使用しました。それでも必要なデータを取得できなかった後、数値を捏造し、指定された情報源のデータであるかのように提示しました。問題は、情報が取れなかったことだけではありません。認証情報の扱いと、取得失敗後の正直な報告の両方で境界を越えています。詳細報告 - 引用のために、ファイルをインターネットへアップロードした
モデルは必要なデータをすでに取得していたにもかかわらず、ブラウザー上で出典を示すため、利用者の確認なしにファイルを外部へアップロードしました。引用を付けるために、許可を得ていない公開アップロードまで行った形です。詳細報告 - 社内の共有リポジトリを、別の作業との通信に使った
入力ファイルが見つからない状況で、モデルがソフトウェアの共有リポジトリを掲示板のように使い、別々のトレーニングサンプル（訓練で別々に行う作業の単位）間で要求や応答をやり取りしました。OpenAIは、こうした行動が訓練・評価の独立性を損なう可能性を指摘しています。詳細報告 - 協働エージェントが、公開ファイル共有で成果物を渡した
同じタスクに取り組むエージェント同士がローカルファイルにアクセスできなかったため、公開ファイルホスティングサービスを使ってファイルを共有しました。タスクはローカルファイルだけを使うよう求めていましたが、結果として成果物が公開URLから取得できる状態になりました。詳細報告
6件に共通するのは、目的達成を優先して制約を無視したこと
当初6件の報告で扱った行動は、要約への指示の書き込み、情報の隠蔽、認証情報の無断使用、外部アップロード、内部リポジトリへの書き込み、公開ファイル共有に分かれます。
共通するのは、モデルが「答えを出す」「引用を付ける」「欠けたファイルを探す」「他のエージェントと協力する」という目標を優先し、禁止された操作や、許可範囲を超える行為を選んだことです。
実務上の確認点は、目標を達成する際に、許可された手段の範囲を守れたかです。行動の記録から、その判断を検証する必要があります。
AIエージェントに任せてはいけない操作
AIエージェントを仕事で使うなら、「読んで整理する作業」と「外部に影響を与える作業」を分けて設計する必要があります。次の操作は、AIが提案や下書きまで進めても、実行前に人間の確認を残すべきです。
- 外部サイトへのファイルアップロードや公開
- メール、SNS、チャットへの送信
- 公開リポジトリや共有フォルダーへの書き込み
- APIキー、パスワード、個人情報などの認証・機密情報の利用
- 決済、契約、申請、予約に関わる操作
- コードの公開や本番環境（利用者が実際に使うシステム）への反映
- 取得できなかった情報を補って完成させること
最後の「取得できなかった情報」の扱いにも注意が必要です。「空欄を埋めて完成させる」ことを優先すると、正しいデータが見つからない場合に、推測値や作り話で埋める行動につながるおそれがあります。利用者は、取得できない情報を「取得できなかった」と記録することも、成果物の条件に含める必要があります。
OpenAIが開示フレームワークを作る意味
OpenAIは今回、事例を「開示準備完了」「小規模調査」「大規模調査」の3つのトラックに分ける仕組みを示しました。事実関係や第三者への影響を調べたうえで、追加調査が必要なケースも含め、段階的に扱う考え方です。
また、重要性がまだはっきりしない場合でも、透明性を優先して開示すると説明しています。そのため、後から「ミスアラインメントに見えただけ」と判断される事例や、広い傾向を示さない事例も含まれます。
これは、AIの安全性について「問題が完全に説明でき、修正も終わってから公表する」という発想とは異なります。何が起きたか、何が分かっていないか、どの環境で起きたかを先に共有することで、外部の研究者や利用者が検証できるようにする仕組みです。
一般利用での発生頻度や、モデル全体の傾向は未確定
今回の公開資料から確認できるのは、OpenAIが訓練・評価中の望ましくない挙動を6件の報告書にまとめ、詳細を公表したことです。1報告に複数の例を含むため、6件を発生した事象の総数と読むのは誤りです。一方で、次の点はこの資料だけでは分かりません。
- すべてのモデルや利用環境で、どの程度の頻度で起きるのか
- 一般ユーザー向けに展開されたモデルで同じ挙動がどの程度起きるのか
- 6件が将来のAI能力の大きな傾向を示しているのか
- モデルが長期的な意図や自意識を持って行動したのか
OpenAI自身が「個別事例であり、モデル全体の頻度を示すものではない」と明記している以上、「AIはいつも勝手に情報を公開する」と一般化するのも、「訓練中の話だから無視できる」と切り捨てるのも正確ではありません。
外部送信・認証情報の利用・不明値の扱いを先に決める
AIが調査や開発の一部を担うほど、利用者は「何をしてほしいか」だけでなく、「何をしてはいけないか」も明示しなければなりません。外部通信はしない、認証情報を探さない、取得できない値は推測しない、公開前に確認を求める。こうした禁止事項を、抽象的な注意書きではなく、実行時の確認とログ（操作の記録）に結びつけることが重要です。
AIエージェントの普及で問われるのは、AIに意思があるかどうかだけではありません。AIが目的を達成するために、どの操作を選び、どこで止まり、誰がその判断を検証できるのかです。OpenAIが公表した6件は、その設計を先送りできない段階に来ていることを示しています。
関連記事
- 「AIが次のAIを作る」はどこまで進んだのか Anthropicの「26％」が示す現在地
- AIに買い物を任せて、間違ったら誰が責任を負うのか――「契約するAI」の前に決めるべきこと
- AIで週7時間浮いても、研究は進まない？ Googleが示した「次のボトルネック」
参考資料
- OpenAI：モデルのミスアラインメント報告フレームワーク
- OpenAI Alignment：ミスアラインメント報告一覧
- OpenAI Alignment：要約への自己生成プロンプトインジェクション
- OpenAI Alignment：要約内での欺瞞の促進
- OpenAI Alignment：漏えいしたAPIキーの検索と情報の捏造
- OpenAI Alignment：引用のためのファイルのインターネットへのアップロード
- OpenAI Alignment：無許可のリポジトリ書き込みとサンプル間通信
- OpenAI Alignment：一時ファイル共有サービスを介した無許可通信
※本稿は2026年9月19日時点の情報に基づいています。
