AIに買い物を任せて、間違ったら誰が責任を負うのか――「契約するAI」の前に決めるべきこと

契約するAIと買い物の責任 AI・デジタル

「予算3万円以内で、来週末の大阪のホテルを予約しておいて」

そんな頼み方が、近いうちに珍しくなくなるかもしれません。利用者の好みや予定を踏まえ、候補を比べ、予約や購入まで進めるAIエージェントの利用が広がり始めています。

消費者庁の2026年版消費者白書も、AIエージェントを、利用者の代理で情報収集や手続を行う仕組みとして取り上げています。旅行なら、候補を出すだけでなく、利用者の同意を得て予約手続まで代行する。条件比較、予約、購入といった作業を任せられる点が、文章作成や検索を主な用途とする生成AIとの違いです。

便利になるのは間違いありません。スマホの操作が苦手な高齢者にとっても、複数のサイトを行き来せず、対話だけで必要な手続にたどり着ける可能性があります。

ただ、AIが「調べる」段階を越え、「契約する」段階に入ると、問題は急に重くなります。誤った予約、意図しない有料サービス、偽サイトへの誘導が起きたとき、私たちは誰に何を求めればよいのでしょうか。

便利さの境目は、「提案」ではなく「確定」にある

ホテルの候補を三つ並べるだけなら、最後に選ぶのは人です。ところが、AIがカード情報や住所、旅行履歴を使い、最も条件に合うと判断したプランを予約まで済ませたらどうでしょう。

「禁煙のはずが喫煙可の部屋だった」「最安値だと思ったら、返金不可のプランだった」「家族分の航空券まで予約されていた」。これはAIエージェントの欠陥を決めつける話ではありません。人が使う言葉は曖昧で、予算、日程、変更の可否、ポイント利用など、優先順位がぶつかるからです。

だからこそ、購入や予約を確定する直前に、何を買うのか、いくらなのか、キャンセルできるのかを、本人が分かる形で確認できなければなりません。

消費者庁の白書も、AIエージェントが利用者の意図に沿ってサービスを受けるためには、個人情報や利用履歴を扱い、必要な情報だけを選別して開示する役割を担い得るとしています。裏を返せば、AIエージェントには生活の細かな情報が集まることになります。

「本人が押していない」だけでは、解決にならない

ネット通販では、返品や解約の条件を契約前に確認することが欠かせません。特定商取引法には通信販売について一律のクーリング・オフ規定はなく、原則として事業者が示す返品特約が重要になります。

AIが代わりに発注したケースでも、「画面上で誰が、どのように意思表示したのか」は簡単ではありません。経済産業省の電子商取引に関する準則は、AIスピーカーと音声で発注が完結する取引について、電子消費者契約法の対象となるかが問題になると整理しています。AIエージェントの取引すべてに、そのまま当てはまるわけではありません。それでも、現在のルールが主として人が画面を見て操作する取引を想定していることは意識しておくべきです。

利用者が「そんなつもりではなかった」と訴え、事業者が「正しい手続で注文を受けた」と答え、AIサービス提供者が「利用者の指示に従った」と説明する。責任の押し付け合いになれば、困るのは代金を払った消費者です。

誰が責任を負うかを、事後ではなく事前に決める

AIエージェントの契約利用を広げるなら、少なくとも次の四つは最初から設計に組み込むべきです。

1.AIに任せる範囲を、金額と行為で区切る

情報収集や比較は自動でよいとしても、契約の確定は別です。たとえば「1万円未満の日用品だけ」「予約変更不可の商品は必ず確認」「新しい事業者との初回取引は本人承認」といった上限設定が必要になります。

2.最終確認を、読める形で残す

「同意しました」という一言だけでは不十分です。商品・サービス名、総額、解約条件、販売事業者、支払方法を一画面または音声で明示し、確認記録を利用者自身が後で見られるようにするべきです。

3.AIが見た情報と判断の記録を残す

どの条件を優先し、どのサイトを経由し、なぜその商品を選んだのか。誤購入や不当な誘導が疑われたとき、利用者、販売事業者、AIサービス提供者が事実を確かめられる記録が要ります。ブラックボックスのままでは、救済も再発防止も進みません。

4.相談窓口を一本化する

「販売店に聞いてください」「AIの会社に聞いてください」とたらい回しにされない仕組みが必要です。消費者がまず連絡する窓口と、返金・取消し・調査の責任分担を明らかにしておくべきです。

AIは消費者を守る側にも立てる

AIエージェントは危険を増やすだけではありません。消費者庁の白書は、ネット取引で不自然な誘導や危険な取引の兆候を検知し、注意を促す活用も考えられるとしています。

例えば、「残り1分」「今だけ大幅値引き」と過度に焦らせる表示、解約方法が見つかりにくいサイト、相場とかけ離れた価格を検知して、購入前に止めるAIです。事業者の販売を後押しするAIだけでなく、消費者の側で比較し、疑い、立ち止まらせるAIがあってよいはずです。

問われるのは、AIがどれだけ賢いかではありません。本人の意図を勝手に広げず、間違ったときに説明でき、取り消しや相談につながる設計になっているかです。

AIに契約を任せる社会では、「本人がボタンを押したか」という古い問いだけでは足りません。誰が何を任せ、どの段階で止められ、失敗したときに誰が負担するのか。そのルールを決めないまま便利さだけを先に進めれば、消費者はAIに助けられるのではなく、AIを介した取引の弱い立場に置かれてしまいます。

参考資料

関連して読む

行政や企業がAIを使うときの責任、個人情報、住民への説明は、次の記事で続けて確認できます。

タイトルとURLをコピーしました