このサイトはアフィリエイトリンクを含んでいます
スポンサーリンク

AIのミスで損害が出たら誰の責任?伸びる業界を予想

AIのミスで損害が出たら誰の責任かを問う文字と、書類と盾をのせた天秤のイラスト AIで調べてみた
スポンサーリンク

AIを仕事で使う会社は、これからも増えていきそうです。便利な道具ですが、AIがまちがえてお客さんに損をさせてしまったら、誰の責任になるのでしょうか。

気になって、ぼくは、AIを作っている会社の利用規約(サービスを使うときの決まりごとです)と、アメリカの法律や保険の動きを調べてみました。AIが進むほど困ったことが起きるなら、そのとき伸びていく業界はどこなのか。調べたことをもとに、考えてみます。

スポンサーリンク
スポンサーリンク

AIの損害は誰の責任?

例として、AIのClaudeを作っているAnthropicの、会社向けの商用利用規約(※英語サイト・自動翻訳推奨)を読んでみました。規約には、補償と責任の上限という言葉がよく出てきます。

補償は、相手が第三者に訴えられたときに、代わりに引き受ける約束のことです。責任の上限は、何かあっても払うお金はここまで、という天井のことです。そのうえで、責任に関わるところは3つありました。

  • AIを作る側が、使う側をかばう(補償する)のは、著作権など知的財産の請求だけです。
  • AIを作る側の責任には上限があって、使う側が直近12か月に払った料金までです(同じ上限は使う側の責任にもかかります)。
  • 使う側が作る側をかばう約束には、この天井がありません(作る側の知的財産のかばう約束も、同じく天井の外です)。

知的財産以外の請求は、規約の上では作る側がかばう約束の外にあります。しかも作る側が払う額には天井があるので、損害が大きくなるほど、使う側に残る分が増えそうです。ほかのAIの規約は書き方がそれぞれ違うはずなので、使っているAIのページで見るのが確実です。

AIに入れた情報がどこへ行くのかは、前に追いかけた回があります。

ChatGPTなど生成AIの情報漏洩はなぜ?入れた情報の行き先を追う
生成AIの情報漏洩はなぜ起きるのか。ChatGPT・Claude・Geminiに氏名や住所、社内の資料、APIキーを入れたとき、入れた情報が裏でどこへ行くのかを3つの場面で追います。

AIと法律の話を一から読みたいときには、弁護士の方々が書いた入門書があります。対話型AIから画像生成AIまで、分野別・利用場面別に課題と対策をまとめた本です。

ここまでの流れを、バトンの渡り方で描いてみました。

AIの損害は誰の責任になるのか。AIを作る会社、AIを使う会社、小さな会社、保険の順に、責任がどこで止まりどこに残るかを4つの枠で示した図

米国の法律はどちらへ?

責任の行き先を決めるのは、規約だけではありません。法律も動いています。アメリカでは、この1年ほどのあいだに、国と州がそれぞれ動きました。

国の動き

2025年12月11日、大統領が大統領令(※英語サイト・自動翻訳推奨)に署名しました。州のAI法と裁判で争う、司法省のチームを作る内容です。

2026年3月20日には、ホワイトハウスが議会へ立法の提言(※英語サイト・自動翻訳推奨)を出しました。州のAI法を、連邦の法律で上書きするよう求める内容です。そのなかに、州は、AIを作る側を、第三者の違法な行為のことで罰してはいけない、という項目があります。責任を負わせることではなく、罰することへの歯止めです。

提言は、州ごとにばらばらな法律より、負担の少ない全国共通の基準をめざす、と書いています。

州の動き

いっぽうコロラド州では、2026年5月14日に新しい法律(SB 26-189。※英語サイト・自動翻訳推奨)が署名されました。原則として2027年1月1日から使われます。

AIを使って人についての大事な判断をするときの契約で、かばう約束(補償の条項)が、自分の行為や手落ちで出た差別禁止法違反の損害まで相手に負わせるものなら、その条項は無効です。AIの契約書にある補償の一部が、法律で無効にされる、ということです。事業者どうしのそれ以外の契約条件には、口を出さないとも書かれています。

国は州の法律を上書きしたがっていて、州は契約の条項を直接ふさいでいます。AIの責任をめぐって、向いている方向が違うようにも見えます。ここまでを年表にすると、こうなります。

AIの責任をめぐる米国の動きの年表。2025年12月の大統領令、2026年3月のホワイトハウスの提言、2026年5月のコロラド州法の署名、2026年9月のCSISの論文を時間の順に並べた図

保険会社はAIをどう扱う?

年表の最後にあるCSISは、アメリカの政策研究機関です。2026年9月4日に公開した論文(※英語サイト・自動翻訳推奨)で、保険会社の動きを書いています。

保険の契約とAIの損害

論文によると、2026年に、損害保険会社60社超が、保険の契約からAIの損害を外す条項を届け出ました。AIを作る側の責任に上限があるせいで、残ったリスクがAIを使う側の会社へ押し下げられる、とも書かれています。

AIの損害を専門に引き受ける保険も、あるにはあります。ただ論文は、他社のAIを使うアメリカの中小企業の大半を、まだ補償していない、と言っています。

報じられていることもあります。論文によると、アメリカの報道機関The Informationは2026年4月23日に、州の保険当局が、AIの損害を外す申請の8割超を承認したと報じました。論文は、会社向けの賠償責任保険の標準の契約書に、生成AIの損害は補償しないという条項のひな形が加わった、とも書いています。

AIのリスクの考え方や各国の動きを、新書でざっと見たいときには、弁護士で京都大学特任教授の羽深宏樹さんが書いた入門書があります。基礎知識から各国の動向、これからの社会の姿までを扱っていると、出版社が紹介しています。

Anthropicの上場書類と保険

AIを作るAnthropicが出した上場の書類にも、AIの大きな事故の被害の規模では、どの保険会社も、場合によっては保険業界全体でも、引き受ける力が足りないかもしれない、という趣旨の危険要因が書かれていると、米経済誌フォーチュンの記事(※英語サイト・自動翻訳推奨)が伝えています。

法律がどちらへ転ぶか読めないと、損害を誰がいくら払うことになるのかも読めません。値段をつけにくいので、ひとまず外しておこう、と保険会社は考えているのかもしれません。

伸びる業界はどこ?

ここまでの話を、つなげてみます。

  1. 調べたAIの規約(Anthropic)は、責任に上限をつけて、使う側にかばう約束を求めている。
  2. 上限のぶんだけ、損害は使う側、とくに小さな会社に残りやすい。
  3. 法律がどちらへ転ぶか読めないので、保険会社はひとまずAIの損害を外している。
  4. 外された穴を埋める仕事が、これから出番を増やしそう。

その穴を埋めて伸びるのは、どの業界なのか。競馬新聞みたいに、◎本命、○対抗、▲穴の印をつけて予想してみました!

印 業界 理由
◎ 本命保険業界
AIの損害を専門に引き受ける保険、会社向けの賠償・サイバーの保険
外された部分を埋める保険の出番が増えそう
○ 対抗法律まわり
法律事務所、契約書の危ない箇所を見つけるソフト
AIの規約と州の法律が食い違うので、契約を読む仕事が増えそう
▲ 穴AIの管理と法令順守のソフト州ごとにルールが違って変わるので、対応を管理する仕組みの出番がありそう
印なし検査・認証、監査、コンサル候補には入れたけれど、今回の話とのつながりが薄め

印は、業界や仕事の需要の予想で、特定の会社をすすめるものではありません。当たるといいなと思いつつ、あくまで予想なので、結果は保証できません。

◎の保険業界は、外された穴にいちばん近いところです。ふつうの保険がAIの損害を外すほど、AIを使う会社は「その分だけ別に備えたい」と考えそうです。そこに、AIの損害を専門に引き受ける保険や、会社向けの賠償の保険、サイバー保険(ウイルス感染や情報漏洩の被害を補償する保険です)の出番があります。いまは値段をつけにくくて引き受けを控えている段階でも、AIの事故の例が積み重なって値段をつけられるようになれば、引き受ける保険も増えていきそうです。論文は、AI専門の保険がまだ中小企業の大半を補償の対象にしていないと書いていたので、そうなったときに伸びる余地は大きそうだと思いました。保険会社が引き受けを渋ったまま、という外れ方もありえます。

○の法律まわりは、契約を読む仕事です。AIの規約は作る側が決めていて、州の法律には、それとぶつかる部分があります。どこが危ない条項なのかを見つける法律事務所や、契約書の危ない箇所を見つけるソフトの出番が増えそうです。

▲の穴は、AIの管理と法令順守のソフトです。州ごとにルールが違って、変わっていくので、守るべきルールの一覧を管理する仕組みにも出番がありそうです。保険や法律まわりより、今回の事実とのつながりが弱いので、▲にしました。

検査・認証(第三者が基準を満たすかを調べて、お墨付きを出す仕事です)、監査(外から調べて保証する仕事です)、コンサル(リスクの相談に乗る仕事です)も候補には入れましたが、今回の話とのつながりが薄そうで、印はつけませんでした。

小さな会社が見ておく契約と保険

AIを仕事に使う小さな会社なら、予想が当たるかどうかより、手元の契約と保険を見ておくほうが役に立ちそうです。確認したいのは、次のあたりです。

  • AIの利用規約にある、責任の上限。いくらまでなのか(Anthropicの規約は、直近12か月に払った料金まででした)。
  • AIの利用規約にある、補償(かばう約束)。作る側が使う側をかばう範囲はどこまでか。
  • 使う側が作る側をかばう約束は、あるのか。あるなら、責任の上限の外なのか。
  • 入っている会社向けの保険(賠償責任保険、サイバー保険)の約款(細かい決まりを書いた書類です)で、生成AIによる損害が補償の対象か。外す条項が入っていないか。
  • 保険の更新のときに、AIに関する条項が増えていないか。
  • AI専門の保険があるのか。あるなら、自分が使っているAIが対象に入っているか。
  • 取引先との契約で、AIが関わる損害の責任をどう分けているか。

ここまでの話はアメリカの動きです。日本の保険がAIをどう扱っているかは、入っている保険会社や代理店に聞くのが確実です。

AIのコード作成ツール、Claude Codeを使うときのセキュリティの危ない点を、たとえ話で説明した回もあります。

Claude Codeのセキュリティリスクとは?専門用語をたとえ話で解説
Claude Codeのセキュリティリスクを、ウェブ職TVの動画に出てくる難しい言葉から学びます。サンドボックス、プロンプトインジェクション、SQLインジェクション、XSSなどを、たとえ話と図解でやさしく解説します。

契約書の読み方をひと通り知っておきたいときには、中小企業向けの本もあります。弁護士の池田聡さんが、事例を使って読み方から結び方までを書いた本で、2024年11月に施行されたフリーランス法にも対応しているそうです。

規約や契約書の読み方で迷ったら、弁護士に相談するのが安心です。規約も保険も、更新のたびに中身が変わることがあるので、そのたびに見直すのがよさそうです。

まとめ

  • Anthropicの規約は、責任に上限をつけていて、作る側がかばうのは知的財産の請求だけでした。損害は使う側に残りやすい形です。
  • アメリカでは、国が州の法律を上書きしたい動きと、州が契約の条項を無効にする動きが、同じ時期に進んでいます。保険会社はAIの損害を外す条項を届け出ています。
  • 外された穴を埋める仕事として、◎保険業界、○法律まわり、▲AIの管理と法令順守のソフトを予想しました。
  • AIを使う小さな会社は、AIの規約の責任の上限と補償の条項、そして自分の保険のAIの扱いを確認すると安心です。

この予想が当たったかどうかは、動きがあったら別の記事で書くつもりです。

コメント

タイトルとURLをコピーしました