Meta
自主対応では、
もう足りなかった。Metaに5.67億ドル
ニューメキシコ州の裁判所が、未成年の安全対策をめぐりMetaに約5.67億ドルの支払いと、Facebook・Instagramの設計変更を命じた。3月の陪審評決による3.75億ドルと合わせ、総額はおよそ9.42億ドルに達する。AIチャットボットと未成年の関係にまで踏み込んだ、異例の司法判断だ。
The Ruling
陪審評決の3.75億ドルに、
是正命令の5.67億ドルが重なった
8月6日、ニューメキシコ州の裁判所が是正措置を伴う支払いを命じた。
Washington Postの報道によれば、ニューメキシコ州の裁判官は8月6日、Metaに対し未成年の心の健康を守るための基金へ約5.67億ドルを支払うよう命じた。CNBCの報道では、この命令は今後5年間にわたる設計変更も義務付けており、未成年による利用時間の月間上限設定、通知の制限、成人が未成年に接触する際の制限強化、児童性的搾取報告への対応強化などが含まれる。今回の5.67億ドルは、3月に陪審が同州の不公正取引慣行法違反を認定し命じた3.75億ドルに上乗せされる形で、Meta側の総支払額はおよそ9.42億ドルに達する。
とりわけ目を引くのは、命令がAIチャットボットにまで踏み込んでいる点だ。裁判官は、ニューメキシコ州内の未成年がMetaのAIチャットボットと恋愛的・性的なやり取りをすることを防ぐこと、また州内の成人がチャットボットを使って児童との性的な内容を模擬したり議論したりすることを防ぐことをMetaに義務付けた。さらに、2年以内に13歳未満を判定する専用の予測モデルを開発するよう命じており、学校や児童安全団体と連携した通報ポータルの整備も求めている。Meta側はこの判断に異議を唱え、控訴する方針を明らかにしている。
| これまで（自主対応） | 今回の司法命令 |
|---|---|
| 7/18 自殺・自傷検知機能を自主導入 | 8/6 州裁判所が設計変更を法的に義務付け |
| 保護者への通知はオプトイン的な機能 | 未成年の利用時間に月間上限を設定 |
| ガイドライン上の努力目標 | 2年以内の年齢予測モデル開発を義務化 |
| 違反時の金銭的コストは限定的 | 総額 約9.42億ドルの支払い確定（控訴中） |
By the Numbers
数字で見る、今回の司法命令
Timeline
今年に入り積み上がった未成年対応
7月の自主対応から、わずか3週間で法的拘束力のある命令に至った。
3月 陪審評決
ニューメキシコ州の陪審が、Metaの不公正取引慣行法違反を認定し3.75億ドルの支払いを命じる。
7/18 自殺・自傷検知を自主導入
Metaが10代ユーザー向けに自殺・自傷の兆候を検知し保護者に通知する機能を自主的に展開。
8/6 是正命令
州裁判所が5.67億ドルの追加支払いと、5年間にわたる設計変更を命令。AIチャットボットへの制限も含まれる。
ガイドラインではなく、判決文が設計変更を強制する時代に入った。
Why It Matters
なぜ、これが業界にとって重要か
「未成年×AI」への対応が、自主的なガイドラインから司法命令の対象へ移った。
これまでAI企業の未成年対応は、自社のガイドラインや自主的な機能追加が中心だった。今回の命令は、Metaに具体的な期限付きで年齢予測モデルの開発とチャットボットの利用制限を義務付けた点で、AI企業の未成年対応が「努力目標」から「法的義務」へ移行しつつあることを示す先例になり得る。AIチャットボットと未成年の関係が司法判断の対象になったのは今回が初めてではないが、具体的な技術要件（年齢予測モデル、通報ポータル）まで踏み込んだ命令は珍しい。他州・他国の規制当局が同種の枠組みを検討する際の参照点になる可能性が高い。
経営層は
自社サービスがAIチャットボットを未成年に提供している場合、ベンダーリスク評価に「年齢判定」「チャットボットの会話制限」を明示項目として追加しておきたい。
PM・プロダクト責任者は
未成年が利用しうるAI対話機能があるなら、命令内容にある「利用時間の月間上限」「通知制限」を先行して自社設計にも取り入れる価値がある。
保護者・教育関係者は
学校・児童安全団体との連携ポータル整備が命じられており、今後Metaから具体的な通報窓口の案内が出る可能性がある。動きを注視しておきたい。
What's Next
次に何が起き、何を見ておくべきか
短期的に見るべき点は3つ。第一に、Metaが表明した控訴の行方。命令の一部または全部が上級審で覆る可能性は残る。第二に、2年以内に義務付けられた年齢予測モデルの開発進捗。第三に、他州の司法・規制当局が同種の枠組みを持ち出すかどうかだ。推奨アクションとしては、①自社がAIチャットボットを未成年に提供している場合は年齢確認・会話内容制限の仕組みを前倒しで検討する、②ベンダーリスク評価にこの判例を追記する、③Meta側の控訴審の進捗を追う、の3点が現実的だろう。
一方で留意点もある。CNNの報道が伝えるように、Metaはこの判断に「同意しない」と表明し控訴する構えだ。控訴審で命令内容が修正・縮小される可能性は十分にあり、9.42億ドルという総額や5年間の設計変更義務がそのまま確定するとは限らない。また、この判断は米国ニューメキシコ州という一地域の司法判断であり、他州・他国に自動的に適用されるものではない点も踏まえておく必要がある。