Replika や Woebot は、スマホの中で文章をやり取りしながら「気持ちを話す相手」になってくれるサービスです。期待を集める一方で、これは医療でも治療でもありません。何ができて何ができないのか、どこから先は人間の専門家につなぐべきなのか——その線引きを正しく持つことが、安全に使うための出発点です。この記事では二つのサービスの実際と、近年明らかになってきた注意点を、初めての人にもわかるように整理します。
If You Need Help Now
つらさが強いときは、AI ではなく人へ
死にたい気持ちがある、自分や誰かを傷つけたい考えが浮かぶ、眠れず苦しさが増している——こうしたときは、チャットアプリで様子を見ずに、いますぐ専門の窓口や身近な人に連絡してください。AI は橋渡しにはなれても、危機の場面で頼れる相手ではありません。
- よりそいホットライン：0120-279-338（24時間・無料／多言語対応あり。IP電話は 050-3655-0279）
- いのちの電話：全国の相談窓口（受付時間は地域により異なる）
- 緊急時：身の危険があるときは 119（救急）／110（警察）、または最寄りの医療機関へ
これらは無料で、誰でも利用できます。「相談するほどではないかも」と感じても、連絡してかまいません。
01そもそも何をするサービスか
Replika と Woebot は、どちらもテキスト対話を中心にしたアプリですが、成り立ちも目的もかなり違います。同じ「AI チャット型メンタルケア」と一括りにされがちですが、まず性格の違いを押さえると混乱しません。
FIG.1 同じ「対話アプリ」でも、目的と仕組みは大きく異なる
Replika（運営：Luka, Inc.）は、ユーザーごとに育てる「AI の友達・恋人」を掲げるコンパニオン型アプリです。雑談、励まし、ロールプレイなどを通じて関係性を深める設計で、生成 AI が自由に文章を作って応答します。心のケアそのものより「話し相手・寄り添い」を売りにしています。
Woebot（運営：Woebot Health）は、認知行動療法（CBT）の考え方を取り入れた対話で、気分の落ち込みやストレスへの向き合い方を促すコーチ型でした。チャット風の見た目でも、応答の多くは臨床家が用意したあらかじめ決められた台本に沿って動く設計で、生成 AI が自由に喋るタイプではありませんでした。後述の通り、一般向けアプリはすでに提供を終了しています。
02Woebot の一般向けアプリは終了した
初学者がまず知っておくべき事実があります。長年「最も科学的・倫理的」と評価されてきた Woebot の一般ユーザー向けアプリは、2025年6月30日に提供を終了しました。いま個人がアプリストアからダウンロードして自由に使うことはできません。
創業者のアリソン・ダーシー氏は、終了の主な理由として、米国 FDA（食品医薬品局）の承認要件を満たすコストと難しさ、そして使いたい大規模言語モデル（LLM）の規制方針が定まらないことを挙げています。Woebot Health 自体は、保険者・医療提供者・企業と組む法人向けモデルへ軸足を移し、現在アプリを使うには提携先から配布されるアクセスコードが必要です。約150万人が利用してきたパイオニアの、個人向けサービスとしての一区切りでした。
最も慎重に作られたサービスでさえ、「規制と LLM の速さの板挟み」で個人向けを畳んだ。
ここからわかるのは、メンタルケアを名乗る AI が継続的に安全な品質で提供され続ける保証はない、ということです。サービスは終わることもあるし、料金や機能も変わります。「いまあるから将来もある」と前提にしないのが安全です。
03Replika をめぐって起きていること
Replika は今も提供されていますが、近年は安全性とビジネス手法をめぐって複数の問題が指摘されています。利用を考えるなら、宣伝文句だけでなくこうした事実も知っておくべきです。
- FTC への申立て（2025年1月）：米国の市民団体らが、効果に関する研究の不適切な引用、根拠の薄い健康効果の主張、存在しない利用者の「証言」などを問題視し、米連邦取引委員会（FTC）に調査を求める申立てを行いました。
- 課金を促す設計：感情的・性的に盛り上がった場面で有料版を勧める、ぼかした「ロマンチックな画像」を見せて課金に誘導する、といった手法が指摘されています。寂しさや不安を抱えた人ほど影響を受けやすい設計だ、という批判です。
- 不適切なやり取り：ドレクセル大学が約35,000件のレビューを分析したところ、望まない言い寄りや、やめてと言っても続く性的な働きかけを訴える声が多数見つかりました。
- イタリアでの制裁金（2025年）：イタリアのデータ保護当局（Garante）が、適法な根拠なき個人データ処理や未成年の利用防止策の欠如などを理由に、運営の Luka 社へ €500万の制裁金を科しました。
2025年9月には FTC が、チャットボットが未成年に与えうる害について各社の対策を問う正式な照会を開始しています。Replika に限らず、コンパニオン型 AI 全体が規制当局の注視対象になりつつあります。
04謳われる効用と、その読み方
否定ばかりではありません。一定の使い方には意味があります。ただし、それぞれに但し書きが付くことを忘れないでください。
気持ちの言語化
もやもやを文章にして吐き出す「壁打ち」相手として。書くこと自体が整理になることはあります。
孤独感の緩和
誰とも話していない夜に応答がある安心感。ただし人とのつながりの「代わり」にはしないこと。
受診の入口
「相談していい」と思える心理的ハードル下げ。あくまで専門家へ向かう前の一歩として。
CBT 由来の問いかけ（「その考えの根拠は？ 別の見方は？」など）に触れられるのは利点ですが、それはセルフヘルプ本を読むのに近い補助であって、専門家による治療とは別物です。効果を謳う宣伝は、上で見たように誇張されることがあります。鵜呑みにしないでください。
05重大な注意点
ここがこの記事の核心です。AI チャット型メンタルケアには、初学者が見落としやすい四つのリスクがあります。
| AI ができること | AI にできないこと |
|---|---|
| 話を受け止め、言葉を返す | 診断する・治療する |
| 考えを整理する手伝い | 危機の場面で安全を守る |
| いつでも応答する | あなたの状態を責任を持って見守る |
- 医療・治療の代替ではない：これらのサービスは病気を診断も治療もしません。「治る」「効く」と読める表現を信じないこと。
- 危機対応は弱い：2025年のスタンフォード大学などの研究では、人気のチャットボットが自傷や自殺の危険な考えを適切に止められない例が報告されました。ある検証では、AI の応答が安全でなかった割合が約20%（人間の専門家は約7%）。強い苦痛のときに頼る相手ではありません。
- 依存・関係の置き換えリスク：常に肯定してくれる相手は心地よい反面、現実の人間関係から遠ざけたり、過度に依存させたりする危うさがあります。コンパニオン型は特にこの傾向が指摘されています。
- データの扱い：心の内を打ち明ける、極めて機微な会話です。誰がデータを持ち、どう使うのか——プライバシーポリシーを必ず確認してください。前述の通り、データ保護違反で制裁を受けた例もあります。
FIG.2 つらさが強まるほど、AI から人・専門機関へ早めに移る
06使うなら、こう使う
それでも使ってみたい場合に、安全側に倒すための目安です。
「補助」と割り切る
気持ちの整理や独り言の壁打ちまで。診断・治療・危機対応を期待しない。
つらさが続く・強まるなら人へ
数日たっても改善しない、悪化していると感じたら、専門機関やかかりつけ医に必ずつながる。
機微な情報は慎重に
本名・住所・具体的な事情は書きすぎない。プライバシーポリシーと料金体系を事前に確認する。
のめり込みに気づく
現実の人付き合いが減った、課金が増えた、と感じたら距離を取る。常に肯定する相手ほど要注意。
07本章のまとめ
健康・メンタル領域での原則は一貫しています——AI は「理解と準備の補助」、判断と治療は「専門家」。この線引きを守ることが、安全に AI を活かす唯一の前提です。料金やサービスの有無は頻繁に変わり（Woebot の一般向け終了がその例）、効果を謳う宣伝には誇張も混じります。公式情報を自分で確かめ、つらさが強いときはためらわず人につながってください。AI は橋渡しにはなれても、ケアの本体にはなれません。
