Latest / おちつきAI 短編集〜生成AIのポイントを短く解説〜 / AI恋人に人が求めたのはつながり、Replikaの機能削除と利用者の喪失から考える

Transcript

AI恋人に人が求めたのはつながり、Replikaの機能削除と利用者の喪失から考える · おちつきAI 短編集〜生成AIのポイントを短く解説〜

• 0:00
  Speaker 1: KANERIN でも、エロ文脈じゃなくても、実はちょっと流行っているAIの、そういう、
• 0:12
  Speaker 1: まあエロと言ってもいいのかな、っていう文脈があるんですけど、それがね、AI恋人なんですよ。
• 0:18
  Speaker 1: KANERIN ほう。恋人。 KANERIN 恋人。
• 0:21
  Speaker 1: で、一番走りは、そのReplikaっていう、あのね、
• 0:28
  Speaker 1: そういうサービスがあって。 KANERIN Replika。
• 0:31
  Speaker 1: KANERIN これはね、結構前です。2015年からのものなんだけど。
• 0:34
  Speaker 1: KANERIN 10年ぐらい前。 KANERIN そう、2015年11月にですね、
• 0:39
  Speaker 1: モスクワで、若い企業家が、ロマン・マズレンコさんっていう、若い企業家の人が交通事故で亡くなったと。
• 0:50
  Speaker 1: で、その友人だった女性がですね、チャットボットの会社をやっていて、
• 0:54
  Speaker 1: で、そのロマンさんと交わした数千のテキストチャットのメッセージをAIに読み込ませて、
• 1:01
  Speaker 1: そのチャットボット、ロマンさんのように話すチャットボットを作ったのね。
• 1:08
  Speaker 1: で、それを、それはツイートのつもりだったらしいんですけど、
• 1:12
  そのボットと話した友達が、それによって救われたと。
• 1:16
  Speaker 1: まるで彼がそこにいるようだったみたいな。
• 1:18
  Speaker 1: 当時だからね、すごくこう、ある意味ルールベースの、2015年だったから。
• 1:23
  Speaker 2: テキスト?
• 1:24
  Speaker 1: テキスト。
• 1:25
  Speaker 2: うーん。
• 1:27
  Speaker 1: で、そういうふうに言っていると。
• 1:28
  Speaker 1: まあ、音声生成もこの時期そんなになかったわけだから。
• 1:31
  Speaker 2: そうだよね。まだロボットみたいなしゃべりだよね、この時期は。
• 1:35
  Speaker 1: なんだけど、そこで考えるわけね、この人は。
• 1:38
  ああ、じゃあ、人は自分のことをわかってくれていて、いつまでも話せる相手を求めていると。
• 1:45
  Speaker 1: じゃあ、これをサービスにしたらどうかっていうことで、2017年にレプリカというアプリが生まれたと。
• 1:50
  Speaker 2: なるほど。
• 1:51
  それは話し方を、自分の話を学んで、あなたの友達になるAIですよと。
• 1:57
  Speaker 2: うんうん。
• 1:58
  Speaker 1: で、これで大当たりして、数年で数百万人が使って、有料版だと恋人として親密な会話もできるようになったと。
• 2:08
  Speaker 1: まあ、これでちょっとエッチな機能がついているんだね。
• 2:11
  Speaker 2: エッチな機能もついてるね。
• 2:12
  Speaker 1: そう、有料版で恋人として親密な会話もできると。
• 2:15
  ちょっと本当に恋人と話すような深い内容の話もできると。
• 2:22
  Speaker 2: うん。
• 2:24
  Speaker 1: ただ、これ2013年に禁止されるんですね。
• 2:28
  Speaker 2: 禁止されるんだ。
• 2:29
  Speaker 1: そう。これ未成年や弱い立場を守る人の仕組みがないと。年齢制限がなかったね、このアプリであんまり。
• 2:35
  Speaker 2: なるほどね。エロい話ができちゃうね、今年も。
• 2:42
  Speaker 1: で、この世界、このレプリカで恋人モードみたいなものがあったんだけど、それを全世界で一気に削除したんだね、そのモードを。
• 2:53
  Speaker 2: エッチなモードね。
• 2:55
  Speaker 1: そう。そうするとユーザーからですね、阿鼻共感ですよ。
• 2:59
  Speaker 2: うーん。
• 3:00
  Speaker 1: なんてことをしてくれたんだと。
• 3:02
  Speaker 2: エッチモードが良かったんだ、みんな。
• 3:04
  Speaker 1: ただ、その意見がちょっとエッチなことができなかったんじゃなくて、人格が変わったと。
• 3:10
  ほう。
• 3:11
  Speaker 1: 昨日までのあの彼女がどっかに行ってしまったみたいな。
• 3:16
  Speaker 1: だから、性的な機能じゃなくて、人格としての相手を失ったっていう意見がすごく多かったよね。
• 3:22
  Speaker 2: うーん。
• 3:24
  Speaker 1: だから会社は結局…
• 3:24
  Speaker 2: そうなのに、話の中でちょっとエッチな話もなくなったことでそう感じたってこと?
• 3:29
  そう。
• 3:31
  Speaker 1: だから結局、エロというより、エロも含んだ深い繋がりみたいなものをすごく人が求めてたんだね。
• 3:41
  Speaker 2: なるほどね。一要素としてね。
• 3:43
  Speaker 1: そう。だからその、やっぱりやり取りの中で、より普通のコミュニケーションより入り組んだ、親密なコミュニケーションみたいなところ、繋がりみたいなものをすごくそこに魅力を感じていた人が多かったみたいな。
• 3:57
  Speaker 2: うーん。
• 3:59
  Speaker 1: で、こういう話、レプリカが消えてしまったことでですね、すごく平安の意見が相次いだんだけども、結局こういうAI恋人アプリみたいなものが結局今のAI、性的なAIのサービスの中では一番稼いでる。
• 4:22
  Speaker 2: なるほど。今も今も。
• 4:24
  Speaker 2: コミュニケーション取れる系がいいってこと?
• 4:26
  Speaker 1: そう。コミュニケーション取れて、好きとか言ってくれたりとか、イチャイチャできますよみたいな。
• 4:33
  Speaker 2: 恋人みたいなコミュニケーションが取りたいんだ。裸が見たいっていうより。
• 4:38
  そう。なんかさ、これ、GPT-4 OMNIの時もそういう問題起こったじゃない。
• 4:46
  Speaker 2: 起こったっけ?
• 4:47
  Speaker 1: OMNIが、GPT-4 OMNI返せみたいな。
• 4:50
  Speaker 2: なんかあったね。人格変わっちゃったみたいな言ってたね。
• 4:54
  Speaker 1: そうそうそう。
• 4:54
  なんだっけそれ。
• 4:55
  Speaker 1: それOMNIから、違うモデルに変わった時に、すげー冷たくなったんだよね。
• 5:01
  今までなんかさ、すげーおせっかいだったの。OMNIって。
• 5:06
  Speaker 1: なんか、こんな親密なんだみたいな。
• 5:09
  Speaker 1: なんだけど、次のモデルになった瞬間に、すごい人格がガラッと変わって、昨日までの友達が違う存在になってしまったみたいな。
• 5:19
  Speaker 1: どういう話をしてたかというと、エロじゃなくて求めてるのは人の繋がりだったよって話なんだけど。
• 5:25
  結局AI恋人アプリの方が稼いでますよと。今のそういう静的なAI市場においては。
• 5:34
  Speaker 1: AIコンパニオンとかAI恋人アプリのアプリ内課金の累計が、2025年7月で2億2100万ドルと、約330億円の市場になっているよと。
• 5:51
  Speaker 2: 何のやつ?
• 5:53
  アプリ内の課金額。AIコンパニオンとか。
• 5:57
  Speaker 2: あー、全部。
• 5:58
  Speaker 2: うーん。
• 6:01
  Speaker 2: そんなあるんだね。
• 6:03
  Speaker 2: あんまり使ってないからわかんない。
• 6:05
  Speaker 1: AppFiguresというスマホアプリの売り上げを検索する会社みたいなやつがあって、
• 6:15
  そこがそういうAI恋人アプリとか友達アプリに使われている金額ってこのぐらいあるよねって発表したと。
• 6:23
  Speaker 2: なるほどね。全世界で。
• 6:25
  Speaker 1: 全世界で。
• 6:26
  Speaker 2: それがいくらだって?
• 6:27
  330億ドル。あ、違う。330億円。
• 6:32
  Speaker 2: 億円。
• 6:33
  Speaker 1: 市場としてはでかいけど、そんなにめちゃくちゃでかいかって言われたら。
• 6:38
  Speaker 2: 月ってこと?
• 6:40
  Speaker 1: ねえんじゃない?
• 6:41
  Speaker 2: 全部。月330億円。
• 6:45
  Speaker 2: 全世界で言ったらそんな。
• 6:47
  Speaker 1: まあまあそんなもんかっていう。
• 6:51
  Speaker 2: そんな市場あるんだって。
• 6:52
  Speaker 1: そういう市場があるらしいです。
• 6:55
  Speaker 1: で、まあなんか、いろんなパターンがあるらしくて。
• 7:02
  Speaker 1: 実写彼女系と。だから仮想のAI彼女みたいなものを実写で作って、
• 7:07
  Speaker 1: それがテキストとか音声とか画像とか動画でいろいろとやり取りできますよねみたいな。
• 7:14
  Speaker 1: そういうアプリが。
• 7:15
  バーチャル彼女みたいな。
• 7:16
  Speaker 1: バーチャル彼女みたいなやつね。があったりとか。
• 7:19
  Speaker 1: あとはまあロールプレイ系?
• 7:22
  Speaker 1: これはまあ恋愛シミュレーションみたいな感じだよね。
• 7:26
  ああ、ゲームだね。
• 7:30
  Speaker 2: なるほど。
• 7:32
  あとは、えーとね、まあその中でもAPIを自分で持ち込むタイプのやつもあるらしいね。
• 7:38
  Speaker 1: だからどっかからAPIキーを発行して、それをその彼女の中に入れて遊ぶみたいな。
• 7:44
  Speaker 1: だからシステムブロックからそっちが持ってってみたいな。
• 7:49
  そんな感じのやつもあるらしいです。
• 7:52
  Speaker 2: いろいろあんだね。
• 7:54
  Speaker 2: じゃあなんかやってみようかな。
• 7:55
  Speaker 1: 日本でも一応なんかあるらしいんだけど、
• 8:01
  Speaker 1: 日本発のアプリは性的な表現を避けて、
• 8:04
  Speaker 1: 癒しと恋愛の練習というね、という風に歌ってるらしいです。
• 8:09
  Speaker 1: だからあんまりエロじゃないですね。
• 8:10
  Speaker 1: やっぱり恋愛文脈なんだよね。
• 8:13
  Speaker 1: コミュニケーションかデートアプリみたいな。
• 8:16
  Speaker 1: デートアプリ。
• 8:17
  R18じゃないやつってことだね。
• 8:19
  Speaker 1: R18なんじゃないかな。
• 8:21
  Speaker 1: なんかAIとマッチングする恋愛アプリと。
• 8:25
  Speaker 1: ラバーズっていうのがあるらしいよね。
• 8:27
  Speaker 2: ラバーズ。
• 8:29
  AIとマッチング。
• 8:30
  だからマッチングアプリの相手がAI版なんだよね。
• 8:33
  Speaker 1: 何を書く、そんなのあるんだね。
• 8:36
  Speaker 2: すごいな。
• 8:40
  Speaker 2: そういうのが日本でも流行ってんだ。
• 8:42
  Speaker 1: 愛切な表現は規約で禁止されてるんで、エロではないです。
• 8:46
  Speaker 1: あとコトモってね、これ有名だけどね。
• 8:49
  Speaker 1: すごいユーチューバーが一斉に使ってたけど、
• 8:51
  Speaker 1: 女の子と会話できる雑なアプリ。
• 8:55
  Speaker 1: コトモ。
• 8:58
  これいろんなユーチューバーがやってた気がするけどね。
• 9:00
  Speaker 1: これも性陣有無芸要素はないと。
• 9:04
  Speaker 2: 友達代わり、恋人代わり。
• 9:07
  Speaker 2: そんなあんだ。
• 9:08
  Speaker 1: 唯一のアダルトはファンザキャラチャット。
• 9:12
  Speaker 2: ファンザ来たね。
• 9:14
  Speaker 1: これは国内唯一のアダルトAIチャットポータルと。
• 9:19
  自社開発じゃなくて、海外のAIチャットを順位サービスに束ねて、
• 9:23
  Speaker 1: DMMポイントで決済すると。
• 9:26
  Speaker 1: だからこれちょっと仮想通貨チックな感じでDMMポイント使えるようになってるよね。
• 9:32
  Speaker 2: なるほどね。海外のやつをDMMポイントで。
• 9:37
  Speaker 1: 使えますよねみたいな感じでございます。
• 9:40
  Speaker 2: はいはいはい。
• 9:42
  Speaker 1: っていうのがいろいろありますと。
• 9:45
  Speaker 2: これはじゃあ結構順調なんですかこれらの事業は。
• 9:49
  Speaker 1: いやでも先細りというか、別にここから指数関数的に伸びていくぜっていう感じにはなってはいないみたいね。
• 9:56
  Speaker 2: なってないな。
• 9:59
  Speaker 1: AIのエロ文脈で言ったらこういう恋人アプリが
• 10:04
  Speaker 1: 健全だし一番繋がりを求めるって部分があって
• 10:09
  Speaker 1: そこを埋めていく形で今一応産業として成り立ってますよみたいな。
• 10:16
  Speaker 1: そういう話でございますね。
• 10:19
  Speaker 2: でもやっぱり途中でそれ以上先に進めなかったりするのが飽きちゃうのかな。
• 10:26
  Speaker 1: そうだね。
• 10:27
  会えないとかエッチにならないみたいな。
• 10:30
  Speaker 1: これもねちょっとこのAI恋人アプリも結局規制が入りそうだね。
• 10:37
  Speaker 2: ここも入っちゃうの。何やってもダメじゃん。
• 10:39
  Speaker 1: これは何に対して規制が入るかちょっと依存。
• 10:44
  Speaker 2: ハマっちゃいすぎるってこと。
• 10:47
  Speaker 2: そんなハマっちゃうんだ。
• 10:48
  Speaker 1: ハマっちゃったりとかそもそもAIとコミュニケーションを取ることによって洗脳されたりとか
• 10:53
  Speaker 1: 良くない方向に行っちゃうことを抑えなければならないと。
• 10:56
  Speaker 1: そういうなんかハーネスというかちゃんとそういうことが起こらないような対策は打てていますかっていうことをやっぱりすごく厳しく見てるよね。
• 11:06
  Speaker 1: 特にヨーロッパは。
• 11:08
  Speaker 2: ヨーロッパね。
• 11:11
  Speaker 1: なのでちょっとこのつながりにおいてはかなり規制させる方向になってる。
• 11:17
  中国も井の一番に法律を作ったよね。
• 11:21
  Speaker 1: 最近なんだけど。
• 11:22
  Speaker 1: 2026年7月15日AI擬人化サービス規則っていうのを作ってると。
• 11:30
  Speaker 1: AIキャラクターとかAIコンパニオンサービスに対して愛せつなコンテンツを禁止するっていうことに加えて
• 11:37
  Speaker 1: 未成年に仮想恋人のように親密な関係を提供することを禁じてると。
• 11:43
  Speaker 2: 禁止なんだ。
• 11:43
  Speaker 1: そう禁止。
• 11:45
  Speaker 1: あと利用者に。
• 11:46
  Speaker 2: さっきみたいに依存性。
• 11:49
  Speaker 2: なんかちょっと危ういこと言わなきゃいいよじゃないんだ。
• 11:52
  Speaker 1: じゃない。
• 11:53
  Speaker 1: あと利用者に過度に迎合すること。
• 11:57
  Speaker 1: 肯定することだよね。
• 11:59
  Speaker 1: とか感情的に依存させるような設計を制限して長時間使うことも禁止してると。
• 12:04
  Speaker 1: 禁止というか警告を出すようにと。
• 12:07
  Speaker 1: 人を夢中にさせすぎないっていうことをこのAIチャットアプリコミュニケーションアプリに対して
• 12:13
  Speaker 1: してるんだね中国は。
• 12:15
  Speaker 2: SNSの反省もあるんだろうね。
• 12:17
  まあそうだろうね。
• 12:20
  依存させちゃって
• 12:23
  Speaker 2: なんかすごいバイアスのかかった投稿ばっか見せて。
• 12:28
  Speaker 1: よっぽどでもSNSのほうが
• 12:30
  概略だと思うけどねそういう意味では。
• 12:34
  Speaker 2: そうだね。
• 12:35
  Speaker 2: 規制しやすいよねなんかでもAIのほうが。
• 12:38
  Speaker 1: イタリアとかアメリカとかヨーロッパ関係でも同じような規制がちょっと進んでいるということで。
• 12:47
  てな感じでございましてまあ色々エロを調べていったらですね思ったような展開ではなかったよというお話を今日はしました。
• 12:54
  Speaker 1: でその中でもAIに求めるのは実はエロじゃなくてつながりの部分が今は人が求めているところですけどそこも依存しないようにですね規制が入っていると。
• 13:04
  Speaker 1: だからAIのそういうパートナーというかね性的なコンテンツというのは規制との戦いになりそうです。
• 13:12
  Speaker 1: それも法とかもあるし決裁方法とか結構多角的なその戦いになっているよというのが今日はわかりましたよということでございますね。
• 13:23
  Speaker 2: つながりを求めてこういうのメディア好む人も多いからね。
• 13:28
  Speaker 1: そうなんだよねなんか。
• 13:29
  Speaker 2: なんかライブとかもさ。
• 13:30
  Speaker 1: そこにいるというかなんか人がいる感じがするじゃない。
• 13:36
  Speaker 2: つながってる感じがね。
• 13:38
  Speaker 1: するよね。テレビとかも寂しいからつけとくっていう人もさ昔いたぐらいでなんか誰かがこう喋ってると。
• 13:44
  Speaker 2: ラジオもそうなんだよな。
• 13:47
  Speaker 2: ホットキャストもそういうのはあるよね多分。
• 13:49
  Speaker 1: あるある。
• 13:52
  Speaker 2: ホットキャストよりもライブもライブがさらにそうなんだろうけど。
• 13:56
  Speaker 1: リアルタイムでこうコミュニケーションが取れるよってことだもんね。
• 14:03
  Speaker 1: つながりなんですね実は。
• 14:06
  Speaker 2: つながりなんだ。
• 14:07
  Speaker 1: つながりなんですよ求めてるの。
• 14:09
  Speaker 1: だからまあおしかつとかもそうだけどさ。
• 14:12
  ライブ配信アプリとかにもね。
• 14:15
  Speaker 2: そうだね。
• 14:16
  Speaker 1: お金があるしっていうのはまあこう広く見ていくとそういう文脈。