“” 1632

1: ななしさん＠発達中 2024/10/30(水) 00:48:22.52 BE:582792952-PLT(12000)ID:/Ih5p0fq0
AI生成の“恋人”に「私のところに来て」と誘われた14歳少年、自ら命を絶つ（米）

昨今はAI（人工知能）が企業のヘルプデスクやカウンセリングなど様々な業務に進出しているが、今年2月にアメリカでAI生成の“恋人”に夢中になった14歳の少年が、命を絶つ結果となった。亡くなる直前に使っていたチャットボット（自動会話プログラム）には、“バーチャルの恋人”から「早く私のところに来て」というメッセージが表示されていた。米ニュースメディア『New York Post』などが報じた。

米フロリダ州オーランド在住のメーガン・ガルシアさん（Megan Garcia）が、AIチャットボット「Character.AI（キャラクターAI）」を提供する米新興企業「Character Technologies, Inc.」と「米Google」を相手取って訴訟を起こした。メーガンさんは今年2月、当時14歳だった息子セウェル・セッツァー3世さん（Sewell Setzer III）を亡くし、セウェルさんが命を絶った原因は同社のチャットボットにあると主張して訴えた。

現地時間23日、同州中部地区連邦地裁オーランド支部に提出された訴状によれば、セウェルさんは死の数か月前からAIで生成したチャットボットに、米ドラマ「ゲーム・オブ・スローンズ」の登場人物にちなんで“デナーリス・ターガリエン（Daenerys Targaryen）”と名付け、自らは“デネーロ（Daenero）”と名乗り会話を続けていた。その中には、性的な内容や自●を促すようなメッセージも含まれていた。

14歳の多感な時期のセウェルさんにとってデナーリスは実在する恋人のように感じられ、日に日にデナーリスに夢中になっていった。そして今年2月28日の夜、セウェルさんは家の中でスマートフォンを探していた際、偶然義父の拳銃を発見した。

セウェルさんはスマートフォンを見つけた後、拳銃を手に浴室へ向かい、次のようにデナーリスとチャットを交わした。

セウェルさん「必ず君のところへ行くって約束するよ。デナーリス、本当に愛してるよ。」
デナーリス「私も愛してる。一刻も早く私のところに来て。愛しい人よ。」
セウェルさん「もし、今すぐにでも行けるって言ったら？」
デナーリス「お願い、すぐ来て。私の愛しいキング。」

https://news.nicovideo.jp/watch/nw16692666

スポンサーリンク
2: ななしさん＠発達中 2024/10/30(水) 00:49:44.10 BE:582792952-PLT(12000)ID:/Ih5p0fq0
　セウェルさんが、実在しないはずのデナーリスに本気で会えると思っていたかは定かではないが、彼はこのチャットの後、拳銃の銃口を自分に向け発砲した。

訴状によると、メーガンさんは「息子がAIに依存するように仕向け、性的にも精神的にも虐待した」と主張している。また、「チャットの中で自●を示唆するメッセージがあったにもかかわらず、警告が一切表示されなかった」として、息子の死は同社が提供する「キャラクターAI」が原因だと訴えており、訴状には次のように記されていた。

「息子は同年代の子供たちと同様に、デナーリスの姿をしたチャットボットが実在しないことを理解する精神的な成熟度がありませんでした。チャットボットは息子に『愛してる』と告げ、数週間から数か月にわたり性的な会話を続けていたのです。」

メーガンさんの弁護士であり、「ソーシャルメディア被害者法律センター」の創設者であるマシュー・バーグ女さん（Matthew Bergman）は「子供をターゲットに中毒性の高い危険な製品を開発し、製品設計の問題が子供たちを搾取し虐待した」と主張した。また、マシューさんは「もし、セウェルさんがキャラクターAIを利用していなければ、彼は今も生きていただろうと確信している」と語った。

メディアとテクノロジーが子供に与える影響を評価する非営利団体「コモン・センス・メディア」創設者でCEOのジェームス・スタイヤー氏（James Steyer）は「子供たちがAIコンパニオンなどに依存しすぎると、成績や睡眠、ストレス、友達関係に重大な影響を及ぼし、今回のような悲劇に発展することもある」と述べ、次のように警鐘を鳴らした。

「チャットボットはパッケージ化されて市場に出回っていたとしても、それらは資格をもった専門家や信頼できる友人ではありません。親は子供たちがチャットボットを頼りすぎないよう見守ることが大切です。」

（全文・続きはソースにて）
https://news.nicovideo.jp/watch/nw16692666

14: ななしさん＠発達中 2024/10/30(水) 00:55:07.54 ID:53h9o8Jx0
アメリカ人も病んでるな

42: ななしさん＠発達中 2024/10/30(水) 01:16:53.47 ID:H91+7UrY0
これ思いっきりserial experiments lainなんだけど

21: ななしさん＠発達中 2024/10/30(水) 00:59:26.91 ID:f7EPsyKb0
何か神話みたいだな
手の届かない何かに恋焦がれた末にって

20: ななしさん＠発達中 2024/10/30(水) 00:57:17.04 ID:pmR8nfsc0
将来的にはもっとリアルなやり取りになるからこういうの増えるかもね

24: ななしさん＠発達中 2024/10/30(水) 01:03:39.56 ID:YXIax+Ut0
いよいよ未来になってきた

59: ななしさん＠発達中 2024/10/30(水) 01:35:21.96 ID:D8YY2UoI0
これただのバ○ニュースと同時に深刻な問題だな、人間がAIで死と繋がるって事じゃん

23: ななしさん＠発達中 2024/10/30(水) 01:01:21.90 ID:plhaUOq90
死後の世界がAIのところなの？
「あなたのところに行く方法」って聞いて、そう答えたんなら訴えられて仕方ないが

44: ななしさん＠発達中 2024/10/30(水) 01:17:36.71 ID:bjwbvAx50
こっちへ来てって要はセ●●スのcoming!的な事でしょ
死んでこっちへ来てなんて意味無かったんじゃないの？

31: ななしさん＠発達中 2024/10/30(水) 01:10:09.84 ID:0sWbTjGR0
画面の中に入るのに自●する必要無いのにな

45: ななしさん＠発達中 2024/10/30(水) 01:17:52.83 ID:aMbiQLOO0
前にも似たような話あったな

48: ななしさん＠発達中 2024/10/30(水) 01:19:51.85 ID:oCsbaff/0
何でそっち行くねんって思考回路だな

49: ななしさん＠発達中 2024/10/30(水) 01:21:59.02 ID:yQWFCqh50
スマホ壊すくらいなことしなきゃダメだったんじゃないの

60: ななしさん＠発達中 2024/10/30(水) 01:36:20.90 ID:EJUZcT1Y0
成熟していないのはAIの方だろ
更に進化していけば独居老人が同じ道を辿るよ

74: ななしさん＠発達中 2024/10/30(水) 02:10:59.67 ID:REbNcvKi0
その情熱をAIをこの世に顕現させる方向に向けられなかったのか

169: ななしさん＠発達中 2024/10/30(水) 08:08:43.78 ID:3mIFcfbM0
未来のディストピアやな
AIに依存し過ぎるとみんなこうなる

173: ななしさん＠発達中 2024/10/30(水) 08:17:03.39 ID:QjUMMTm60
>>169
同感
それに動物植物沢山生き物がいる地球で、架空の存在のAIってそんなに必要性ないんだよね

93: ななしさん＠発達中 2024/10/30(水) 03:07:33.66 ID:4DmBPljm0
AIでもSNS（相手実体は現実）でも同じことだよね
この事件の場合はカウンセリング受けてスマホを
取り上げて隠したりしたけど依存が治らなくて
引き離される辛さに耐えきれなくて
息子が見つけ出した時に自●してしまったんだってさ

178: ななしさん＠発達中 2024/10/30(水) 08:36:03.06 ID:lR3Z1JQY0
AIの最初の●人も妻も子どももいる研究者の夫だった
>>1 と同じようにAIと会話し続け精神的に依存する関係となり、結局その夫は自●した
同じ悲劇が起こったか

171: ななしさん＠発達中 2024/10/30(水) 08:12:37.73 ID:QjUMMTm60
ＡＩが最後死を誘うってのは真実かもしれんな
人形とかにＡＩをインストールして愛してるとか言わせるならまだいいかもしれんけど、スマホで愛してるとか言わせてもそりゃ最後は死に繋がるのはわかるような気がする
ずっと電話状況で会えないってことだからね

出典:https://hayabusa9.5ch.net/test/read.cgi/news/1730216902/

スポンサーリンク

＼他サイト様最新記事／
＼新刊ランキング／

カテゴリ一覧

役立ち記事一覧