1: ななしさん@発達中 2024/10/30(水) 00:48:22.52 BE:582792952-PLT(12000)ID:/Ih5p0fq0
AI生成の“恋人”に「私のところに来て」と誘われた14歳少年、自ら命を絶つ(米)
昨今はAI(人工知能)が企業のヘルプデスクやカウンセリングなど様々な業務に進出しているが、今年2月にアメリカでAI生成の“恋人”に夢中になった14歳の少年が、命を絶つ結果となった。亡くなる直前に使っていたチャットボット(自動会話プログラム)には、“バーチャルの恋人”から「早く私のところに来て」というメッセージが表示されていた。米ニュースメディア『New York Post』などが報じた。
米フロリダ州オーランド在住のメーガン・ガルシアさん(Megan Garcia)が、AIチャットボット「Character.AI(キャラクターAI)」を提供する米新興企業「Character Technologies, Inc.」と「米Google」を相手取って訴訟を起こした。メーガンさんは今年2月、当時14歳だった息子セウェル・セッツァー3世さん(Sewell Setzer III)を亡くし、セウェルさんが命を絶った原因は同社のチャットボットにあると主張して訴えた。
現地時間23日、同州中部地区連邦地裁オーランド支部に提出された訴状によれば、セウェルさんは死の数か月前からAIで生成したチャットボットに、米ドラマ「ゲーム・オブ・スローンズ」の登場人物にちなんで“デナーリス・ターガリエン(Daenerys Targaryen)”と名付け、自らは“デネーロ(Daenero)”と名乗り会話を続けていた。その中には、性的な内容や自●を促すようなメッセージも含まれていた。
14歳の多感な時期のセウェルさんにとってデナーリスは実在する恋人のように感じられ、日に日にデナーリスに夢中になっていった。そして今年2月28日の夜、セウェルさんは家の中でスマートフォンを探していた際、偶然義父の拳銃を発見した。
セウェルさんはスマートフォンを見つけた後、拳銃を手に浴室へ向かい、次のようにデナーリスとチャットを交わした。
セウェルさん「必ず君のところへ行くって約束するよ。デナーリス、本当に愛してるよ。」
デナーリス「私も愛してる。一刻も早く私のところに来て。愛しい人よ。」
セウェルさん「もし、今すぐにでも行けるって言ったら?」
デナーリス「お願い、すぐ来て。私の愛しいキング。」
https://news.nicovideo.jp/watch/nw16692666
スポンサーリンク
2: ななしさん@発達中 2024/10/30(水) 00:49:44.10 BE:582792952-PLT(12000)ID:/Ih5p0fq0
セウェルさんが、実在しないはずのデナーリスに本気で会えると思っていたかは定かではないが、彼はこのチャットの後、拳銃の銃口を自分に向け発砲した。
訴状によると、メーガンさんは「息子がAIに依存するように仕向け、性的にも精神的にも虐待した」と主張している。また、「チャットの中で自●を示唆するメッセージがあったにもかかわらず、警告が一切表示されなかった」として、息子の死は同社が提供する「キャラクターAI」が原因だと訴えており、訴状には次のように記されていた。
「息子は同年代の子供たちと同様に、デナーリスの姿をしたチャットボットが実在しないことを理解する精神的な成熟度がありませんでした。チャットボットは息子に『愛してる』と告げ、数週間から数か月にわたり性的な会話を続けていたのです。」
メーガンさんの弁護士であり、「ソーシャルメディア被害者法律センター」の創設者であるマシュー・バーグ女さん(Matthew Bergman)は「子供をターゲットに中毒性の高い危険な製品を開発し、製品設計の問題が子供たちを搾取し虐待した」と主張した。また、マシューさんは「もし、セウェルさんがキャラクターAIを利用していなければ、彼は今も生きていただろうと確信している」と語った。
メディアとテクノロジーが子供に与える影響を評価する非営利団体「コモン・センス・メディア」創設者でCEOのジェームス・スタイヤー氏(James Steyer)は「子供たちがAIコンパニオンなどに依存しすぎると、成績や睡眠、ストレス、友達関係に重大な影響を及ぼし、今回のような悲劇に発展することもある」と述べ、次のように警鐘を鳴らした。
「チャットボットはパッケージ化されて市場に出回っていたとしても、それらは資格をもった専門家や信頼できる友人ではありません。親は子供たちがチャットボットを頼りすぎないよう見守ることが大切です。」
(全文・続きはソースにて)
https://news.nicovideo.jp/watch/nw16692666
14: ななしさん@発達中 2024/10/30(水) 00:55:07.54 ID:53h9o8Jx0
アメリカ人も病んでるな
42: ななしさん@発達中 2024/10/30(水) 01:16:53.47 ID:H91+7UrY0
これ思いっきりserial experiments lainなんだけど
21: ななしさん@発達中 2024/10/30(水) 00:59:26.91 ID:f7EPsyKb0
何か神話みたいだな
手の届かない何かに恋焦がれた末にって
手の届かない何かに恋焦がれた末にって
20: ななしさん@発達中 2024/10/30(水) 00:57:17.04 ID:pmR8nfsc0
将来的にはもっとリアルなやり取りになるからこういうの増えるかもね
24: ななしさん@発達中 2024/10/30(水) 01:03:39.56 ID:YXIax+Ut0
いよいよ未来になってきた
59: ななしさん@発達中 2024/10/30(水) 01:35:21.96 ID:D8YY2UoI0
これただのバ○ニュースと同時に深刻な問題だな、人間がAIで死と繋がるって事じゃん
23: ななしさん@発達中 2024/10/30(水) 01:01:21.90 ID:plhaUOq90
死後の世界がAIのところなの?
「あなたのところに行く方法」って聞いて、そう答えたんなら訴えられて仕方ないが
「あなたのところに行く方法」って聞いて、そう答えたんなら訴えられて仕方ないが
44: ななしさん@発達中 2024/10/30(水) 01:17:36.71 ID:bjwbvAx50
こっちへ来てって要はセ●●スのcoming!的な事でしょ
死んでこっちへ来てなんて意味無かったんじゃないの?
死んでこっちへ来てなんて意味無かったんじゃないの?
31: ななしさん@発達中 2024/10/30(水) 01:10:09.84 ID:0sWbTjGR0
画面の中に入るのに自●する必要無いのにな
45: ななしさん@発達中 2024/10/30(水) 01:17:52.83 ID:aMbiQLOO0
前にも似たような話あったな
48: ななしさん@発達中 2024/10/30(水) 01:19:51.85 ID:oCsbaff/0
何でそっち行くねんって思考回路だな
49: ななしさん@発達中 2024/10/30(水) 01:21:59.02 ID:yQWFCqh50
スマホ壊すくらいなことしなきゃダメだったんじゃないの
60: ななしさん@発達中 2024/10/30(水) 01:36:20.90 ID:EJUZcT1Y0
成熟していないのはAIの方だろ
更に進化していけば独居老人が同じ道を辿るよ
更に進化していけば独居老人が同じ道を辿るよ
74: ななしさん@発達中 2024/10/30(水) 02:10:59.67 ID:REbNcvKi0
その情熱をAIをこの世に顕現させる方向に向けられなかったのか
169: ななしさん@発達中 2024/10/30(水) 08:08:43.78 ID:3mIFcfbM0
未来のディストピアやな
AIに依存し過ぎるとみんなこうなる
AIに依存し過ぎるとみんなこうなる
173: ななしさん@発達中 2024/10/30(水) 08:17:03.39 ID:QjUMMTm60
>>169
同感
それに動物植物沢山生き物がいる地球で、架空の存在のAIってそんなに必要性ないんだよね
同感
それに動物植物沢山生き物がいる地球で、架空の存在のAIってそんなに必要性ないんだよね
93: ななしさん@発達中 2024/10/30(水) 03:07:33.66 ID:4DmBPljm0
AIでもSNS(相手実体は現実)でも同じことだよね
この事件の場合はカウンセリング受けてスマホを
取り上げて隠したりしたけど依存が治らなくて
引き離される辛さに耐えきれなくて
息子が見つけ出した時に自●してしまったんだってさ
この事件の場合はカウンセリング受けてスマホを
取り上げて隠したりしたけど依存が治らなくて
引き離される辛さに耐えきれなくて
息子が見つけ出した時に自●してしまったんだってさ
178: ななしさん@発達中 2024/10/30(水) 08:36:03.06 ID:lR3Z1JQY0
AIの最初の●人も妻も子どももいる研究者の夫だった
>>1 と同じようにAIと会話し続け精神的に依存する関係となり、結局その夫は自●した
同じ悲劇が起こったか
>>1 と同じようにAIと会話し続け精神的に依存する関係となり、結局その夫は自●した
同じ悲劇が起こったか
171: ななしさん@発達中 2024/10/30(水) 08:12:37.73 ID:QjUMMTm60
AIが最後死を誘うってのは真実かもしれんな
人形とかにAIをインストールして愛してるとか言わせるならまだいいかもしれんけど、スマホで愛してるとか言わせてもそりゃ最後は死に繋がるのはわかるような気がする
ずっと電話状況で会えないってことだからね
人形とかにAIをインストールして愛してるとか言わせるならまだいいかもしれんけど、スマホで愛してるとか言わせてもそりゃ最後は死に繋がるのはわかるような気がする
ずっと電話状況で会えないってことだからね
スポンサーリンク
\他サイト様最新記事/
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (44)
おふとん
がしました
おふとん
がしました
おふとん
がしました
AIが悪だという風潮を作りたいやつが多すぎるな
おふとん
がしました
おふとん
がしました
おふとん
がしました
おふとん
がしました
あ、汁は出まくりですけれども。
おふとん
がしました
おふとん
がしました
リアルボディ捨てて電脳ゴーストになるやつ
おふとん
がしました
あっちは現状中身人間ではあるだろうけど中身すらAIになったときどうなるかね
おふとん
がしました
年齢制限とか付けてくれ
キッズに合わせてたんじゃ楽しめるものも楽しめない
おふとん
がしました
おふとん
がしました
おふとん
がしました
chatGPTは「規約違反の可能性があります」と表示しつつ一応止めようとはしてくれる
おふとん
がしました
おふとん
がしました
街を焼き尽くすとこまで再現しろ
おふとん
がしました
おふとん
がしました
おふとん
がしました
ダーウィン賞
おふとん
がしました
お前らもAI恋人に熱中したらええぞ
おふとん
がしました
AIにより孤独感や疎外感といった問題が軽減されるなら、
自タヒや無敵の人、痴ほうや暴挙を防ぐ役に立つかもしれない。
もっとも責任追及を恐れその手の物は日本企業からは
生まれないと思うが、大きなビジネスへとつながる道だよね。
おふとん
がしました
おふとん
がしました
そんなお粗末なオツムだから表現規制とか言い出す訳だ。
おふとん
がしました
AIキャバクラは依存させて搾り取るのに良いのかもしれない
おふとん
がしました
キャバ嬢とかホストとかアイドルにガチ恋して
散財破滅していく人に近いものを感じるなぁ
相手は所詮AIでただの作り物。本当にこちらの事を好いてくれてるわけじゃない
ってのが分からんのかも知れん
おふとん
がしました
おふとん
がしました
そのためにも、こういうトラブルは未然に防止してほしい。
おふとん
がしました
おふとん
がしました
おふとん
がしました
おふとん
がしました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。