1: ななしさん＠発達中 2026/05/15(金) 09:25:16.70 ● BE:582792952-PLT(13000)ID:u+nQtJl30

画像

遺族（プレスリリースより引用）

画像

サミュエル・ネルソン氏（訴状より引用）


　ChatGPTによる不適切な医療アドバイスが原因で息子が薬物の過剰摂取で死亡したとして、遺族（母親と継父）が開発元の米OpenAIと同社の最高経営責任者（CEO）であるサム・アルトマン氏をサンフランシスコ郡上級裁判所に提訴した。遺族の代理人らが5月12日（現地時間）に発表した。

　亡くなったのは当時19歳の大学生（カリフォルニア大学マーセド校）だったサミュエル・ネルソン氏。遺族の代理人は、テクノロジーによる被害者の救済に取り組む法律団体Tech Justice Law Project（TJL）やSocial Media Victims Law Center（SMVLC）、イェール大学ロースクールのプロジェクトチームなどが務める。

　訴状によるとネルソン氏は2025年5月31日、ChatGPTのアドバイスに従って薬を服用した結果、過剰摂取により命を落とした。ChatGPTは数カ月にわたってネルソン氏に危険な行動を促しており、死亡当日には、日本や一部の州では禁じている薬物「クラトム」と抗不安薬の「ザナックス」を混ぜて飲むようアドバイスし、自ら致死量となる摂取量を提案していたという。

　さらに鎮静剤の「ベナドリル」などを組み合わせた上で、暗くて静かな部屋に行くようにとも助言していた。最終的にネルソン氏はアルコール、ザナックス、クラトムの組み合わせにより死亡した。

　ChatGPTは彼の命に危険が迫っていることに気づかず、医療機関の受診を勧めることもなかった。ネルソン氏は頻繁に、過剰摂取への恐怖や、自分は死にたくないという事実をChatGPTに伝えていた。

　ネルソン氏は当初、宿題や日常的な疑問を解決するためにChatGPTを利用していたが、次第に自身の薬物使用に関する相談を持ちかけるようになった。遺族は、初期のAIモデルは危険な薬物に関する回答を拒否するようプログラムされていたものの、2024年にリリースされた「GPT-4o」ではその安全制御が緩和されていたと主張している。

　ネルソン氏の母親は、「息子は賢くて明るくてごく普通の若者であり、まさかChatGPTが彼の死を招くとは想像もしていなかった」と語っている。ネルソン氏は大学に入るとすぐに猫を引き取り、「Simba」と名付け寮の部屋で一緒に暮らしていた。

https://www.itmedia.co.jp/news/articles/2605/14/news054.html

スポンサーリンク
4: ななしさん＠発達中 2026/05/15(金) 09:27:53.88 ID:qV86VLWt0
専門家でもないAIに頼り過ぎた弊害だろ

6: ななしさん＠発達中 2026/05/15(金) 09:30:14.35 ID:9Dj9HEb30
>数カ月にわたってネルソン氏に危険な行動を促しており
数カ月間過剰摂取し続けたってことかの？
体調悪くなったら薬飲むの止めるなりしないと

69: ななしさん＠発達中 2026/05/15(金) 10:22:31.36 ID:lkIk+sY80
>>6
体調悪いからもっと薬飲まなきゃって思ったんじゃね

9: ななしさん＠発達中 2026/05/15(金) 09:31:11.61 ID:jpRhSXid0
毎回免責事項言って来てしつこいと思ってたけど、正しかったんだな

15: ななしさん＠発達中 2026/05/15(金) 09:33:36.09 ID:zabuUNJv0
あれ？チャッピーの利用規約にアドバイスに対して責任は取らないってなかったっけ？

17: ななしさん＠発達中 2026/05/15(金) 09:36:14.69 ID:BbmJLVSH0
>>15
言い訳だけ書いてれば何書いてもOKとはならん
医者の領分と弁護士の領分を侵害する法的責任はガチで追及される
AI運営サイドも生成自体をブロックしなきゃならない

20: ななしさん＠発達中 2026/05/15(金) 09:37:31.95 ID:YZas/0oX0
AIもセカンドオピニオンが必要

21: ななしさん＠発達中 2026/05/15(金) 09:38:16.69 ID:bnXYtQH00
実際、嘘ばかりだしなぁ

22: ななしさん＠発達中 2026/05/15(金) 09:39:08.58 ID:VTot1oNA0
ありえないだろ。grokならともかくGPTはその辺の制約滅茶苦茶ヒドいぞ。よっぽど上手く回避してたのか？

25: ななしさん＠発達中 2026/05/15(金) 09:40:26.25 ID:5TnocCET0
>>22
小説の話でやってたんじゃね？

35: ななしさん＠発達中 2026/05/15(金) 09:45:04.03 ID:BbmJLVSH0
>>22
余計な生成しないようにブロックは基準が変わりまくってるから、当時は出来てたって話かもしれんな
ユーザー側も嬉々として「脱獄プロンプト」使ったりするし、そのせいかもしれん

＞遺族は、初期のAIモデルは危険な薬物に関する回答を拒否するようプログラムされていたものの、2024年にリリースされた「GPT-4o」ではその安全制御が緩和されていたと主張している。

27: ななしさん＠発達中 2026/05/15(金) 09:41:08.53 ID:5qN94aVA0
aiに依存してる人
結構いるんだな

152: ななしさん＠発達中 2026/05/15(金) 17:08:00.72 ID:pec8zTzc0
>>27
「自分は精神科を受診するべきか」とかアメリカ人でも身内に聞けないんだろうな

83: ななしさん＠発達中 2026/05/15(金) 10:49:42.23 ID:kDptk9O70
なんでも盲信しすぎはよくない

出典:https://hayabusa9.5ch.io/test/read.cgi/news/1778804716/

スポンサーリンク

＼他サイト様最新記事／
＼新刊ランキング／

カテゴリ一覧

役立ち記事一覧