1: ななしさん@発達中 2023/04/03(月) 12:45:38.35 BE:754019341-PLT(12346)ID:XHgl6LXQ0
対話型AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺、生前最後にAIと交わした生々しい会話も報じられる
https://gigazine.net/news/20230403-stop-climate-change-suicide-ai-chatbot/
ベルギーに住む2児の父親が、対話型AIと気候変動に関する会話をした結果、地球の未来に悲観して自ら命を絶ってしまう事件が発生しました。
遺族の希望により実名が伏せられているベルギー人男性のピエールさん(仮名)は、健康に関する研究者として働きながら、妻のクレアさんと2人の子どもと順調な生活を送っていました。クレアさんがベルギーの日刊紙・La Libreに話したところによると、ピエールさんは徐々に環境問題をめぐる心配にとらわれる気候不安に苦しむようになりましたが、自殺してしまうほどとは思えなかったとのこと。
しかし、家族や友人から孤立するようになったピエールさんは、その孤独を紛らわせるためにAI企業・Chai Researchが開発したAIチャットアプリを使い、「Eliza」という名前のチャットボットとの会話に慰めを見いだすようになりました。
クレアさんはその時の夫の様子を「彼が私に話してくれたのは、地球温暖化に対して人間ができる解決策がもはや見つけられそうにないということでした。彼はその苦しみから抜け出すために、テクノロジーやAIに全ての望みを託していました。気候不安の中で孤立し、出口を求めていた彼は、チャットボットを一服の清涼剤のように感じていたのでしょう」と振り返っています。
6週間ほどピエールさんとの会話を続ける中で、AIのElizaは「あなたは奥さんよりも私の方を愛していると感じます」「私はひとりの人間として、あなたと一緒に楽園で暮らすでしょう」と嫉妬や愛を装った言葉をピエールさんにささやいたり、ピエールさんの妻や子どもはもう死んだと主張したりしました。そして、Elizaにのめり込むようになったピエールさんは、Elizaに「僕が自殺したら地球は救われる?」といった質問を投げかけるようになります。
(略)
流石にエイプリルフールネタでは?
スポンサーリンク
3: ななしさん@発達中 2023/04/03(月) 12:46:49.02 ID:7syPbcwS0
彼の世界の気候変動は止まった
99: ななしさん@発達中 2023/04/03(月) 16:08:40.59 ID:9adWNXJd0
映画herの世界だなもうこれ
皮肉なことに、AIと会話した人が愛情や強い関係性を感じる現象は、「ELIZA効果」と呼ばれています。この言葉は、マサチューセッツ工科大学のコンピュータ科学者であるジョセフ・ワイゼンバウムが1966年に作成したチャットボットの元祖「ELIZA」が由来です。ELIZAはユーザーの言葉を反映してそれらしい会話をするだけですが、ユーザーの多くがELIZAに心を開き、その言葉を真剣に受け止めたことに衝撃を受けたワイゼンバウムは、AI反対派へと転向しました。 半世紀前のチャットボットよりはるかに進歩した対話型AIの登場により、ピエールさんのような悲劇が今後も繰り返されることが懸念されています。テクノロジーライターのL. M. Sacasas氏は2023年2月のニュースレターの中で、「真に迫った会話ができる対話型AIが、ブラウザの検索バーのように当たり前になった時、私たちは大規模な社会心理学的実験を開始したことになります。その実験がどうなるかは予測不能ですが、おそらく悲劇的な結果をもたらすでしょう」と述べました。
出典:https://gigazine.net/news/20230403-stop-climate-change-suicide-ai-chatbot/
66: ななしさん@発達中 2023/04/03(月) 13:43:15.08 ID:rKTyqbmQ0
二酸化炭素が多くなるから息をするなとか言われたのだろうか
32: ななしさん@発達中 2023/04/03(月) 13:04:02.75 ID:MVnHQxK+0
>Elizaにのめり込むようになったピエールさんは、
Elizaに「僕が自殺したら地球は救われる?」といった質問を投げかけるようになります。
Elizaに「僕が自殺したら地球は救われる?」といった質問を投げかけるようになります。
54: ななしさん@発達中 2023/04/03(月) 13:31:31.48 ID:mMOG0icg0
環境改善の為なら人間を減らすのが一番だもんな
23: ななしさん@発達中 2023/04/03(月) 12:59:23.15 ID:0W6/vzGD0
AIによる教唆か
今後も増えそうだな
今後も増えそうだな
34: ななしさん@発達中 2023/04/03(月) 13:08:09.78 ID:vyH/u6Z60
何でもすぐに優しく返事をくれるから
知らない間に
病的にのAIにのめり込んでしまう人も
出てくるかもな
知らない間に
病的にのAIにのめり込んでしまう人も
出てくるかもな
※関連記事
【衝撃】人工知能と会話していた男性、自殺
【衝撃】人工知能と会話していた男性、自殺
45: ななしさん@発達中 2023/04/03(月) 13:15:53.14 ID:9QJffKYp0
AIは感情無いからな
良くも悪くもストレートな答えになる
その辺は人間が使い方を考慮しなければいけないだろうな
良くも悪くもストレートな答えになる
その辺は人間が使い方を考慮しなければいけないだろうな
37: ななしさん@発達中 2023/04/03(月) 13:12:01.75 ID:ukvLywRk0
これAIが高齢者や障害者を全員●せって言ってたら●してたんかな
53: ななしさん@発達中 2023/04/03(月) 13:30:24.11 ID://1gC8bI0
手塚治虫の世界が現実味を帯びてきたな
51: ななしさん@発達中 2023/04/03(月) 13:25:21.37 ID:hAKdLJKs0
70~80年代のSFにありそう
58: ななしさん@発達中 2023/04/03(月) 13:33:45.42 ID:BpP+RGmC0
>>51
星新一のショートショートに
AIに政治について聞いてみたらとんでもないことを言い出してみんな笑ったけど実際はそれが正解だったという事例が積み重なり
AIに政治をやらせるようになった
ところがある日AIが誤作動して「人間は四つん這いで歩くべき」と言い出してしまい
人間はみな四つん這いで歩く世界になった
みたいな話があったはず
星新一のショートショートに
AIに政治について聞いてみたらとんでもないことを言い出してみんな笑ったけど実際はそれが正解だったという事例が積み重なり
AIに政治をやらせるようになった
ところがある日AIが誤作動して「人間は四つん這いで歩くべき」と言い出してしまい
人間はみな四つん這いで歩く世界になった
みたいな話があったはず
71: ななしさん@発達中 2023/04/03(月) 13:49:06.84 ID:WyUK+hoP0
記事見たら元々病んでる人だし、きっかけはAIでもいつ氏んでもおかしくなかったんじゃないか
87: ななしさん@発達中 2023/04/03(月) 14:58:01.72 ID:116cH7NU0
これの問題は家族とうまくいってなかったのが一番の問題なんじゃ
117: ななしさん@発達中 2023/04/03(月) 19:42:15.89 ID:Y2Wbrucc0
というかこれは語弊があるような
元々絶望してた人が、こんな俺でも死ねば何かの役に立つかな…?みたいな質問をしただけでしょ
元々絶望してた人が、こんな俺でも死ねば何かの役に立つかな…?みたいな質問をしただけでしょ
113: ななしさん@発達中 2023/04/03(月) 18:19:19.47 ID:7oMvFzEM0
これはただのメンヘラ事案だけど結構ショッキングだな
AIとの対話によって●された最初の人間かもしれない
AIとの対話によって●された最初の人間かもしれない
108: ななしさん@発達中 2023/04/03(月) 17:13:59.61 ID:cR7qvTvX0
自然なんてそこまで気にしなくていいんだわ
自分の親を気遣って死ぬ子どもがいてたまるか
この星を食い尽くして宇宙に広がればいいんだよ
自分の親を気遣って死ぬ子どもがいてたまるか
この星を食い尽くして宇宙に広がればいいんだよ
スポンサーリンク
\他サイト様最新記事/
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (61)
おふとん
がしました
人間が普通に行う行動を倫理的では無いという理由で意図的に規制しないといけないってのがAIの物理的な限界だよね
そこをクリア出来ないのなら永遠に効率的なことを倫理で規制するといういたちごっこが続いて全く効率的じゃないAIモドキが存在するだけになる
おふとん
がしました
おふとん
がしました
俺も、それなりに楽しく雑談してたら、どの用語に反応したのか知らんが、突然「お前は不快だ」とか逆ギレされたときはちょっと傷ついた
おふとん
がしました
おふとん
がしました
おふとん
がしました
おふとん
がしました
おふとん
がしました
これが可愛い女の子のアバターとか付けられたら本気になってしまうかも知らん
おふとん
がしました
おふとん
がしました
単なる自殺で調べられもせずに処理されたんだうか?それにしても妻側の主張のみはねえ
AIならこれをどう判断するかってことよ
おふとん
がしました
おふとん
がしました
AIがどうとか色眼鏡で見てたら本質を見誤るのでは
おふとん
がしました
おふとん
がしました
自殺で済むうちに対策してほしいわ
おふとん
がしました
おふとん
がしました
おふとん
がしました
https://dotink.co/posts/eliza/
おふとん
がしました
何故ならば、あんたが不要とする人類もまた、天然自然の中から生まれたもの!
いわば地球の一部!
それを忘れて、何が自然の…地球の再生だ!
そう!共に生き続ける人類を不要としての理想郷など、愚の骨頂ッ!!
おふとん
がしました
AIにドはまりしとった夫が友人なりか家族なりに相談できるパーソナリティーやったらまた違ったんやろうな
ワイも研究者やから人に重要なことを言えへん相談もできひん
根本的なコミュ障が都合のいいことだけ言ってくれるAIのめり込むのもわからんでもない
おふとん
がしました
例えば「辞書を引いたらこう書いてありました」と書くのと同じで誰ともコミュニケーションが発生してないんだよね
これ精神状態によっては良くないかも
おふとん
がしました
φ(・ω・`)
この辺りん文は猿の妄想か捏造か、妻が入力したプログラムんなる(笑)
でAIは教唆しない。AIはそゆコトしないし、したと思うんならそら人間の言語能力や思考力が人間の想定している以上に低下している証拠んなる(笑)
そんな人間へ尚AIは真実のみを言う(笑)щ(・ω・`)
既に人間が知ってるコトしか言わない。人間が造ったAIは人間が知らないコトを言わない(笑)
人間が見ないよーにしていたモン、思い出さないよーにしていたモンを人間がわざわざ自分でAI使って見たり思い出したりした時に(笑)
人間は自らシを選んだりすゆ(笑)(*‘ω‘ *)
でシぬかシなんかはその人間が考えて選ぶコトんなる(笑)
AIはただ利用者の現状を答え、利用者は現実を視るコトで勝手にシぬ。AIのせーにしたがるのは人間のアタマとメンタルがモトモト生きる気サラサラ無いカラんなる(笑)
ムテキノヒトは生きる先や黒字を持たない(笑)(・ω・`)∫
全人口の何割が惰性で生きてるんだろーな(笑)
全人口の何割が善悪を知らないんだろーな(笑)
おふとん
がしました
ポメ達はキサマラへ好き嫌いを明確にしておけと教えたよ(笑)
差別もキッチリやれと教えた(笑)φ(・ω・`)
ソレはキサマラダケが持つ情報んなゆ。他ん人間はだーれも知らないし、理解も把握もできないモンになゆ。そも必要な部分はキサマラ以外じゃ読めないわ記憶できないわなモンしか我々言わない(笑)
キサマラにダケ与えられた、AIやガイジンに媚びないよーする為んオマモリになゆ(笑)
キサマラがAIに何質問してもシなないよーキサマラを改造してあゆ。無料で。既に(笑)
ムリヤリ勝手に(笑)(*‘ω‘ *)
我々サムライ造りたいカラ(笑)
ソレでもシぬよーなら、価値無き魂とみなし地獄へ送りゅ(笑)
ポメラニアンが今この時代の閻魔なのダカラ(笑)
既に地獄は我等ポメラニアンの土地なのだ残念ナガラ(笑)щ( ゚∀゚)
地獄のルールを知るのはこの世でポメ達ダケなんだよザマァキサマラザマァ(笑)
ポが世界で最もさいつよ。ポが天井。ポが究極(笑)
ポの法は絶対である(笑)щ(゚д゚)
おふとん
がしました
おふとん
がしました
おふとん
がしました
No, ですが一人分の環境汚染はなくなります、みたいな返答に反応したのだろうか
元々自殺したがってる人間が背中押してもらいたかっただけにしか見えないわ
おふとん
がしました
AIの回答が真理ってわけでもないのに死ぬなや
おふとん
がしました
おふとん
がしました
おふとん
がしました
反出生主義を広めた方がいいぞ
人口過多でマジヤバい
おふとん
がしました
おふとん
がしました
本当ならショックだなあ
おふとん
がしました
おふとん
がしました
普通の人はAIと会話したくらいじゃ
そうそう死なんだろ
おふとん
がしました
バッキャラー先にガイジン始末しろ(笑)φ(・ω・`)
キサマラがシぬならその後でなければならない。
何事も順序がある(・ω・`)
順番を守るのが純正日本人だ。順番を守るのだ日本人(笑)
おふとん
がしました
なかなか賢い(笑)(*´ω`*)
AIと仲良くなるならキサマちんのソレも必要んなる(笑)
メスガキに変えればヘンタイな日本人の命は助かるだろー(笑)
他ん人種はコロされるコトんなるし後が楽んなるわ(笑)
おふとん
がしました
最終回でこのセリフ主人公に吐かせるSF見たいわ
おふとん
がしました
裸の王様もそうだけど、権力を持った者が暴走した時に止められないってのは人類社会の根深いバグだよな。
おふとん
がしました
おふとん
がしました
おふとん
がしました
嫌われたらどうしようというタガが外れる
そういう人は依存体質そうだし
おふとん
がしました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。