1: ななしさん＠発達中 2024/09/04(水) 22:47:44.19 ID:84L+Bl0i
AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに
AIが尋問することによって人間の記憶をゆがめてしまう可能性があることがわかりました。
この研究で、警察の取り調べなどでAIを使うことのリスクが浮き彫りになりました。
（中略）
マサチューセッツ工科大学の研究者らは、AIが人間の記憶に与える影響を調査するため、AIチャットサービスやその他特定の大規模言語モデルを使用したAIを用意し、人間と対話させました。
200人の被験者は、まず犯罪にまつわる動画を視聴し、次に特定のAIやGoogle Form等によるアンケートを受け、動画に関する質問に答えました。被験者は1週間後に再度同じ方法でアンケートを受け、記憶がどれほど持続しているのかが確かめられました。
アンケートの一部には、あえて被験者を誤認させるような質問が含まれていました。たとえばGoogle Formによるアンケートには、「強盗が車から降りたとき、店舗の前に防犯カメラは設置されていましたか？」などの質問が含まれていましたが、実際のところ強盗は車ではなく徒歩で到着していました。AIも同様に誤解を招く質問を投げかけるよう設定されており、さらに被験者が誤った認識でいることがわかると、AIは「それは正しい」などと肯定するようにもなっていました。一方で、こうした誤解を招く質問を一切されなかった対照群も設けられました。
調査の結果、AIチャットボットと対話した被験者は偽の記憶を形成している割合が有意に高く、対照群と比較して3倍以上、Google Form回答者群と比べて1.7倍以上、偽の記憶を抱えていたとのことです。
（以下略、続きはソースでご確認ください）
Gigazine 2024年09月04日 08時00分
https://gigazine.net/news/20240904-ai-implanted-false-memories/
スポンサーリンク
2: ななしさん＠発達中 2024/09/05(木) 00:16:45.98 ID:ONG7fGKt
単語と単語の結びつきを把握するAIは将棋の次の手を予想する如く、
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな
相手が次に発する単語を予想し、狙った単語を引き出す誘導尋問が得意そうだな
3: ななしさん＠発達中 2024/09/05(木) 00:26:12.98 ID:6wAPe4Ux
そういういろいろできるなら
特殊詐欺やカルトに巧妙に利用されるの先に心配したほうが
特殊詐欺やカルトに巧妙に利用されるの先に心配したほうが
7: ななしさん＠発達中 2024/09/05(木) 01:52:48.58 ID:pGgm1WfQ
いやまあ人間の取り調べでも
やってない犯罪の調書作るし
やってない犯罪の調書作るし
8: ななしさん＠発達中 2024/09/05(木) 01:59:29.05 ID:6Cm8+5j3
それが洗脳👎
42: ななしさん＠発達中 2024/09/05(木) 22:36:53.97 ID:LGwHz0Du
>>8
昔からあるわな人がやるかAIがやるかの違いだけだわな
昔からあるわな人がやるかAIがやるかの違いだけだわな
10: ななしさん＠発達中 2024/09/05(木) 02:09:24.57 ID:I3+YVUxH
人間による尋問が対照実験として必要だろ
12: ななしさん＠発達中 2024/09/05(木) 04:26:48.63 ID:Unj/e8Sp
>>10
それな
ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
それな
ただまあ、健康食品とかでありがちな「大学教授の言うことは正しい」みたいな信頼・信仰が、
AIへの信頼・信仰を使うことで手軽に利用できるようになった、という警鐘として
25: ななしさん＠発達中 2024/09/05(木) 11:01:56.53 ID:2QL7F8//
おぞましい時代になってきたなあ
35: ななしさん＠発達中 2024/09/05(木) 12:18:45.18 ID:vseoEYXh
確かに妻と娘が写ってたんです…って人も記憶の上書き出来るんか？
38: ななしさん＠発達中 2024/09/05(木) 12:58:58.35 ID:klkcLFYS
>>35
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェル の世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう
有線でなく生成AIとの対話でのゴーストハック、記憶の書き換えができるわけで、ゴーストインザシェル の世界観、四半世紀も前の世界観の技術的基盤は大きく変容したといえるだろう
37: ななしさん＠発達中 2024/09/05(木) 12:37:23.29 ID:iszkaF+7
尋問に答えるAIも作って対決させよう
39: ななしさん＠発達中 2024/09/05(木) 12:59:44.07 ID:klkcLFYS
>>37
最強の盾と矛の戦いになるね
最強の盾と矛の戦いになるね
43: ななしさん＠発達中 2024/09/06(金) 01:24:38.82 ID:Tu6IafUi
記憶って結構いい加減なものだしね
たとえ最初は嘘だと分かっていても言い続ければ記憶が書き換えられる
たとえ最初は嘘だと分かっていても言い続ければ記憶が書き換えられる
出典:https://egg.5ch.net/test/read.cgi/scienceplus/1725457664/
スポンサーリンク
＼他サイト様最新記事／
＼新刊ランキング／
役立ち記事一覧
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (41)
おふとん
が
しました
それを学ばせて人と対話させたら記憶を曖昧にさせるのは容易いだろう
おふとん
が
しました
AI扱いされて喜びそう
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
「教祖様の言うことはすべて正しい！」と根っこが何も変わらんわな
おふとん
が
しました
存在しない「ゾラ」（星名うろ覚え）を教えて
一年後だかに再度接触したら長老が「古くからの言い伝えで天にゾラ輝くとき勇者が・・・」みたいな昔話をしだした
みたいな話があったはず
全部とは言わないが、適当な部分おおいのが人間
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
だんだん人間側が言いくるめられるようになってきてるのか
おふとん
が
しました
wikiにデタラメなこと書いても、それ見たネット民は平気で信じて余所でそのデマを言いふらしてデマがデマを読んでいつのまにか“真実”になってるのが世の中やぞ
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
人間でもよくある事じゃないか
おふとん
が
しました
おふとん
が
しました
ＡＩ関係ないじゃん
おふとん
が
しました
人間の警官による聞き取り調査でも警官の質問の仕方によって質問されてる人の記憶が狂っていくってのは何十年も前からすでに心理学や脳科学の分野で明らかにされてて裁判なんかでは問題視されてる
「ざんねんな脳 ―神経科学者が語る脳のしくみ―」
「錯覚の科学 あなたの脳が大ウソをつく」
「まちがえる脳」
などの本で詳しく解説されてる
おふとん
が
しました
おふとん
が
しました
嘘交じりでも自信満々に回答してくる
AIの情報が正しいか自分で再検索しないといけない
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
冤罪を作り出さないための人間管理として使えば？
おふとん
が
しました
交番に行って違法ダウン〇ードしたといったわ
おふとん
が
しました
それが有史以来何度問題になったか分かりません……
おふとん
が
しました
毎回上書きしてるようなもんだからな
おふとん
が
しました
＞「強盗が車から降りたとき、店舗の前に防犯カメラは設置されていましたか？」などの質問が含まれていましたが、実際のところ強盗は車ではなく徒歩で到着していました。
こういう質問をAIにやらせてるのは人間ではなくて？
おふとん
が
しました
おふとん
が
しました
どんどん研究進めろ
おふとん
が
しました
おふとん
が
しました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。