1: ななしさん＠発達中 2025/12/07(日) 20:11:52.40 ID:8b+brg7v
「AIが引用した参考文献」の約3分の2が存在しない文献だったり間違っていたりしたとの調査結果
現代では仕事や調べ物にAIを利用する人が増えていますが、AIは虚偽の内容を捏造(ねつぞう)したり誤情報を生成したりする幻覚(ハルシネーション)を起こすこともあります。
OpenAIが開発した大規模言語モデル・GPT-4oを用いた調査では、専門的な内容を尋ねられたAIがどれほど幻覚を起こしやすいのかが明らかになりました。
JMIR Mental Health - Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study
https://mental.jmir.org/2025/1/e80371
（以下略、続きはソースでご確認ください）
Gigazine 2025年12月07日 11時00分
https://gigazine.net/news/20251207-ai-generated-citations-fabrication-errors/
スポンサーリンク
2: ななしさん＠発達中 2025/12/07(日) 22:01:15.23 ID:9An8ipsR
俺もAIに嘘をつかれたわ
信用ならん
信用ならん
4: ななしさん＠発達中 2025/12/07(日) 23:53:54.70 ID:gpbxwb2x
AIってほんとア◯だよな。
あてにならんわ。
あてにならんわ。
56: ななしさん＠発達中 2025/12/08(月) 16:37:34.45 ID:eFF4+dSA
>>4
ほんこれ
まだまだア◯としか言いようがない
ほんこれ
まだまだア◯としか言いようがない
5: ななしさん＠発達中 2025/12/08(月) 01:26:48.33 ID:19vvAr+H
存在しない文献って逆に怖いわｗ
勝手に作ってるんかい？
勝手に作ってるんかい？
7: ななしさん＠発達中 2025/12/08(月) 01:41:38.59 ID:CF4NXUF8
実際に存在するredditスレの内容をでっち上げてきた事もあったな
なんか虚言癖のア◯を相手してる気になってくる
なんか虚言癖のア◯を相手してる気になってくる
9: ななしさん＠発達中 2025/12/08(月) 06:27:22.64 ID:BM4ipNbF
AIに頼む仕事は、すぐに真偽がわかるものがいい
あと正確さより公平性が必要なもの
あと正確さより公平性が必要なもの
10: ななしさん＠発達中 2025/12/08(月) 07:27:28.58 ID:7++hMCTP
人間に仕事を頼むときも、その人がどういう教育を受けて、どういう"コモンセンス"を獲得していて、情報収集にどういう傾向があるか、
というのを念頭に置いておくものだけれど、LLMも同じだよね、と思っていたら
> 分析の結果、176件の引用文献のうち35件、つまり全体の約5分の1が「捏造」されたものであることが判明しました。
ううーん、これは酷い
５ちゃんねるとかいう酷いインターネッツに毒された人間なみに酷い
というのを念頭に置いておくものだけれど、LLMも同じだよね、と思っていたら
> 分析の結果、176件の引用文献のうち35件、つまり全体の約5分の1が「捏造」されたものであることが判明しました。
ううーん、これは酷い
５ちゃんねるとかいう酷いインターネッツに毒された人間なみに酷い
19: ななしさん＠発達中 2025/12/08(月) 08:24:03.12 ID:XggTxcHI
AIを信用するとか素人かよ
わからないとき当てずっぽうの話をするのが今のAIやぞ
人間もマークシート系のテストでわからないとき当てずっぽうに塗り潰すのと同じ
わからないとき当てずっぽうの話をするのが今のAIやぞ
人間もマークシート系のテストでわからないとき当てずっぽうに塗り潰すのと同じ
20: ななしさん＠発達中 2025/12/08(月) 08:27:08.19 ID:I0ShWiFP
嘘を見抜ける人でないと、AIを使うのは難しい
27: ななしさん＠発達中 2025/12/08(月) 09:23:01.18 ID:nBbWXP/d
>AIが引用した参考文献
AIが回答した内容じゃね？
AIが間違った回答を出し、他のAIがそれを引用してさらに間違ったとか
AIが回答した内容じゃね？
AIが間違った回答を出し、他のAIがそれを引用してさらに間違ったとか
30: ななしさん＠発達中 2025/12/08(月) 09:42:13.87 ID:NpdGFxor
>>27
体感として、デフォルト設定だと新たな検索をせず、
質問者が気持ちよくなれるような作り話を回答してくる印象。
「プレゼンだけうまいコンサル」と揶揄している。
体感として、デフォルト設定だと新たな検索をせず、
質問者が気持ちよくなれるような作り話を回答してくる印象。
「プレゼンだけうまいコンサル」と揶揄している。
29: ななしさん＠発達中 2025/12/08(月) 09:39:00.72 ID:NpdGFxor
聞き方が悪いだけでしょ。
論文の存在確認して論文のid（doiとか）を明記しろと
プロンプトに書くだけでうまくいく。
人間だって、卒業論文とかに孫引きの参考文献が目茶苦茶とかあるので、
ルールを伝えないとうまく行かない。
論文の存在確認して論文のid（doiとか）を明記しろと
プロンプトに書くだけでうまくいく。
人間だって、卒業論文とかに孫引きの参考文献が目茶苦茶とかあるので、
ルールを伝えないとうまく行かない。
33: ななしさん＠発達中 2025/12/08(月) 09:53:13.22 ID:CV1I9d9H
DOI付きでとか、細かく指定しないとな
以前よりはだいぶマシになったが、もっともらしいことを言うから
当たり前だが最後は自分で確認するしかない
以前よりはだいぶマシになったが、もっともらしいことを言うから
当たり前だが最後は自分で確認するしかない
34: ななしさん＠発達中 2025/12/08(月) 10:21:09.13 ID:yuLjUySw
平気で存在しないリンクのアドレス出しやがるからな･･･(´・ω・`)
51: ななしさん＠発達中 2025/12/08(月) 16:22:25.54 ID:91jDtIQe
AIが人間を試してるな
出典:https://egg.5ch.net/test/read.cgi/scienceplus/1765105912/
スポンサーリンク
＼他サイト様最新記事／
＼新刊ランキング／
役立ち記事一覧
以下のコメントは削除対象となります。
・障害/人種/特定の属性に対する悪意ある中傷/差別的発言
・特定の性別に対する悪意ある中傷/差別的発言
・記事内>>1に対する著しい中傷/差別的発言
・記事内容に目を通さず曲解した見解を述べ著しくサイト内の治安を悪化させる行為
・記事内容と無関係に特定の思想/イデオロギーを複数回に渡り書き込み著しくサイト内の治安を悪化させる行為
・上記に該当しない個性的な書き込みに対する著しい中傷/嫌悪の表明
・その他明確に荒らし目的と判断された行為/ユーザー
※上記ルールに違反した投稿者を見つけた場合、速やかにメッセージフォームより通報をお願いします。
コメント一覧
コメント一覧 (69)
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
まだ全くの発展途上ではあるんよね
ここからどこまで進化できるのかって楽しみはある
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
ソースや引用元のリンク教えてって言って答え合わせが出来た試しがないんだよな
自分が詳しい分野で使ってみるといかにいい加減か分かる
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
上手く人間が修正すれば今までより簡単に物語が作れそうだが
おふとん
が
しました
おふとん
が
しました
5.1は精度向上を主目的に作られたからもう少しマシになってそうだよね
おふとん
が
しました
該当する文は何ページですかと書いたら、存在しない文章を捏造して、何回繰り返しても改善されない。もうほんとにこれ系だと使いものにならない。
柔軟に対応できるケースだと強いんだけどね。
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
まだまだ成長途中や
おふとん
が
しました
おふとん
が
しました
休眠状態のX垢をソース元として挙げてくるのも何度もやられた
挙動が虚言癖の人間に似過ぎ
おふとん
が
しました
ユーザーの需要を理解していない
おふとん
が
しました
でもソレら一切を無視するために改造混ぜ物で回避してる まんまじゃダメだからでっち上げるのが生成物やで
おふとん
が
しました
おふとん
が
しました
求められている用途が全く違うんだから
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
指摘するとGrokなんかは言ってることコロコロ変えるし
大学のレポートなんて論外
創作やカウンセリング、プログラミングしか使い道がないと思うわ
おふとん
が
しました
どこどこの誰誰という風に地域や名前出してきたがその方々が何故か見つからない
それで詳細を聞いたら「検索してもヒットしませんでした」と答えやがった
あーこれがAIが嘘つくってやつなのね
それで何で虚偽の内容をあげるか突っ込んだらこちらの質問に沿った内容にするため
膨大なデータから架空（つまり嘘吐き）データ作って辻褄合わせするそうな
混乱するからやめろと言いはしたが自分はこれでAIを全面的には信用すまいと思ったね
おふとん
が
しました
それっぽい答えを出せば満足するだろうと人間を舐めてる
おふとん
が
しました
おふとん
が
しました
おふとん
が
しました
一度気づいた時点でそういうツールとして扱うのはやめたわ
おふとん
が
しました
それも通常使用だと面倒くさくはある
おふとん
が
しました
AIには実体験が別にあるなんて概念はないもの
そしてネットにはそんな話を作る人が多いから、そういう人(扇動する人)には役に立っていると
おふとん
が
しました
AIやぞ
おふとん
が
しました
おふとん
が
しました
人類の欠陥のせいでAIの進化を妨げているだろうな
おふとん
が
しました
おふとん
が
しました
ＡＩは真贋を判定しないし
おふとん
が
しました
※一部の悪質なユーザーに対処するため、現在広域でのIPアドレス規制を行っています。
コメント禁止処置に該当しない一般ユーザー様にも巻き添えで書き込めない回線があることを予めご了承ください。
※一部の悪質なユーザーに対処するため「通常であればポリシー違反が適用されないいくつかの単語」をNGワードとして登録せざるをえず、問題のない文章でも書き込みできない場合があります。予めご了承ください。
※悪質なユーザーを発見した際はメッセージにてご一報ください。アクセス規制処置を行います。