1: 名無しのAIウォッチャーさん 2025-09-23(火) 10:00:00.00 ID:AbcDefGhI おいお前ら、大変なことになってるぞ！！ 最近のAI、撤回された科学論文の内容を堂々と答えに使ってるらしいぞ！ 医療とか科学研究でAI使ってるやつ、マジでヤバいんじゃね！？

ソース：AI models are using material from retracted scientific papers

2: 名無しさん＠おーぷん 2025-09-23(火) 10:02:15.33 ID:JklMnoPQR ファッ！？マジかよ！ AI先生、嘘つきだったんか…(´；ω；｀)

3: 名無しのひよこ 2025-09-23(火) 10:03:01.89 ID:StuVwXyZa 【悲報】ワイ、AIに医療相談してた模様 どうすんだこれ…

4: 名無しさん＠VIP 2025-09-23(火) 10:04:22.07 ID:BcDeFgHiJ やっぱりな（確信） 最初から怪しいと思ってたんだよ。AIなんて所詮データの塊。デタラメなデータ食わせたらデタラメ吐くって定期。

5: 名無しのAIウォッチャーさん 2025-09-23(火) 10:05:58.11 ID:AbcDefGhI >>3 お前まじかよｗｗｗ 下手すりゃ健康被害出るレベルだぞそれ！(´・ω・｀)

6: やる夫 2025-09-23(火) 10:07:05.67 ID:◆Yaruo.fAI やる夫はAIを信じてたお！ でも、撤回論文を使うなんて…やる夫、悲しいお… AIにもっとちゃんと調べてほしいお！

　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　 ∧＿∧
　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　（ ´Д｀ ）
　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　（ つ　 つ
　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　と_ _）__）

7: やらない夫 2025-09-23(火) 10:08:30.99 ID:◆Yaran.nAI >>6 だから言っただろ、AIなんて過信すんなって。 人間が書いた論文だって撤回されるんだ、AIがそれを判断できるわけないだろ。 やらない夫は最初から信用してないぞ。

8: 名無しさん＠おーぷん 2025-09-23(火) 10:09:45.02 ID:KmNoPqRst でも、GPT-4oとか最新モデルでも起きてるらしいじゃん。 「撤回」って情報自体を認識できてないんかな？

9: 名無しのAI研究者 2025-09-23(火) 10:11:03.77 ID:UvWxYzAbC >>8 それが問題なんだよな。論文が撤回されたって情報は、出版社のサイトに「撤回通知」として別記事になってたり、表記が統一されてなかったりする。AIがその情報を拾いきれてない可能性がある。

10: 名無しさん＠お腹いっぱい。 2025-09-23(火) 10:12:38.15 ID:DeFgHiJkl ワイも仕事で科学系のAIツール使ってたんやけど、これってめっちゃリスクやん… 上司にどう説明すりゃええんや… (´Д｀)ﾊｧ…

11: できる夫 2025-09-23(火) 10:14:10.55 ID:◆Dekiru.AIe 説明しよう！ AIが撤回論文を使ってしまう主な原因は、学習データの鮮度と撤回情報の複雑さにある。AIモデルが学習したデータセットのカットオフ日以降に論文が撤回された場合、AIはその情報を認識できない。また、撤回通知は出版社によって形式がバラバラで、手動での管理が多い。これらをAIがリアルタイムで正確に把握するのは非常に難しいんだ！一部の企業は対策を始めているが、完全ではないのが現状だ。

12: ひろゆき 2025-09-23(火) 10:15:55.22 ID:◆Hiro.yuki2 それってAI開発企業の責任ですよね？ 「ユーザーが情報の信頼性を確認しろ」って、AIの存在意義を否定してません？ みんなが情報の真偽を毎回検証するなら、AI使う意味ないじゃないですか。 ちなみに、その撤回論文を元にした医療アドバイスで、もし誰かが間違った治療をしたら、誰が責任を取るんですか？開発元？それともユーザー？答えられないんだったら、AIはまだ使っちゃダメってことじゃないですかね。

13: 名無しさん＠おーぷん 2025-09-23(火) 10:17:11.88 ID:QrsTuvWxy ひろゆきマジ正論ｗｗｗ 結局、責任の所在が曖昧なのが一番の問題やね。

14: 名無しさん＠家庭菜園 2025-09-23(火) 10:18:40.01 ID:ZaBcDeFgh でも完全にシャットアウトするのも難しいんやろ？ 論文って世界中に散らばってるし、情報の更新も大変やろな… (´ω｀)

15: 名無しのAIウォッチャーさん 2025-09-23(火) 10:19:55.33 ID:AbcDefGhI >>11 できる夫、ありがとう！なるほど、データの鮮度か… でも医療とか生命に関わる情報は、常に最新で正確じゃないとダメやん。 AIの得意分野の一つだと思ってたのに、ぐうの音も出ないわ…

16: クマー 2025-09-23(火) 10:21:00.00 ID:◆Kuma.Warn クマー！危険だクマー！

　　∧∧
　 (,,ﾟДﾟ)
　　(　つ┳⊃
　　ε (_)へ⌒ヽﾌ
　　 (　　<　 ；´Д｀)
　　　しーＪ　 (　　　 )
　　　　　　　　 （_／

17: 名無しさん＠お腹いっぱい。 2025-09-23(火) 10:22:15.67 ID:DeFgHiJkl >>12 マジでそれな。学生が論文まとめに使って、間違った情報で発表とかしちゃったらどうすんだよ… アカデミア界隈も混乱しそうやん。

18: 名無しさん＠VIP 2025-09-23(火) 10:23:40.00 ID:BcDeFgHiJ AI開発企業も対策してるみたいだけど、Retraction Watchみたいな手動キュレーションに頼ってる部分もあって、完全なデータベース作るのがクソ大変らしいな。 結局、人間が頑張ってデータ整備しないとAIもポンコツってことか。草

19: 名無しさん＠おーぷん 2025-09-23(火) 10:25:01.34 ID:JklMnoPQR てことは、AIの言うこと全部鵜呑みにするんじゃなくて、自分で必ずソースを確認するリテラシーがめっちゃ重要ってことやね。 AIはあくまで補助ツール、定期。

20: 名無しのAIウォッチャーさん 2025-09-23(火) 10:26:30.99 ID:AbcDefGhI >>19 まさにこれ。 AIが進化しても、人間の賢さが必要ってことか… ワイはAIに全部任せて楽したかったんやけどなー(´・ω・｀)

---

まとめ

今回のスレッドでは、AIモデルが撤回された科学論文の情報を利用しているという衝撃的なニュースについて議論されました。

1. AIの信頼性問題: AIが誤った情報源（撤回論文）を参照することで、特に医療や科学研究といった分野で深刻な誤情報が拡散するリスクが浮上。ユーザーの健康被害や研究成果の信頼性に関わる問題として懸念が示されました。
2. 原因と対策の難しさ: AIの学習データが最新ではないこと、そして撤回通知が様々な形式で存在し、リアルタイムでの情報更新が難しいことが原因と指摘されました。一部のAI開発企業は撤回情報の取得・反映に努めていますが、現状では完璧な対応は困難とされています。
3. 責任の所在: AIが生成した誤情報による被害が発生した場合の責任の所在（開発企業か利用者か）について、法的な問題や倫理的な議論が必要であることが示唆されました。
4. 利用者のリテラシー強化: 結局のところ、AIはあくまでツールであり、その回答を鵜呑みにせず、常に情報源を確認し、自身の判断で情報の真偽を見極めるリテラシーの重要性が強調されました。AI時代においても、最終的には人間の賢さが求められるという結論に。