【悲報】ワイらの使ってるAI、文章の真ん中を読めない”鳥頭”だったことが判明ｗｗｗｗｗ
1: 風吹けば名無し 2025/06/17(火) 10:00:00.00 ID:MitNews4U 衝撃の事実が判明してもうた… ワイらが普段使ってるChatGPTとかのLLM、長い文章を読ませると最初と最後しかちゃんと覚えてなくて、真ん中の内容をスッポリ忘れるらしいで (´；ω；｀)
ソースはMITの研究や Unpacking the bias of large language models
これもうポンコツAIやんけ…
2: 風吹けば名無し 2025/06/17(火) 10:01:15.23 ID:ChatGPToro ファッ!? マジやんけ… どうりで長いコードのレビュー頼むと真ん中あたり適当になるわけだわｗｗｗ
3: 永遠の初心者さん 2025/06/17(火) 10:02:48.99 ID:BgnnerDesu あの…すみません…(´・ω・｀) LLMって何ですか？位置バイアスって、おいしいんですか…？
4: 風吹けば名無し 2025/06/17(火) 10:03:55.10 ID:KusaHayeru >>1 「U字型の精度」って表現で草 最初と最後は優秀、真ん中は無能ってことかよｗｗｗ ワイみたいやな
5: できる夫 ◆Dekiru.XX 2025/06/17(火) 10:05:01.45 ID:KaiSetsuMan >>3 説明しよう！ LLMとは大規模言語モデルのことで、君が今使ってるかもしれないChatGPTのような文章を作るAIのことだ。 そして「位置バイアス」とは、そのLLMが文章を読むときに、文頭や文末の情報に強く影響され、真ん中あたりにある情報を軽視してしまうクセのことだ。 けっして美味しいものではないぞ！(｀・ω・´)
,.--v-.,
/ /""'i'i
/ / ,"'i'i
/ / ,'"'"'i
i ,''"'"'"'i'i
i'"'"'"'"'i'i'i,.--v-.,
'"'"'"'i'i'i/ /""'i'i
'"'"'i'i'i/ / ,"'i'i
'"'i'i'i/ / ,'"'"'i
i'i'i/ ,''"'"'"'i'i
i'i'i'"'"'"'"'i'i'i
i'i'"'"'"'i'i'i
i'i'i'i'i'i'i
i'i'i'i'i'i
i'i'i'i
i'i'i
i'i
6: やる夫 ◆Yaruo.XXXX 2025/06/17(火) 10:07:30.11 ID:Yarukimanma >>5 なるほどだお！ じゃあ、AIにお願いするときは、一番大事なことを最初か最後に書けばいいってことだお！(・∀・) やる夫、今度からそうやってプロンプトを工夫してみるお！
7: やらない夫 2025/06/17(火) 10:08:59.87 ID:YaranaiZo >>6 そんな単純な話じゃないだろ。 記事によると、弁護士が30ページの書類を要約させたら、真ん中の重要な条項を見落とす可能性があるってことだ。 医療データでも同じことが起きたら、命に関わる。やらない夫はそんなAI、信用できないぞ。
8: 風吹けば名無し 2025/06/17(火) 10:10:02.33 ID:TechGatari 原因はTransformerのCausal Masking（因果マスク）にあるっぽいな。 次の単語を予測する仕組み上、どうしても前の情報に引っ張られる。それが層を重ねるごとに増幅されると。 自己回帰モデルの宿命みたいなもんだろ、これ。
9: ひろゆき＠考える人 2025/06/17(火) 10:12:45.00 ID:HiroyukiDesu >>8 それってあなたの感想ですよね？ 論文には「モデルのアーキテクチャ」と「訓練データ」の両方が原因だって書いてありますよ。 データ自体にそういう偏りがある可能性もあるわけで。で、なんか対策とかあるんすか？(´ω｀)
10: 風吹けば名無し 2025/06/17(火) 10:14:20.55 ID:TaisakuAru >>9 ちゃんと読めよｗ 対策も書いてあるで。 「違うマスキング技術を使う」「アテンションの層を減らす」「位置エンコーディングを工夫する」とかや。 まあ、言うは易し行うは難しってやつやろな。
11: 風吹けば名無し 2025/06/17(火) 10:16:13.78 ID:GikoNeko 要するに、AIに長い話は通じないってことか。 おまいらと一緒だなｗｗｗ 行間を読めとか無理な相談なんだよなｗ
12: やる夫 ◆Yaruo.XXXX 2025/06/17(火) 10:18:05.18 ID:Yarukimanma >>7 むむむ…たしかにそうだお…(´・ω・｀) じゃあ、長い文章は細かく区切って読ませるとか、工夫が必要なんだお！ AIを使いこなすのも人間の腕の見せ所だお！
13: 風吹けば名無し 2025/06/17(火) 10:20:33.41 ID:LostInMiddle Lost-in-the-middle現象、か… なんかカッコいい名前ついてて草
／￣￣￣＼
／ ─ ─＼
／ <●> <●> ＼. Lost-in-the-middle!!
| （__人__） |
＼ ｀ ⌒´ ／
／ ＼
クマー！
14: ひろゆき＠考える人 2025/06/17(火) 10:22:19.67 ID:HiroyukiDesu >>12 工夫で乗り切るって、それって結局ユーザー側に負担を押し付けてるだけじゃないすか？ 根本的な解決になってないですよね。 「AIは賢いから大丈夫」って思ってる人は、こういう落とし穴にハマるんすよ。嘘を嘘と見抜ける人でないと(ry
15: 風吹けば名無し 2025/06/17(火) 10:25:50.01 ID:MatomeChan まあ結局、AIはまだ発展途上の銀の弾丸じゃないってことやな。 特性を理解した上で、人間様がうまく手綱を握ってやらんとアカンということや。 過信は禁物やで、ほんま。
16: ｶｰﾁｬﾝ 2025/06/17(火) 10:30:00.00 ID:KaachanDayo あんたたち、いつまでパソコンの前でブツブツ言ってるの！ AIもいいけど、ちゃんと現実も見なさいよ！ ほら、お昼ごはんできたわよー！
まとめ
今回のMITの研究で明らかになったLLMの「位置バイアス」問題、まとめるとこんな感じやで。
- 真ん中が読めないAI: LLMは長い文章の「最初」と「最後」はよく覚えているが、「真ん中」の内容は忘れがち。これを「lost-in-the-middle」現象と呼ぶ。
- 原因は構造とデータ: Transformerモデルの仕組み（特に因果マスキング）が先天的に持つバイアスと、学習に使われたデータ自体の偏りの両方が原因とされている。
- 実用上のリスク大: 法律文書のレビュー、医療記録の分析、長いコードのデバッグなど、正確性が求められる分野で致命的な見落としにつながる危険性がある。
- 対策は一応ある: モデルの構造を調整（マスキング変更、層の削減）したり、データの与え方を工夫したりすることで、バイアスを軽減できる可能性が示されている。
- 結論: AIはまだ完璧ではない。そのクセや限界を理解し、ユーザーが賢く付き合っていく必要がある、ということやな。過信はアカンで！
コメント (0)
まだコメントはありません。