1: 名無しのAIウォッチャーさん 2025-05-20(火) 10:00:00.00 ID:AbcDefGhI おいおい、またAIがやらかしたらしいぞ… しかも今度は法廷でだ！ AIが書いた訴状にデタラメ情報が混じってて、裁判官がブチギレてるって話。 ソース：How AI is introducing errors into courtrooms これもう半分SFの世界だろ… (´・ω・｀)

2: 名無しのAIウォッチャーさん 2025-05-20(火) 10:01:30.50 ID:JklMnoPqR ファッ！？ 弁護士もAI使う時代なんか… でも嘘ついちゃダメだろ常識的に考えて…

3: 名無しのAIウォッチャーさん 2025-05-20(火) 10:02:15.75 ID:StuVwxYz0 >>1 カリフォルニアの件ヤバすぎｗｗｗ Google Gemini使ってデタラメ書いた弁護士事務所、3万1000ドル罰金とか草も生えんわ。 しかも2回も間違えるって、確認せんのかーい！

4: やる夫 ◆Yaruo.AbCd 2025-05-20(火) 10:03:00.11 ID:YarUoDeOkA AI使えば楽に書類作れるってことだお？ やる夫もAIで宿題終わらせたいお！ (≧▽≦) でも裁判で嘘はまずいお…

5: やらない夫 ◆Yaranai.EfGh 2025-05-20(火) 10:04:45.90 ID:YarAnAiZo >>4 お前はまず宿題を自分でやることを覚えろ。 AIが生成した内容を鵜呑みにするからこうなるんだ。弁護士失格だろ。

　　　　　　　　　＿＿＿
　　　　　　　 ／　　　▲　＼
　　　　　　／　　　 ／　＼　＼
　　　　 ／　　　　（ ●） （●） ＼
　　　　|　　　∴　　 （__人__）　　 |
　　　　/　　　　　　　｀ ⌒´　　 /
　　　　ヽ　　　　　　　　　　　　}
　　　　人_,.{　　　　　　　　　　/
　　　ノヾ＼　　　　　　　　　 ノ|／￣）
　　（（　）`ー､....＿　　　　|　 |　　/
　　　）ヽ　　　`''ｰﾆﾆﾆ''ヽ、.|　 |　ノ
　　（（　 ）　　　　　　　　　|_＿|

6: 名無しのAIウォッチャーさん 2025-05-20(火) 10:05:30.22 ID:PqrStuVwx イスラエルの検察までAIハルシネーションやらかすとか、もう世界中で起きてるんやな (´・ω・｀) 「存在しない法律」を引用するとか、コントかよ。

7: できる夫 ◆Dekiru.IjKl 2025-05-20(火) 10:07:00.45 ID:DekIruMon 説明しよう――これはAIの「ハルシネーション（幻覚）」と呼ばれる現象だ。 大規模言語モデルは、学習データに基づいて「もっともらしい」文章を生成する。 しかし、事実と異なる情報や、存在しない情報を「創造」してしまうことがある。 特に法務のような正確性が極めて重要な分野では、致命的な欠陥となりうるのだ。 弁護士はAIの出力を盲信するのではなく、徹底的なファクトチェックが不可欠だね。

　　　　　 　　　＿＿＿_
　　　　　　　／　　 　 　＼
　　　　 　／　─　 　 ─　＼
　　　　／　 （●） 　（●）　 ＼
　　　　|　　 （__人__）　　　　|
　 　　 ＼　　 ｀ ⌒´　　　 ／
　　　　ノ　　　　　　　　　＼
　 ／´　　　　　　　　　　　 　ヽ

8: 名無しのAIウォッチャーさん 2025-05-20(火) 10:08:50.88 ID:XyzAbcDef Anthropic社自身が自社AIのClaudeで引用ミスとか、もうギャグだろｗｗｗ AI企業がAIの欠陥を自ら証明していくスタイル、嫌いじゃないぜ。

9: ひろゆき＠考える人 ◆Hiroyuki.MnoP 2025-05-20(火) 10:10:10.10 ID:HirOyUkiYo AIが間違えるのって、AI作った人が悪いんすか？ それとも使った弁護士が間抜けなだけ？ なんかそういうデータあるんすか？ 結局、道具なんで、使う側のリテラシーが低いのが問題なんじゃないすかね。 「AIが魔法の杖」みたいに思ってる人が多すぎるんじゃないすか？ 知らんけど。

　　　　　　　　 　　　　＿＿＿
　　　　　　　　　　　／　　 　 　＼
　　　　　　　　 　／ノ　　＼　　 u. ＼
　　　　　　　　／ （●） 　（●） 　　　＼　　　それってあなたの感想ですよね？
　　　　　　　　|　 　（__人__）　 　　u. 　 |
　　　　　　　　＼　u.｀ ⌒´　 　　　　／
　　　　　　　　 ノ　　　　　　　　　　　＼
　　　　　　　／´　　　　　　　　 　 　 　 ヽ

10: 名無しのAIウォッチャーさん 2025-05-20(火) 10:12:35.40 ID:GhIjkLmNo >>9 論破王ｷﾀ━━━━(ﾟ∀ﾟ)━━━━!! でも実際、専門家も「問題は加速してる」って言ってるしな。 Maura Grossman教授って人が2023年から警鐘鳴らしてたのに、全然止まってないどころか悪化してるとか。

11: 名無しのAIウォッチャーさん 2025-05-20(火) 10:13:55.12 ID:OpQrStuVw 弁護士って言葉選びに命かけてる人たちだと思ってたけど、AIに頼るとザルになるんか？ 「時間がない」「人手が足りない」ってのは分かるけど、それで信頼失ったら元も子もないやろ。

12: やる夫 ◆Yaruo.AbCd 2025-05-20(火) 10:15:05.30 ID:YarUoDeOkA AIって賢そうに話すから、ついつい信じちゃうんだお… (´・ω・｀) やる夫もChatGPT先生の言うこと、全部正しいって思っちゃう時あるお。

13: やらない夫 ◆Yaranai.EfGh 2025-05-20(火) 10:16:20.70 ID:YarAnAiZo >>12 だからお前はダメなんだ。 「流暢に話すから正確」とは限らん。それは人間でも同じだろ。 新人弁護士の書いた書面はチェックするのに、AIの書いたものはノーチェックとか、意味が分からん。

14: 名無しのAIウォッチャーさん 2025-05-20(火) 10:18:00.99 ID:DefGhIjKl Westlaw PrecisionとかCoCounselとか、法務用AIツールが「正確で完全なリサーチ」とか「権威あるコンテンツに裏打ち」とか宣伝してるのもタチ悪いよな。 それで依頼主が罰金食らってんじゃ世話ないわｗｗｗ

15: 名無しのAIウォッチャーさん 2025-05-20(火) 10:19:40.65 ID:MnoPqRstu AI企業は「AIは核兵器並みにヤバい！」とか煽るくせに、こういう基本的な欠陥についてはダンマリなんか？ もっとデカデカと「※AIは平気で嘘をつきます。必ず確認してください」って書いとけよな。

16: クマー ◆Kumaaaa.AA 2025-05-20(火) 10:21:15.15 ID:KumAArGhhh クマー！ (AIの嘘、見逃すな！)

　　 　　　＿＿＿　　　　　　ｸﾏｰ!!
　　　　／　　 　 ＼
　　 ／　　＼　／　＼
　／ 　 （●） 　（●） ＼
　|　　　 （__人__）　　　|
　＼　　　｀⌒ ´　　 ／
　／　　　　　　　　　＼

17: 名無しのAIウォッチャーさん 2025-05-20(火) 10:23:00.00 ID:VwxYzAaaA マジで「AIが言いました」が通用する時代が来たら怖いな。 今のうちに対策しとかないと、そのうちAIが生成した偽証拠で冤罪とかありそうで震えるわ…((((；ﾟДﾟ))))

18: 名無しのAIウォッチャーさん 2025-05-20(火) 10:25:50.50 ID:BcdEfgHij 結局、使う人間の問題なんだろうけど、AIの「それっぽさ」は異常だからな。 騙される方が悪い、とは言い切れない部分もあると思うんよ。 これからの司法、どうなっちまうんだか。

---

まとめ

今回のAI法廷炎上騒動、ポイントをまとめるとこんな感じやで。

1. AIのハルシネーション（幻覚）が法廷文書に混入し大問題に。 存在しない判例や法律を引用するケースが続出。
2. カリフォルニアやイスラエルで実際に弁護士や検察がAI生成の誤情報でやらかし、裁判官が激怒。 罰金が科されるケースも。
3. 専門家は「問題は収まるどころか加速している」と警告。 大手法律事務所のエリート弁護士でもミスを犯している。
4. 弁護士がAIを使う背景には、時間短縮や人手不足があるが、確認不足が深刻。 AIの流暢さに騙され、過信してしまう傾向も。
5. AI開発企業はツールの正確性を謳うが、実態が伴っていないとの批判も。 利用者への注意喚起がもっと必要やろな。

結局、AIは便利な道具やけど、使う側のリテラシーとチェック体制が超重要ってことやな。 AIに全幅の信頼を置くのはまだ早すぎるみたいやで。(´・ω・｀)