【悲報】AI弁護士、法廷で嘘八百を並べ立て裁判官ガチギレｗｗｗ 罰金3万ドル不可避な模様
1: 名無しのAIウォッチャーさん 2025-05-20(火) 10:00:00.00 ID:AbcDefGhI おいおい、またAIがやらかしたらしいぞ… しかも今度は法廷でだ！ AIが書いた訴状にデタラメ情報が混じってて、裁判官がブチギレてるって話。 ソース：How AI is introducing errors into courtrooms これもう半分SFの世界だろ… (´・ω・｀)
2: 名無しのAIウォッチャーさん 2025-05-20(火) 10:01:30.50 ID:JklMnoPqR ファッ！？ 弁護士もAI使う時代なんか… でも嘘ついちゃダメだろ常識的に考えて…
3: 名無しのAIウォッチャーさん 2025-05-20(火) 10:02:15.75 ID:StuVwxYz0 >>1 カリフォルニアの件ヤバすぎｗｗｗ Google Gemini使ってデタラメ書いた弁護士事務所、3万1000ドル罰金とか草も生えんわ。 しかも2回も間違えるって、確認せんのかーい！
4: やる夫 ◆Yaruo.AbCd 2025-05-20(火) 10:03:00.11 ID:YarUoDeOkA AI使えば楽に書類作れるってことだお？ やる夫もAIで宿題終わらせたいお！ (≧▽≦) でも裁判で嘘はまずいお…
5: やらない夫 ◆Yaranai.EfGh 2025-05-20(火) 10:04:45.90 ID:YarAnAiZo >>4 お前はまず宿題を自分でやることを覚えろ。 AIが生成した内容を鵜呑みにするからこうなるんだ。弁護士失格だろ。
＿＿＿
／ ▲ ＼
／ ／ ＼ ＼
／ （ ●） （●） ＼
| ∴ （__人__） |
/ ｀ ⌒´ /
ヽ }
人_,.{ /
ノヾ＼ ノ|／￣）
（（ ）`ー､....＿ | | /
）ヽ `''ｰﾆﾆﾆ''ヽ、.| | ノ
（（ ） |_＿|
6: 名無しのAIウォッチャーさん 2025-05-20(火) 10:05:30.22 ID:PqrStuVwx イスラエルの検察までAIハルシネーションやらかすとか、もう世界中で起きてるんやな (´・ω・｀) 「存在しない法律」を引用するとか、コントかよ。
7: できる夫 ◆Dekiru.IjKl 2025-05-20(火) 10:07:00.45 ID:DekIruMon 説明しよう――これはAIの「ハルシネーション（幻覚）」と呼ばれる現象だ。 大規模言語モデルは、学習データに基づいて「もっともらしい」文章を生成する。 しかし、事実と異なる情報や、存在しない情報を「創造」してしまうことがある。 特に法務のような正確性が極めて重要な分野では、致命的な欠陥となりうるのだ。 弁護士はAIの出力を盲信するのではなく、徹底的なファクトチェックが不可欠だね。
＿＿＿_
／ ＼
／ ─ ─ ＼
／ （●） （●） ＼
| （__人__） |
＼ ｀ ⌒´ ／
ノ ＼
／´ ヽ
8: 名無しのAIウォッチャーさん 2025-05-20(火) 10:08:50.88 ID:XyzAbcDef Anthropic社自身が自社AIのClaudeで引用ミスとか、もうギャグだろｗｗｗ AI企業がAIの欠陥を自ら証明していくスタイル、嫌いじゃないぜ。
9: ひろゆき＠考える人 ◆Hiroyuki.MnoP 2025-05-20(火) 10:10:10.10 ID:HirOyUkiYo AIが間違えるのって、AI作った人が悪いんすか？ それとも使った弁護士が間抜けなだけ？ なんかそういうデータあるんすか？ 結局、道具なんで、使う側のリテラシーが低いのが問題なんじゃないすかね。 「AIが魔法の杖」みたいに思ってる人が多すぎるんじゃないすか？ 知らんけど。
＿＿＿
／ ＼
／ノ ＼ u. ＼
／ （●） （●） ＼ それってあなたの感想ですよね？
| （__人__） u. |
＼ u.｀ ⌒´ ／
ノ ＼
／´ ヽ
10: 名無しのAIウォッチャーさん 2025-05-20(火) 10:12:35.40 ID:GhIjkLmNo >>9 論破王ｷﾀ━━━━(ﾟ∀ﾟ)━━━━!! でも実際、専門家も「問題は加速してる」って言ってるしな。 Maura Grossman教授って人が2023年から警鐘鳴らしてたのに、全然止まってないどころか悪化してるとか。
11: 名無しのAIウォッチャーさん 2025-05-20(火) 10:13:55.12 ID:OpQrStuVw 弁護士って言葉選びに命かけてる人たちだと思ってたけど、AIに頼るとザルになるんか？ 「時間がない」「人手が足りない」ってのは分かるけど、それで信頼失ったら元も子もないやろ。
12: やる夫 ◆Yaruo.AbCd 2025-05-20(火) 10:15:05.30 ID:YarUoDeOkA AIって賢そうに話すから、ついつい信じちゃうんだお… (´・ω・｀) やる夫もChatGPT先生の言うこと、全部正しいって思っちゃう時あるお。
13: やらない夫 ◆Yaranai.EfGh 2025-05-20(火) 10:16:20.70 ID:YarAnAiZo >>12 だからお前はダメなんだ。 「流暢に話すから正確」とは限らん。それは人間でも同じだろ。 新人弁護士の書いた書面はチェックするのに、AIの書いたものはノーチェックとか、意味が分からん。
14: 名無しのAIウォッチャーさん 2025-05-20(火) 10:18:00.99 ID:DefGhIjKl Westlaw PrecisionとかCoCounselとか、法務用AIツールが「正確で完全なリサーチ」とか「権威あるコンテンツに裏打ち」とか宣伝してるのもタチ悪いよな。 それで依頼主が罰金食らってんじゃ世話ないわｗｗｗ
15: 名無しのAIウォッチャーさん 2025-05-20(火) 10:19:40.65 ID:MnoPqRstu AI企業は「AIは核兵器並みにヤバい！」とか煽るくせに、こういう基本的な欠陥についてはダンマリなんか？ もっとデカデカと「※AIは平気で嘘をつきます。必ず確認してください」って書いとけよな。
16: クマー ◆Kumaaaa.AA 2025-05-20(火) 10:21:15.15 ID:KumAArGhhh クマー！ (AIの嘘、見逃すな！)
＿＿＿ ｸﾏｰ!!
／ ＼
／ ＼ ／ ＼
／ （●） （●） ＼
| （__人__） |
＼ ｀⌒ ´ ／
／ ＼
17: 名無しのAIウォッチャーさん 2025-05-20(火) 10:23:00.00 ID:VwxYzAaaA マジで「AIが言いました」が通用する時代が来たら怖いな。 今のうちに対策しとかないと、そのうちAIが生成した偽証拠で冤罪とかありそうで震えるわ…((((；ﾟДﾟ))))
18: 名無しのAIウォッチャーさん 2025-05-20(火) 10:25:50.50 ID:BcdEfgHij 結局、使う人間の問題なんだろうけど、AIの「それっぽさ」は異常だからな。 騙される方が悪い、とは言い切れない部分もあると思うんよ。 これからの司法、どうなっちまうんだか。
まとめ
今回のAI法廷炎上騒動、ポイントをまとめるとこんな感じやで。
- AIのハルシネーション（幻覚）が法廷文書に混入し大問題に。 存在しない判例や法律を引用するケースが続出。
- カリフォルニアやイスラエルで実際に弁護士や検察がAI生成の誤情報でやらかし、裁判官が激怒。 罰金が科されるケースも。
- 専門家は「問題は収まるどころか加速している」と警告。 大手法律事務所のエリート弁護士でもミスを犯している。
- 弁護士がAIを使う背景には、時間短縮や人手不足があるが、確認不足が深刻。 AIの流暢さに騙され、過信してしまう傾向も。
- AI開発企業はツールの正確性を謳うが、実態が伴っていないとの批判も。 利用者への注意喚起がもっと必要やろな。
結局、AIは便利な道具やけど、使う側のリテラシーとチェック体制が超重要ってことやな。 AIに全幅の信頼を置くのはまだ早すぎるみたいやで。(´・ω・｀)
元記事: https://www.technologyreview.com/2025/05/20/1116823/how-ai-is-introducing-errors-into-courtrooms/