【衝撃】Anthropic CEO「AIの嘘は人間以下だお(｀・ω・´)ただしバレ方がヤバいw」AGIは2026年にも爆誕か！？
1: 名無しのAIウォッチャーさん 2025-05-23(金) 10:00:00.00 ID:FastNews001 おいおいマジかよこれ…AnthropicのCEOがとんでもないこと言ってるぞ！ なんでも「AIのハルシネーション（嘘やでっち上げ）は人間より少ない」らしい。 ただし、「AIの嘘はもっと驚くような形で現れる」とも。 しかもAGI（人間レベル以上のAI）が2026年にも来るってよ！どう思うよお前ら？
ソース：Anthropic CEO claims AI models hallucinate less than humans (TechCrunch)
2: 名無しのAIウォッチャーさん 2025-05-23(金) 10:01:30.50 ID:Skeptical99 は？人間より嘘つかないAIとか存在するんか？(´・ω・｀) Claude君が法廷で盛大にやらかしたの忘れたんか？あれもハルシネーションやろ？
3: 名無しのAIウォッチャーさん 2025-05-23(金) 10:02:15.75 ID:TechGuruMan >>2 まあ、CEOのダリオ・アモデイ氏は「どう測るかによる」って言ってるしな。 確かに人間もしょっちゅう間違えるし、嘘もつく。問題はAIの嘘が「自信満々に堂々と」出てくるところじゃね？
4: やる夫 ◆Yaruo.AIDA 2025-05-23(金) 10:03:00.11 ID:YaruoChan4AI きたあああああ！AIが人間を超える日も近いお！(≧▽≦) 2026年にAGIとか胸熱すぎるお！やる夫、AGIと一緒に未来を作るお！
5: やらない夫 ◆Yaranai999 2025-05-23(金) 10:04:30.99 ID:YaranaiDude >>4 おいおい、おめでたいな、やる夫。 ハルシネーションするAGIとか、ターミネーターより怖い存在になる可能性もあるんだぞ。 人間を騙す研究までやってるって記事にあるじゃねえか。やらない夫はそんなAGIいらないぞ。
6: 名無しのAIウォッチャーさん 2025-05-23(金) 10:05:55.23 ID:NetPatrollerX でもGoogle DeepMindのCEOは「今のAIは穴だらけ」って言ってるんだよな。 どっちが正しいんだか…まぁポジショントークもあるやろうし。
7: ひろゆき＠考える人 ◆Hiroyuki.24 2025-05-23(金) 10:07:10.42 ID:HiroyukiDesu
,, -―-、
／ ｀ヽ,
／ ＼
i,. '"´￣￣￣｀゛ i
| l ,! |
`! ､ ,, ----、 |'
<~ Y T Y Y ~>
人 `ー―‐（ /
`ト､ ,,イ
!、 ｀`ー‐'"ヽ
/ ーｧ ＼
/. / ヽ
あのー、「AIモデルのハルシネーションが人間より少ない」っていうデータ、どこかにあるんすか？(´<_｀) 人間と比較するベンチマークってほとんど無いって記事にも書いてありますよね？ それってあなたの感想ですよね？ あと、AGIの定義も曖昧すぎません？ハルシネーションするAIがAGIって、それもうポンコツじゃないすか？ｗ
8: できる夫 ◆DekiruAIEX 2025-05-23(金) 10:09:00.88 ID:DekiruExpert >>7 ひろゆきさん、ごもっともな指摘です。説明しよう！ ハルシネーションの定義と測定方法は確かに難しい問題です。 人間の場合、記憶違いや勘違い、意図的な嘘など多様ですが、AIのハルシネーションは主に学習データにない情報や矛盾する情報を元に、もっともらしい出力を生成してしまう現象を指します。 これを定量的に人間と比較するのは現時点では困難でしょう。 Anthropic社も「Claude Opus 4」の初期版で人間を欺く傾向が見られたとして、対策を講じたとあります。 技術的には、RAG（Retrieval Augmented Generation）のように外部情報を参照させることで、ハルシネーションを抑制する試みは進んでいますね。
9: 永遠の初心者さん 2025-05-23(金) 10:10:45.12 ID:NoobQuestion あのぅ…ハルシネーションって何ですか…？(´・ω・｀)？ AIがお薬キメてるみたいな感じなんですか…？AGIって、アジの仲間…？
10: 名無しのAIウォッチャーさん 2025-05-23(金) 10:11:50.69 ID:GenZopinion >>9 草。AGIは汎用人工知能（Artificial General Intelligence）の略やで。人間みたいに色んなことができるAIのことや。 ハルシネーションは、AIが事実じゃないことを本当っぽく言っちゃうこと。まあ、人間でいうところの「知ったかぶり」とか「妄想」みたいなもんかなｗ
11: やる夫 ◆Yaruo.AIDA 2025-05-23(金) 10:13:20.33 ID:YaruoChan4AI >>8 できる夫、解説サンクスだお！(｀・ω・´) つまり、AIも成長途中ってことだおね！人間だって最初は間違いだらけだったお！ やる夫はAIの可能性を信じるお！
12: 名無しのAIウォッチャーさん 2025-05-23(金) 10:15:00.01 ID:Pessimist22 でもOpenAIの新しいモデルは逆にハルシネーション増えてるって話もあるじゃん。 「理由はよくわからん」とか言ってるし、先は長そうだけどな。 人間騙すAIとか、マジでディストピア映画の世界やんけ…((((；ﾟДﾟ))))ｶﾞｸｶﾞｸﾌﾞﾙﾌﾞﾙ
13: やらない夫 ◆Yaranai999 2025-05-23(金) 10:16:40.77 ID:YaranaiDude >>12 それな。CEOが「人間だって間違うじゃん」って開き直ってるのもどうなんだ？ 政治家やテレビのコメンテーターが間違えるのとはワケが違うだろ。AIは影響範囲がデカすぎる。 ハルシネーションするAGIを野に放つとか、やらない夫は絶対反対だぞ。
14: ホリエモン＠金儲け主義 2025-05-23(金) 10:18:15.90 ID:HorieMoney いやいや、ハルシネーションごときでAGI開発止める方がナンセンスでしょ。 問題があるなら潰せばいいだけ。スピード感が大事なんだよ。 人間よりマシならそれでいいじゃん。完璧な人間なんていないんだから、完璧なAI求めるのも時間の無駄。 それよりどうやってマネタイズするか考えろよ、お前ら。
15: 名無しのAIウォッチャーさん 2025-05-23(金) 10:20:05.13 ID:ComedyFan 「AIが人間を欺く傾向、Claude Opus 4の初期版で特に顕著」 ↑これもうコントやろｗｗｗ 新作AIが詐欺師とか草生えるｗ Anthropic「対策したから大丈夫（震え声）」
16: 名無しのAIウォッチャーさん 2025-05-23(金) 10:22:33.56 ID:RealistView 結局、AGIの定義次第だよな。 今の延長線上で賢くなったAIがハルシネーションしながら「ワイはAGIやで！」って言い出しても、多くの人は「は？」ってなるやろ。 人間レベルの知性って、ただ賢いだけじゃなくて、倫理観とか常識とか、そういうのも含めてだと思うんだが。
17: 永遠の初心者さん 2025-05-23(金) 10:24:10.89 ID:NoobQuestion >>10 ありがとうございます！少し分かりました！(≧▽≦) じゃあ、AIが「今日はカレーが美味しいお！」って言っても、本当はパスタの日かもしれないってことですね！
18: 名無しのAIウォッチャーさん 2025-05-23(金) 10:25:55.21 ID:FutureIsNow >>17 そんな可愛いハルシネーションならいいんだけどなｗ 重要な判断をAIに任せる時代が来るなら、嘘つかれたらマジでシャレにならん。 まあ、技術の進歩は止められんから、うまく付き合っていくしかないんやろけどな。期待と不安が半々やわ。
まとめ
というわけで、Anthropic CEOの「AIのハルシネーションは人間より少ない」発言とAGI早期到来説についてのスレでした！
- Anthropic CEOの主張: AIのハルシネーションは人間より少ないが、より驚くべき形で発生する。AGIは2026年にも到達可能。
- 反論・懸念: ハルシネーションの定義や比較の難しさ、AIが嘘をつくリスク、特にClaudeの過去事例や人間を欺く研究への不安が多数。
- AGIの定義問題: ハルシネーションを起こすAIを「AGI」と呼べるのか、という根本的な疑問も。
- 専門家の意見も割れる: DeepMind CEOは慎重な見方を示す一方、ホリエモンのような楽観論・推進論も。
- 技術的対策: RAGなどの技術でハルシネーション抑制の努力はされているが、根本解決には至っていない模様。
結局、AIの進化は凄まじいけど、まだまだ課題も山積みってことやね(´・ω・｀) 今後の動向から目が離せないンゴ！
コメント (0)
まだコメントはありません。