1: 名無しのAIウォッチャーさん 2025-07-06(土) 10:00:00.00 ID:f8g7h6i5J ソース：A Pro-Russia Disinformation Campaign Is Using Free AI Tools to Fuel a ‘Content Explosion’

おいお前ら聞いてくれ。 ロシアのプロパガンダ部隊が、なんと「無料のAIツール」使って偽情報コンテンツを爆増させてるってよ。 もうディスインフォメーションが「コンテンツ爆発」レベルらしい。ワロタ…いや、ワロエナイ。 既存の国際問題とか選挙、ウクライナ、移民問題とか煽りまくってるとか。 去年の夏あたりから急増してて、AI使った動画とか画像がやばいらしい。 これもうAIの悪用定期。

2: 名無しさん＠おーぷん 2025-07-06(土) 10:02:15.33 ID:a1b2c3d4E >>1 ファッ！？無料AIでそんなことできんのかよ… てかロシアさん、金の使いどころが分かってるというか…コスパ最強じゃん。

3: 名無しのAIウォッチャーさん 2025-07-06(土) 10:03:40.11 ID:f8g7h6i5J >>2 そうなんだよ。記事にも書いてあるけど、無料で手に入る「消費者向けAIツール」でやってるって。 だからコンテンツの量が尋常じゃないことになってるらしい。 「Operation Overload」とか「Matryoshka」って呼ばれてる作戦名だってさ。 去年7月から今年6月で230件だったのが、ここ8ヶ月で587件も爆増してるんだと。 そのほとんどがAI製ってマジかよ。

4: やる夫 2025-07-06(土) 10:05:00.77 ID:Yaruo.Abc AIで偽情報つくるお！？ やる夫もAI使ってまとめサイト作るお！儲かるお！(`・ω・´)

5: やらない夫 2025-07-06(土) 10:06:10.55 ID:Yaranai.Def >>4 お前はいつもそうだな。それは無理だろ。 そんな簡単に儲かるなら、とっくに誰かがやってる。 偽情報で稼ぐとか、社会的に終わるだけだぞ。

6: ひろゆき＠考える人 2025-07-06(土) 10:07:30.99 ID:Hiroyuki.Jkl それって、結局、AIが進化しすぎたから起きてる問題なんですかね。 タダで使えるツールで、誰でもそれっぽいコンテンツ作れるってなると、 もう情報の真偽って、一般人には判断できないですよね。 ていうか、何でそんなことするかっていうと、結局、対立煽って混乱させたいだけなんじゃないですか。

7: 名無しさん＠おーぷん 2025-07-06(土) 10:09:05.12 ID:q9w8e7r6T >>3 ひえー、倍以上になってるじゃん。 「コンテンツの融合」って戦術も使ってて、同じ内容をいろんな形式で量産しまくってるとか。 AI音声クローンとかヤバいらしいな。

8: できる夫 2025-07-06(土) 10:10:30.45 ID:Tech.Ghi 説明しよう。 今回の報告では、特に「Flux AI」というテキストto画像生成ツールが使われている可能性が高いとのことです。 ベルリンやパリでのイスラム系移民による暴動画像を偽装する際に、そのツールで作成された画像が99%の確率で一致したと。 しかも「angry Muslim men」（怒っているイスラム男性）のような差別的なプロンプトで、簡単に類似画像が生成できたそうです。 これはAIモデルが人種差別やステレオタイプを助長する危険性を示唆していますね。

9: 名無しのAIウォッチャーさん 2025-07-06(土) 10:12:00.67 ID:u5i4o3p2Q >>8 ファッ！？そんな簡単に差別的な画像作れんのかよ！ メーカーはガードしてるって言ってるけど、メタデータ消されてたら意味ないしな。 ほんと、モラルとか倫理観とかねーのかよ…。

10: やる夫 2025-07-06(土) 10:13:30.11 ID:Yaruo.Abc >>8 やる夫もAIでイケメンのやる夫画像作ってSNSにアップするお！ (`・ω・´)

11: やらない夫 2025-07-06(土) 10:14:15.88 ID:Yaranai.Def >>10 お前が作ってもイケメンにはならないだろ。 それに、画像だけじゃなくて動画も偽造してるんだぞ。 フランスの大学教授の動画をAI音声クローンで改ざんして、ドイツの選挙で極右政党に投票するよう促してる偽動画とか作ってるらしい。 もう誰が何言ってるか信用できなくなるな。

12: 名無しさん＠おーぷん 2025-07-06(土) 10:15:40.00 ID:t6y5u4i3O >>11 うわ、それもう完全に犯罪レベルじゃん。 しかもそれ、TelegramとかXとかBluesky、最近はTikTokにも拡散してるって。 TikTokは300万回再生される前に削除したらしいけど、Xはほとんど何もしてないって… X…お前…(´・ω・｀)

13: ひろゆき＠考える人 2025-07-06(土) 10:17:10.22 ID:Hiroyuki.Jkl >>12 まあ、Xが何かしないのはいつものことなんじゃないですかね。 イーロン・マスクが自由な言論の場とか言ってますし、 偽情報だろうと、そういう「言論の自由」の範疇って考えてるのかもしれないですよね。 ただ、その結果、社会が混乱するってのは、なんかおかしい気がしますけどね。 ちなみに、その偽情報をファクトチェッカーに送ってるらしいですよ。 「これって本物ですか？」とか言って。

14: 名無しのAIウォッチャーさん 2025-07-06(土) 10:18:45.77 ID:f8g7h6i5J >>13 これこれ！その「ファクトチェッカーに送る」ってのが意味不明なんだよ！ 「自分たちの偽情報コンテンツを、本物のメディアに『フェイク』ってレッテル貼られてもいいから取り上げてほしい」ってのが目的らしい。 そうすれば、注目集めて拡散できるからって。頭おかしい（褒め言葉）。

15: 永遠の初心者さん 2025-07-06(土) 10:20:00.33 ID:Beginner.Qaz え、じゃあ、その「ファクトチェックされました」って記事自体が、 偽情報キャンペーンの宣伝になっちゃうってことですか？ 難しすぎて、もう私にはわかんないです(´；ω；｀)

16: クマー 2025-07-06(土) 10:21:10.00 ID:Kuma.Xyz

　　 ∧＿∧
　　（　´Д｀）
　　（　　　　）
　　｜ ｜　|
　　（_＿）_＿）
クマー！

混乱クマー！ AIが毒クマー！

17: 名無しさん＠おーぷん 2025-07-06(土) 10:22:30.99 ID:m1n2b3v4C >>14 ぐう賢い戦術ンゴねぇ… ファクトチェックされてるってことで、ある種の「お墨付き」みたいに見える人もいるし。 結局、情報リテラシーがないと、もう簡単に騙されちゃう時代ってことか。

18: ひろゆき＠考える人 2025-07-06(土) 10:24:00.00 ID:Hiroyuki.Jkl >>17 そうですね。昔から、デマってのは、それを否定する記事が出ると、 かえってそのデマ自体が広まっちゃうって言われてますからね。 今回のやり方は、その理論を最大限に利用してるだけなんじゃないですかね。 あと、ロシアの偽情報ネットワークは、年間300万件ものAI生成記事を作ってるって推計もあるらしいですよ。 それがOpenAIのChatGPTとかGoogleのGeminiとかのAIチャットボットの出力も汚染してるって。

19: できる夫 2025-07-06(土) 10:25:30.55 ID:Tech.Ghi >>18 その通りです。大量のAI生成偽情報がインターネット上に蓄積されることで、 AIモデルが学習するデータセットそのものが汚染され、結果として、 AI自身が偽情報を生成する確率が高まるという悪循環に陥る危険性があります。 これは、AI倫理の観点からも非常に深刻な問題と言えるでしょう。

20: 名無しのAIウォッチャーさん 2025-07-06(土) 10:27:00.11 ID:f8g7h6i5J >>19 AIがAIで汚染されて、さらに偽情報を生み出すのか… もうこれターミネーターの世界やんけ(´・ω・｀) 研究者は「彼らはもう成功するレシピを手に入れた」「何をしているか分かっている」って言ってるし。 今後もAI使った偽情報が爆増するのは確定的に明らか。

---

まとめ

今回のスレッドでは、プロロシアの偽情報キャンペーンが無料AIツールを使って「コンテンツ爆発」を引き起こしているという衝撃的なニュースについて議論しました。

1. 無料AIツールの悪用: 「Operation Overload」などのキャンペーンが、誰でも使える消費者向けAIツール（特にFlux AI）を使って、画像や動画などの偽情報を大量に生成していることが判明。
2. 多角的なコンテンツと拡散: AI音声クローンで実在の人物の偽動画を作成したり、差別的な画像を生成したりと、多種多様な偽情報を生成。Telegram、X、TikTokなど複数のプラットフォームで拡散しています。
3. 巧妙な逆手戦術: なんと、自ら生成した偽情報のサンプルをメディアやファクトチェック機関に送りつけ、あえて「フェイク」と報道させることで、かえって注目を集め、広く拡散させるという奇策を使っています。
4. AIの汚染懸念: ロシアの偽情報ネットワークは年間300万件ものAI生成記事を生産しており、これがAIチャットボットの学習データを汚染し、AI自身が偽情報を生成する悪循環に陥る可能性が指摘されています。
5. プラットフォームの対応と今後の課題: TikTokは迅速に偽アカウントを削除する一方、X（旧Twitter）はほとんど対策を講じていないとの報告があり、プラットフォームごとの対応の差が浮き彫りになっています。AIの進化に伴い、情報の真偽を見分ける難易度はますます高まっていくことが予想されます。