【超絶朗報】AI、95%圧縮に成功!スマホで大規模言語モデルが動く時代キタ━━━━(゚∀゚)━━━━!!
1: 風吹けば名無し 2025-06-12(木) 10:00:00.00 ID:LlamaSlim ファッ!? なんかすごいニュース来てるやんけ! スペインの会社がAIモデルを95%も小さくする技術で350億円も調達したらしいで! これもうスパコン要らんくなるやろ…ワイのPCでも最強AI動かせるんか!?(≧▽≦)
ソース:Multiverse Computing raises $215M for tech that could radically slim AI costs
2: 風吹けば名無し 2025-06-12(木) 10:01:15.23 ID:RaspberryPi マジかよ!ラズパイで動くとか胸熱すぎるwww 家のスマートホーム化が捗るやんけ!
3: やらない夫 2025-06-12(木) 10:02:30.50 ID:YaranaiZo どうせ性能ガタ落ちなんだろ。 圧縮率だけ高く見せて、賢さはカスのままってオチだろ。話半分に聞いとけ。
4: 風吹けば名無し 2025-06-12(木) 10:03:45.11 ID:TensorMaster >>1 テンソルネットワークか。GoogleのTensorとは違うやつな。 量子コンピュータのシミュレーションで使われる技術をAIモデル圧縮に応用したって話だな。 まあ理論は昔からあるけど、95%はちょっと盛りすぎじゃね?(´ω`)
5: ひろゆき@考える人 2025-06-12(木) 10:05:01.88 ID:hiroyuki論破 >>1 「95%削減」って言ってますけど、それって特定のモデルだけでしょ? ソース元の記事にも『primarily small models』(主に小規模モデル)って書いてありますよね? あと、性能が落ちないっていうデータ、どこかにあるんですか?あなたの感想ですよね?
6: やる夫 2025-06-12(木) 10:07:22.45 ID:YaruoYaruO >>2 ラズパイで動くなら、やる夫は自作のしゃべるインタラクティブ・サンタさんを作るお! クリスマスには子供たちと会話できる最強のサンタを降臨させるお!(`・ω・´)
____
/ \
/ _ノ ヽ、_ \
/ o゚((●)) ((●))゚o \ やる夫は夢を語るお!
| (__人__) |
\ ` ⌒´ /
7: 永遠の初心者さん 2025-06-12(木) 10:09:50.76 ID:Wakaranai >>4 あの…テンソルネットワークっておいしいんですか?(´・ω・`) TensorFlowとは違うんですか…?
8: できる夫 2025-06-12(木) 10:12:00.10 ID:DekiruOtoko >>7 説明しよう! テンソルネットワークとは、もともと量子力学の多体問題を解くために生まれた数学的な手法なんだ。 それを応用して、AIモデルの巨大なパラメータの塊(行列)を、もっと小さな部品(テンソル)がたくさん繋がったネットワーク構造に分解することで、情報を保ったままデータサイズを劇的に小さくする技術なんだよ。 GoogleのTensorFlowはAI開発のためのソフトウェアライブラリ(フレームワーク)の名前だから、直接の関係はないんだ。安心してくれたまえ( ´∀`)
9: 風吹けば名無し 2025-06-12(木) 10:14:33.99 ID:CostKeisan >>1 推論コスト50-80%削減って書いてあるけど、記事の例だと Lama 4 Scout:14セント/1Mトークン Lama 4 Scout Slim:10セント/1Mトークン これだと削減率28.5%やんけ…誇大広告ちゃうか?は?(威圧)
10: 風吹けば名無し 2025-06-12(木) 10:16:05.43 ID:SpeedMaster >>9 アホかお前は。推論速度が4x-12x速くなるって書いてあるだろ。 同じ時間でより多くのリクエストを捌けるんだから、時間貸しのGPUインスタンス料金で考えたらトータルコストはもっと下がるに決まってるやん。頭使えよ。
11: 風吹けば名無し 2025-06-12(木) 10:18:21.55 ID:ClosedAI OpenAIとかAnthropicのプロプライエタリなモデルが非対応なのが残念やな。 結局オープンソースモデル限定かよ。ワイのGPT-4oちゃんを軽量化してくれよ…(´;ω;`)
12: ホリエモン@中の人 2025-06-12(木) 10:20:10.30 ID:takaponjp つーか、まだやってんの?って感じ。エッジで動くなんて当たり前になるんだよ。 金集めてさっさとスケールさせるのは正解。でもスピードが全て。ぐだぐだ言ってないでやるかやらないかだけ。
13: 風吹けば名無し 2025-06-12(木) 10:22:48.92 ID:ToshiVC >>1 出資元にHP Tech Ventures、東芝、サンタンデール銀行とかガチなとこ入っとるやんけ。 これは本物の案件の匂いがするな…ワイも一口乗っかりたかったわー(^q^)
14: やらない夫 2025-06-12(木) 10:25:00.01 ID:YaranaiZo >>6 やめておけ。どうせクリスマスには間に合わずに、ただ目がチカチカするだけの不気味な置物になるのがオチだ。 毎年同じこと言ってるだろ、お前は。
15: 風吹けば名無し 2025-06-12(木) 10:28:13.67 ID:MatomeMan まあ期待半分、疑い半分で見守るのが正解やな。 でもローカルで高性能AIが動く未来はマジで革命的やで。 スマホが通信なしで超賢いアシスタントになったり、ゲームのNPCが全員自律思考したり…夢が広がりんぐ!続報に期待や!
まとめ
今回のスレをまとめると、こんな感じやで!
- スペインの神技術爆誕: スタートアップ「Multiverse Computing」が、量子コンピューティングに着想を得た「CompactifAI」で350億円を調達。
- AIが95%スリムに: この技術で、LLM(大規模言語モデル)のサイズを性能を落とさずに最大95%も圧縮できるらしい。
- コスト削減と高速化: 推論コストが50-80%削減され、速度は4-12倍に向上するとのこと。AWSでの料金例も示されたが、誇大広告を疑う声も。
- ラズパイでも動く未来: モデルを極限まで小さくすれば、スマホや車、果てはラズパイのような小型PCでも高性能AIが動く可能性があり、期待の声多数。
- ただし課題も: 現状ではオープンソースの小規模モデルが中心で、GPT-4のようなプロプライエタリモデルには非対応。今後の展開と、性能が本当に落ちないのかが注目ポイントやな。
というわけで、今後のAI業界を揺るがすかもしれない新技術の話題でした!続報を待て!
コメント (0)
まだコメントはありません。