無念Nameとしあき26/09/11(金)15:44:55No.1434065629そうだねx1
12日00:38頃消えます
DeepSeek V4.1 Flashのメモリ使用量（KVキャッシュ）は以下の通りです。
• グローバルKVキャッシュ（HBM上に常駐）: トークンあたり 890バイト
• 前世代（V4-Flash）との比較:
• HBM使用量 → 約1/4（75%削減）
• SSD/ホストメモリ上の永続キャッシュ → 約1/8（87.5%削減）
• さらに初期モデル（V1）と比べると、グローバルKVキャッシュは約437分の1まで縮小しています。
https://wccftech.com/deepseek-v4-1-flash-beats-openais-gpt-5-6-sol-and-anthropics-opus-5-on-coding-and-cybersecurity-at-an-86x-lower-cost-while-reducing-hbm-requirements-by-3-8x-and-ssd-ones-by-8x/
| … | 1無念Nameとしあき26/09/11(金)15:45:06No.1434065656+ 1789109106179.png-(88523 B)  ヤバすぎる |
| … | 2無念Nameとしあき26/09/11(金)15:47:16No.1434065953そうだねx1 1789109236496.jpg-(149926 B)  >No.1434065656 |
| … | 3無念Nameとしあき26/09/11(金)15:48:05No.1434066062そうだねx9メモリ値下がりの一因になるかも |
| … | 4無念Nameとしあき26/09/11(金)15:48:12No.1434066073そうだねx16もっと削減して |
| … | 5無念Nameとしあき26/09/11(金)15:51:56No.1434066581そうだねx5AIの開発速度を緩めませんかみたいなことをOpenAIが言い出したようだがDeepSeekは乗ってこないだろうな |
| … | 6無念Nameとしあき26/09/11(金)15:55:02No.1434066974そうだねx2中国が聞くわけ無いよな |
| … | 7無念Nameとしあき26/09/11(金)15:55:49No.1434067075そうだねx16AI処理コスト減った分AIぶん回すから結局同じ |
| … | 8無念Nameとしあき26/09/11(金)15:56:24No.1434067142そうだねx1昔の日本人みたいにかいぜんするの上手いよな中国人 |
| … | 9無念Nameとしあき26/09/11(金)15:59:33No.1434067591+朗報？ |
| … | 10無念Nameとしあき26/09/11(金)16:08:16No.1434068818そうだねx10>メモリ値下がりの一因になるかも |
| … | 11無念Nameとしあき26/09/11(金)16:08:36No.1434068856+VRAMの最低は何GBになったの？ |
| … | 12無念Nameとしあき26/09/11(金)16:09:54No.1434069030+2GBのGT730でも生成AIてきる？ |
| … | 13無念Nameとしあき26/09/11(金)16:10:31No.1434069115そうだねx5>AIの開発速度を緩めませんかみたいなことをOpenAIが言い出したようだがDeepSeekは乗ってこないだろうな |
| … | 14無念Nameとしあき26/09/11(金)16:12:57No.1434069450そうだねx1下がった所でDSを俺らが使う事なんてあるのか…？ |
| … | 15無念Nameとしあき26/09/11(金)16:14:00No.1434069582そうだねx1>下がった所でDSを俺らが使う事なんてあるのか…？ |
| … | 16無念Nameとしあき26/09/11(金)16:19:44No.1434070301そうだねx6Anthropic「中国は蒸留やめろ」 |
| … | 17無念Nameとしあき26/09/11(金)16:21:18No.1434070509+>こいつらメモリが半分で使えるようになっても今までの倍処理できるようになるぞヴォースゲーとしかならんので… |
| … | 18無念Nameとしあき26/09/11(金)16:23:21No.1434070735+削減するのはいいとして一体どうやってるんだってレベルで削減しているな |
| … | 19無念Nameとしあき26/09/11(金)16:24:42No.1434070899そうだねx2>AI処理コスト減った分AIぶん回すから結局同じ |
| … | 20無念Nameとしあき26/09/11(金)16:26:02No.1434071074+>こいつらメモリが半分で使えるようになっても今までの倍処理できるようになるぞヴォースゲーとしかならんので… |
| … | 21無念Nameとしあき26/09/11(金)16:27:14No.1434071233そうだねx2蒸留するなじゃなくてされる前提で作ってなかったのかっていう話はある |
| … | 22無念Nameとしあき26/09/11(金)16:28:06No.1434071345+>削減するのはいいとして一体どうやってるんだってレベルで削減しているな |
| … | 23無念Nameとしあき26/09/11(金)16:30:28No.1434071659+>>こいつらメモリが半分で使えるようになっても今までの倍処理できるようになるぞヴォースゲーとしかならんので… |
| … | 24無念Nameとしあき26/09/11(金)16:30:43No.1434071691+中国はAI関係の創業者の方針もあるだろうが |
| … | 25無念Nameとしあき26/09/11(金)16:31:57No.1434071862+>正直その方が助かるんだけど中国自身にメリットあんのかね |
| … | 26無念Nameとしあき26/09/11(金)16:33:23No.1434072049そうだねx4余った分ぶん回すから何も変わらん奴 |
| … | 27無念Nameとしあき26/09/11(金)16:33:54No.1434072102+うちの環境でも高機能エロチャットできるなら歓迎 |
| … | 28無念Nameとしあき26/09/11(金)16:34:54No.1434072203+半導体が足りなくてアクセスされても対応できなから |
| … | 29無念Nameとしあき26/09/11(金)16:36:58No.1434072474+AIちゃんももっとオープンにしてエロに振ればボランティアで育成してくれて成長も早いと思うんだが |
| … | 30無念Nameとしあき26/09/11(金)16:37:15No.1434072518+>このまま国内の過剰生産を輸出に回すことが許されているうちに |
| … | 31無念Nameとしあき26/09/11(金)16:40:01No.1434072914+蒸留ってめっちゃ吸い出すの時間かかりそうだけどどうやってんだ |
| … | 32無念Nameとしあき26/09/11(金)16:40:11No.1434072942そうだねx1蒸留して高性能になるならどんどんやれ |
| … | 33無念Nameとしあき26/09/11(金)16:41:41No.1434073192+>削減するのはいいとして一体どうやってるんだってレベルで削減しているな |
| … | 34無念Nameとしあき26/09/11(金)16:43:18No.1434073456そうだねx1>蒸留ってめっちゃ吸い出すの時間かかりそうだけどどうやってんだ |
| … | 35無念Nameとしあき26/09/11(金)16:43:25No.1434073476+ 1789112605114.jpg-(52875 B)  >>このまま国内の過剰生産を輸出に回すことが許されているうちに |
| … | 36無念Nameとしあき26/09/11(金)16:44:38No.1434073651そうだねx5>512bit浮動小数点演算を2bitまで簡略化 |
| … | 37無念Nameとしあき26/09/11(金)16:48:19No.1434074230+1bitじゃいかんのか |
| … | 38無念Nameとしあき26/09/11(金)16:50:49No.1434074691+890*890*2*4=6.3MByteで計算できる |
| … | 39無念Nameとしあき26/09/11(金)16:51:28No.1434074814+1 0 -1が必要だから2bit |
| … | 40無念Nameとしあき26/09/11(金)16:52:49No.1434075061そうだねx2使用量減った分を能力向上のためさらにメモリ使うぜってなりそう |
| … | 41無念Nameとしあき26/09/11(金)16:54:38No.1434075390+TurboQuantと何が違うの？ |
| … | 42無念Nameとしあき26/09/11(金)16:59:59No.1434076240そうだねx1使っちゃいけないAI第一位 |
| … | 43無念Nameとしあき26/09/11(金)17:04:09No.1434076776+コロナじゃないけど中国製AIは結局中国を亡ぼすよ |
| … | 44無念Nameとしあき26/09/11(金)17:07:11No.1434077205+精度は落ちないんだろうか |
| … | 45無念Nameとしあき26/09/11(金)17:09:35No.1434077540+2027年生産予定分はもう全部売れてるから |
| … | 46無念Nameとしあき26/09/11(金)17:11:46No.1434077861+これでNAND容量全体の3％くらい削減できるっぽい |
| … | 47無念Nameとしあき26/09/11(金)17:12:13No.1434077921+Qwenとかもパラメータでかい割にモデル小さいけど |
| … | 48無念Nameとしあき26/09/11(金)17:14:10No.1434078200そうだねx1>精度は落ちないんだろうか |
| … | 49無念Nameとしあき26/09/11(金)17:15:32No.1434078399+AIの普及速度から言うと誤差の範囲の改善… |
| … | 50無念Nameとしあき26/09/11(金)17:17:17No.1434078640+モデルを一から作り直した効果が数パーセントだとリスクが高いっぽい |
| … | 51無念Nameとしあき26/09/11(金)17:23:09No.1434079550+>2027年生産予定分はもう全部売れてるから |
| … | 52無念Nameとしあき26/09/11(金)17:35:16No.1434081340+>512bit浮動小数点演算 |
| … | 53無念Nameとしあき26/09/11(金)17:37:19No.1434081657+今こそRambusの特許で革命を起こしてくれ |
| … | 54無念Nameとしあき26/09/11(金)17:47:04No.1434083097+>メモリ値下がり |
| … | 55無念Nameとしあき26/09/11(金)18:00:17No.1434085216+>こいつらメモリが半分で使えるようになっても今までの倍処理できるようになるぞヴォースゲーとしかならんので… |
| … | 56無念Nameとしあき26/09/11(金)18:00:43No.1434085305+>余った分ぶん回すから何も変わらん奴 |
| … | 57無念Nameとしあき26/09/11(金)18:07:33No.1434086412+>下がった所でDSを俺らが使う事なんてあるのか…？ |
| … | 58無念Nameとしあき26/09/11(金)18:07:43No.1434086432そうだねx2claudeにそのまま投げるだけなんだからメモリいらんわな |
| … | 59無念Nameとしあき26/09/11(金)18:32:08No.1434090909+8gbのクラボで動く？ |
| … | 60無念Nameとしあき26/09/11(金)18:40:46No.1434092620+画像生成AIも改善されて8GBで大丈夫だよって人もいるし |
| … | 61無念Nameとしあき26/09/11(金)18:57:48No.1434096048+>claudeにそのまま投げるだけなんだからメモリいらんわな |
| … | 62無念Nameとしあき26/09/11(金)19:00:54No.1434096712+>Anthropic「中国は蒸留やめろ」 |
| … | 63無念Nameとしあき26/09/11(金)19:03:01No.1434097179+当たり前じゃんパクリで動かしてんだから |
| … | 64無念Nameとしあき26/09/11(金)19:09:19No.1434098529+>メモリ値下がりの一因になるかも |
| … | 65無念Nameとしあき26/09/11(金)19:21:34No.1434101044そうだねx1蒸留で成果だけパクってるからそら金掛かんないよな |
| … | 66無念Nameとしあき26/09/11(金)19:48:15No.1434106894+MoonshotとDeepSeekについては、蒸留ではなく「自社顧客のリクエストを無断でClaudeに転送し、Claudeの回答を自社モデルの回答として表示していた」と書かれている。Moonshotは10日間で約30万件。 |
| … | 67無念Nameとしあき26/09/11(金)19:48:17No.1434106904+>Qwenとかもパラメータでかい割にモデル小さいけど |
| … | 68無念Nameとしあき26/09/11(金)19:49:08No.1434107105+ 1789123748161.png-(185732 B)  蒸留だけならぶっちゃけ質問して回答を記録するだけなのでどこでもやってる |