用了兩個月，我後悔花 10 萬買這台 AI 主機嗎？極限算力與真實花費大公開！

Summary

Key Points

• —華碩 Ascent GX10 (NVIDIA DGX SPARK) 擁有128GB LPDDR5X統一記憶體和GB10顯示晶片，提供1 PFLOP的FP4算力。 0:26
• —該機器在大型語言模型Prefill階段和圖片生成等純計算任務上表現良好，但受限於記憶體頻寬，在語言模型解碼階段速度表現不佳，與Mac Studio的優勢相反。 1:08
• —GX10待機功耗約25-35W，滿載穩定運行約140W，每月電費約160台幣，相較於大型語言模型API呼叫成本效益顯著。 2:15
• —llama.cpp近期更新後，速度提升超過20%，並正式支援MTP，使得Qwen 3.6 35B A3B Q4量化開啟MTP時可達90 tokens/s。 3:08
• —vLLM在單一請求生成速度上不如llama.cpp，但在併發請求方面表現出色，同時發送8個請求時生成速度可達200 tokens/s。 5:41
• —影片中不建議在DGX Spark系列上使用dflash技術進行Speculative Decoding，因其支援度不佳，常導致回覆提前停止或服務卡死。 8:15
• —在圖片生成方面，GX10使用ComfyUI運行Z-Image-Turbo模型，生成一張9步的圖片約需10秒，比桌機4070 SUPER的15-30秒更快。 8:49
• —ASUS Ascent GX10的市場價格在兩個月內從約10萬台幣飆漲至16-17萬，顯示高容量記憶體設備市場面臨嚴重缺貨和價格上漲問題。 8:57
• —影片生成方面，GX10利用其128GB統一記憶體優勢，使用LTX 2.3生成10秒1280x720 25fps的影片約需6分鐘。 9:35