直擊地端AI算力痛點!華碩發表全新UGen B70推論加速卡

華碩全新UGen Intel® Arc™ Pro B70 32GB推論加速卡,以親民實惠價格提供32GB GDDR6 ECC超大容量記憶體,再加上專為推論優化的硬體架構,是企業執行本地端代理式AI(Agentic AI)時不容錯過的選擇。

 (10月28日,台北訊) 隨著大型語言模型(LLM)與多代理工作流程加速從雲端走向工作站,華碩直擊市場最迫切痛點,發表全新ASUS UGen Intel® Arc™ Pro B70 32GB推論加速卡,以親民實惠價格提供32GB GDDR6 ECC超大容量記憶體,再加上專為推論優化的硬體架構,絕對是企業執行地端代理式AI(Agentic AI)時不容錯過的選擇!

突破VRAM瓶頸 AI推理超可以!

現代AI工作非常消耗記憶體,例如:較長的上下文推理會大幅增加KV快取用量,以及多代理部署,也需要同時執行多個模型,佔用VRAM;一旦容量不足,資料便會卸載至主記憶體,推論效能可能下降超過10倍。全新ASUS UGen B70內建32GB、具ECC保護的GDDR6記憶體,可支援多數27B參數以下的模型,將其完整保留於加速卡上,此外,搭配Llama 3.1 8B,還能實現高達128K token的上下文視窗,並透過雙卡64GB或多卡128GB擴充,滿足企業AI部署所需。

成熟且可立即部署的軟體生態系

內建INT4 / FP8線上量化功能的ASUS UGen B70,擁有完整且成熟的AI軟體堆疊支援,包括:Intel LLM Scaler/vLLM XPU、llama.cpp (SYCL/Vulkan)、Ollama、Intel OpenVINO/oneAPI、PyTorch XPU和用於影像生成的ComfyUI;經過驗證的模型則涵蓋:Llama 3.1/3.2(8B–70B)、Qwen 3.x、DeepSeek-R1 Distill(7B–70B)、Mistral/Mixtral、OpenAI gpt-oss(20B/120B)、Whisper-large-v3與InternVL3.5,且雙卡配置還可以每秒43.4 token的流暢速度執行80B等級模型,震撼效能無出其右!

為不同規模AI導入而生!

全新ASUS UGen B70鎖定三大使用者族群—專業消費者、獨立AI開發者:單張32GB即突破主流16GB AI加速卡於大型模型資源上限;小型企業與創意工作室:雙卡64GB配置,可在支援更大規模部署時,將敏感資料保留於企業內部;企業部門級AI團隊:多卡128GB系統,降低長期成本,並符合法律、醫療、政府與金融等領域的資料合規要求。

關於華碩
關於華碩

華碩(2357.TW)為全球創新科技領導品牌,提供涵蓋 AI 基礎設施、實體 AI、AI PC 及智慧裝置的全方位 AI 解決方案,協助客戶打造 AI 競爭優勢。在Ubiquitous AI. Incredible Possibilities的策略下,華碩致力於全面落實從企業到邊緣的 AI 應用。旗下另有 ROG 與 ProArt 兩大子品牌,服務全球頂尖玩家與創作者。

https://asus.com
複製全文
華碩十一度榮登《財富》全球最受推崇企業

華碩十一度榮登《財富》全球最受推崇企業