常見問題
AI TOP AERO 適合哪些使用者?
AI TOP AERO 專為希望將地端 AI 整合至熟悉 Windows 工作流程的 AI 開發者、AI 進階使用者與專業創作者打造。它支援 AI 模型與代理開發、進階地端推論及 AI 輔助內容創作。NVIDIA RTX 技術也能在支援的遊戲中帶來細緻畫面與靈敏的操作反應。
AI TOP AERO 可以在地端執行 AI 工作負載嗎?
可以。AI TOP AERO 提供最高 1 PFLOP 的 FP4 AI 算力與最高 128 GB 統一記憶體,可支援最高 1,200 億參數的相容模型,並直接在裝置上執行推論及其他支援的 AI 工作負載。實際支援的模型規模與效能,會因系統配置、軟體、模型格式及最佳化程度而異。
在地端執行 AI 代理有哪些好處?
在地端執行支援的 AI 代理,有助於將敏感資料留在裝置上、縮短回應時間,並在無須持續連線至雲端的情況下維持運作。地端執行也能降低對按用量計費的雲端服務的依賴。部分代理、模型、API 或服務仍可能需要網路連線或訂閱,也可能對外傳輸資料。
AI TOP AERO 和 AI TOP ATOM 有什麼差別?
AI TOP AERO 採用 Windows,將 AI 加速整合至熟悉的專業應用程式與日常工作流程。AI TOP ATOM 採用 NVIDIA DGX OS,主要面向 AI 開發與研究,並支援透過多台系統互連擴充運算規模。
我剛開始接觸 AI,該如何使用 AI TOP AERO 入門?
你可以從 NVIDIA RTX Spark Playbooks 實作指南開始,跟著步驟在 RTX 系統上執行地端語言模型、設定 AI 代理、開發 AI 應用程式,以及生成內容。指南也能幫你挑選相容的工具,將 AI TOP AERO 的算力用在實際工作流程中。