直接回答:三件事——一台原廠 AI 整機、放它的空間與電力、一個懂軟硬體整合的夥伴。這篇把規格、價位帶、電力需求講到你能拿去比價的程度——看完你至少知道該問廠商什麼問題。
如果你還在更前面的階段(還沒決定要不要走地端),先看《中小企業地端 AI 完整指南》的總覽;硬體選定之後還要決定跑哪個模型,見《AI 主權怎麼選?》。

硬體:三條路,我們只建議其中一條
| 原廠 AI 整機 🥇 | 專業卡工作站 | 遊戲卡自己組 ⛔ | |
|---|---|---|---|
| 代表機種 | 戴爾 Dell Pro Max with GB10、華碩 Ascent GX10、NVIDIA DGX Spark | RTX PRO 專業卡+伺服器 | RTX 4090/5090 插進電腦 |
| 授權 | ✅ 乾淨 | ✅ 乾淨 | 🔴 條款載明不授權資料中心部署 |
| 壞了誰負責 | 單一供應商負責到底 | 卡有保固,主機自己處理 | 自己送修,各廠互推 |
| 能做什麼 | 中小型開源模型,知識庫問答、文件整理、內部客服,同時 5–10 人很夠;128GB 統一記憶體,更大的模型也裝得下 | 大型模型或多任務並行,全公司多部門同時用 | 技術上跑得動,受限於顯示卡記憶體 |
| 常見價位 | 約 NT$10–16 萬 | 單卡約 NT$18–30 萬起,另需伺服器 | 卡約 NT$6–9 萬/張,整機約 NT$15–30 萬 |
| 阿福的建議 | 多數中小企業從這裡起步 | 已有機房、有 IT 人力才選 | 商業用途不建議 |
🔴 為什麼把遊戲卡排除?兩個跑不掉的問題:第一,NVIDIA 的 GeForce 驅動授權條款第 2.8 條白紙黑字寫「不授權用於資料中心部署」;第二,自己組的機器出問題時,顯示卡廠、主機板廠、電源廠會互推,沒有 IT 人力的公司耗不起。價格我們照實寫出來讓你比較,但商業用途我們不建議——完整說明見《NVIDIA 產品線怎麼分?九層地圖與中小企業選型指南》。
(價位為 2026 年常見行情,隨匯率與型號浮動;評估時會給你當下的實際報價。)重點觀念:記憶體容量決定你能跑多大的模型,比「快不快」更優先。很多中小企業的需求,原廠整機就綽綽有餘——從小開始、需求驗證了再升級,比一次買大安全得多。模型大小與記憶體的實際對照見《地端 AI 要選哪個模型?》。
我們建議的起點:GB10 桌上型 AI 整機
2025 年底起,市場多了一個更低的入門點:搭載 NVIDIA GB10 晶片的桌上型 AI 迷你主機(如戴爾 Dell Pro Max with GB10、華碩 Ascent GX10、NVIDIA DGX Spark),128GB 統一記憶體、體積像小型主機,台灣建議售價約 NT$9.8 萬起(NVIDIA 創始版約 15.9 萬;因記憶體行情波動、原廠已調漲國際售價,購買前以當下報價為準,見 Cool3c 報導)。定位要老實講:它的記憶體容量大、但頻寬低於獨立 GPU,老實講它的限制:記憶體容量大,但頻寬低於獨立顯示卡,多人同時高頻使用會感覺得到在等。碰到這個天花板時,往上跳到 DGX Station 這類更大的原廠整機,或專業卡工作站——不要回頭去插遊戲卡,省下的錢會在授權與保固上還回去。對想先驗證地端可行性的中小企業,這也是目前門檻最低的起步選擇。
場地與電力:比你想的簡單
一台高階工作站滿載約 800W–1.2kW——一般辦公室插座就帶得動(夠一台冷氣的用電量),不需要機房。要注意的只有三點:別跟大功率設備共用同一迴路、放通風處避免塞進密閉櫃、配一台 UPS(幾千元)防跳電傷硬碟。工廠環境粉塵多的話,放辦公區別放產線邊。
維運:「誰來顧這台機器」的老實答案
日常維運實際上很輕:它不像 ERP 有一堆帳要管,就是一台主機跑幾個服務。要有人做的事情清單:模型與軟體更新(每季)、資料備份檢查(每週自動、每月人工確認)、磁碟空間監控、異常重開。這些不需要你請 IT——標準做法是包在建置廠商的維運合約裡(遠端監控+定期健檢+異常處理),簽約前確認這三項有沒有寫進去。
什麼情況其實不該自建?
誠實講三種:使用量很低(一天問不到幾次,雲端按量付費比較划算)、資料本來就不敏感(一般文書加速用雲端企業版就好)、需求還沒驗證(先用雲端跑三個月確認真的有用,再把驗證過的需求搬回地端)。自建的理由應該是資料不能出門或長期用量大,不是「擁有一台比較安心」(雲地怎麼選見《地端 AI 完整比較》)。
常見問題
舊電腦或現有伺服器能拿來用嗎?
沒有足夠記憶體的舊機跑不動主流模型;但它可以當資料源或備份機繼續服役,不會浪費。
主機買了,軟體還要錢嗎?
開源模型與基礎軟體本身免授權費,你付的是建置與整合的工程(把它接上你的資料與流程)加維運——這也是為什麼同樣規格報價會差很多,比的是工程含量不是零件。
多久會過時?
硬體實際壽命 4–5 年以上;模型倒是每年都在進步——好消息是換模型不用換硬體,軟體層更新即可,這就是維運合約裡「模型更新」那一項的價值。
想知道你的需求落在哪個級別?免費評估會給你一份具體規格與報價,你拿去比價也沒關係。
最後更新:2026 年 7 月


