直接回答：三件事——一台配備 GPU 的主機、放它的空間與電力、一個懂軟硬體整合的夥伴。這篇把規格、價位帶、電力需求講到你能拿去比價的程度——看完你至少知道該問廠商什麼問題。
硬體：兩個級別就好，不要被規格單嚇到
| 入門級 | 進階級 | |
|---|---|---|
| 能做什麼 | 中小型開源模型，知識庫問答、文件整理、內部客服，同時 5–10 人用很夠 | 大型模型或多任務並行，全公司多部門同時用、回答品質要求高 |
| 關鍵配置 | 一張高階消費級 GPU（記憶體 24GB 級） | 工作站級 GPU 或雙卡以上 |
| 常見價位（含整機） | 約 NT$15–30 萬 | 約 NT$50–100 萬＋ |
（價位為 2026 年中常見行情，隨匯率與型號浮動；評估時會給你當下的實際報價。）重點觀念：GPU 的記憶體容量決定你能跑多大的模型，比「快不快」更優先。很多中小企業的需求入門級就夠，從小開始、需求驗證了再升級，比一次買大安全得多。
場地與電力：比你想的簡單
一台高階工作站滿載約 800W–1.2kW——一般辦公室插座就帶得動（夠一台冷氣的用電量），不需要機房。要注意的只有三點：別跟大功率設備共用同一迴路、放通風處避免塞進密閉櫃、配一台 UPS（幾千元）防跳電傷硬碟。工廠環境粉塵多的話，放辦公區別放產線邊。
維運：「誰來顧這台機器」的老實答案
日常維運實際上很輕：它不像 ERP 有一堆帳要管，就是一台主機跑幾個服務。要有人做的事情清單：模型與軟體更新（每季）、資料備份檢查（每週自動、每月人工確認）、磁碟空間監控、異常重開。這些不需要你請 IT——標準做法是包在建置廠商的維運合約裡（遠端監控＋定期健檢＋異常處理），簽約前確認這三項有沒有寫進去。
什麼情況其實不該自建？
誠實講三種：使用量很低（一天問不到幾次，雲端按量付費比較划算）、資料本來就不敏感（一般文書加速用雲端企業版就好）、需求還沒驗證（先用雲端跑三個月確認真的有用，再把驗證過的需求搬回地端）。自建的理由應該是資料不能出門或長期用量大，不是「擁有一台比較安心」（雲地怎麼選見《地端 AI 完整比較》）。
常見問題
舊電腦或現有伺服器能拿來用嗎？
沒有高記憶體 GPU 的舊機跑不動主流模型；但它可以當資料源或備份機繼續服役，不會浪費。
主機買了，軟體還要錢嗎？
開源模型與基礎軟體本身免授權費，你付的是建置與整合的工程（把它接上你的資料與流程）加維運——這也是為什麼同樣規格報價會差很多，比的是工程含量不是零件。
多久會過時？
硬體實際壽命 4–5 年以上；模型倒是每年都在進步——好消息是換模型不用換硬體，軟體層更新即可，這就是維運合約裡「模型更新」那一項的價值。
想知道你的需求落在哪個級別？免費評估會給你一份具體規格與報價，你拿去比價也沒關係。
最後更新：2026 年 7 月
