直接回答：地端 AI 就是把 AI 跑在你自己公司的主機上，資料不出公司大門。很多人以為地端很貴——大廠敘事動輒 200 至 300 萬元，但中小企業其實不必一次到位：桌上型 AI 整機約十幾萬元就能起步、不必自己插顯示卡，百萬以內就能做出完整方案。這篇把「什麼是地端、要準備什麼、多少錢、適合誰、怎麼起步」一次講完，每個主題都連到深入文章，當你評估地端 AI 的總覽地圖。
一分鐘搞懂地端 AI
地端 AI（On-Premise AI）指的是 AI 模型與資料都放在企業自己的設備裡運行，不上公有雲、不經第三方。相對的雲端 AI 則是把資料送到外部伺服器處理。對中小企業，尤其是製造業、有機密配方或客戶個資的公司，地端最大的價值是「資料不出門」——完整定義與運作原理見《地端 AI 是什麼？適合誰？與雲端完整比較》。
地端 vs 雲端，怎麼選？
| 雲端 AI | 地端 AI | |
|---|---|---|
| 資料位置 | 送到外部伺服器 | 留在你自己的機器 |
| 導入速度 | 快，開通即用 | 需採購與建置 |
| 前期成本 | 低，多為月費 | 高，一次性硬體投資 |
| 長期成本 | 用量大時月費累積可觀 | 攤提後單位成本低 |
| 適合 | 一般營運、用量不穩、想先試 | 機密性高、用量大且穩定、法規嚴 |
我們的預設立場是以你的資料安全為優先，雲端與地端彈性搭配——不是所有東西都要地端，也不是地端才安全。機密資料會不會外流、雲端到底安不安全，見《用了 AI，公司機密會外流嗎？》。
要準備什麼硬體？三件事
走地端主要要準備三樣：①一台原廠 AI 整機（運算核心；我們建議直接用原廠做好的整機，不必自己插顯示卡）、②空間與電力（一般辦公室多半就夠，注意散熱與插座）、③整合夥伴（軟硬體有人顧、故障有人修，不必自建 IT 部門）。細節見《中小企業自建 AI 主機，要準備什麼？》。
硬體之外還有一個決定：要跑哪一個 AI 模型。TAIDE、開源模型自建、企業級授權、雲端 API 各有取捨，也牽涉到你對「資料主權」的要求——五種方案的完整比較見《AI 主權怎麼選？》。
到底多少錢？百萬內做得到
硬體是地端的主要一次性支出。市場常見範圍（示意，2026 年 7 月查詢，實際依型號、匯率浮動）：我們建議的起點是桌上型 AI 整機（搭載 NVIDIA GB10、128GB 統一記憶體，例如戴爾 Dell Pro Max with GB10、華碩 Ascent GX10、NVIDIA DGX Spark。華碩台灣建議售價約 9.8 萬元起、NVIDIA 創始版約 15.9 萬元，見 Cool3c 報導；價格因記憶體行情波動，以當下報價為準）——插電就能用、單一供應商保固到底，不必自己插顯示卡。市面上也看得到用兩張 RTX 4090 自組的整機，約 40 至 60 萬元，價格我們照實寫出來讓你比較，但商業用途我們不建議：NVIDIA 的 GeForce 驅動授權條款第 2.8 條載明不授權用於資料中心部署，而且出問題時沒有單一窗口負責——完整說明見《NVIDIA 產品線怎麼分？九層地圖與中小企業選型指南》。要跑到 70B 大模型的多卡機常見在 200 至 300 萬元。整機來看，數位時代報導中小企業初步導入地端專屬 AI 市場常見約 200 至 300 萬元，硬體約占 100 至 150 萬元。
關鍵觀念：不必一次押到大廠說的規模。先用輕量地端把一條最有價值的流程做起來，驗證效益，再決定要不要上完整地端——完整的費用級距、錢花在哪、怎麼避免花冤枉錢，見《導入 AI 要花多少錢？》。若符合資格，政府補助還能再降一級，見《中小企業 AI 補助總整理》。
地端適合誰、不適合誰？
老實說，地端不是萬靈丹。適合地端：資料機密性高（配方、成本、客戶個資、圖面）、有法規或稽核要求、AI 用量大且穩定（長期攤提划算）。先別急著地端：只是偶爾用一下、用量還不確定、預算極緊——這種情況先從雲端或訂閱工具起步更務實，想清楚需求再上地端。如果你要的只是「內部版 ChatGPT」，也可以先看《企業可以用 ChatGPT 嗎？》比較各種選項。若你的目標是企業知識庫，市面上 8 款主流工具的比較（含哪些支援地端）見《企業 AI 知識庫怎麼選？》。
怎麼起步？
建議路徑：先挑一條最花人力、規則相對明確的流程（例如報價查詢、文件問答、客服初步回覆）→ 用輕量地端主機做出來 → 用數字驗收（省了多少工時、少了多少錯）→ 有效再擴大到更多流程與更大模型。這樣起步壓力小、風險可控，也不必一次投入大筆硬體。想比較不同廠商的地端報價與定位，見《想導入 AI 該找誰？廠商類型與挑選指南》；製造業想直接看三家地端方案的實際定位與入門價，見《製造業地端 AI 該找誰？》。
地端 AI 導入失敗的五種情況
地端做起來之後沒人用、或半途停擺，原因通常不是技術。以下五種是實務上最常見的失敗型態，每一種都附「事前怎麼避開」——建議在簽約前先對一次。
一、買了硬體才想用途
「先把機器買起來，之後再想要做什麼」——這是最貴的錯。GPU 主機的價值完全來自跑什麼應用；沒有明確流程，買回來就是一台很貴的電腦。怎麼避開：先確定第一條要做的流程，再依那條流程的模型需求配硬體。順序反了，規格一定不對。
二、模型選太大，用途撐不起來
看到大模型效果好就想一次到位，多卡機採購 200 萬起跳，實際只拿來做內部文件問答——這種需求 7B 到 13B 就夠。怎麼避開：先用小模型把流程跑通，確認答題品質不足是「模型不夠大」而不是「資料沒整理好」，再考慮升級。多數情況瓶頸在後者。
三、資料沒有人負責整理
地端 AI 的答案品質取決於餵進去的資料。文件散在各人電腦、命名混亂、版本不明，建出來的知識庫就會答非所問，然後員工幾週後不再使用。怎麼避開：導入前指定一位「資料窗口」（不必是 IT，熟流程的人更好），負責決定哪些文件進、哪個版本是對的。資料現況怎麼自評，見《導入 AI 前，要先把資料整理好嗎？》。
四、沒有人負責維運
主機會滿、模型要更新、備份要檢查。這些事情量不大，但沒有人做就會累積成故障。怎麼避開：簽約前確認維運範圍寫進合約——系統更新、模型更新、備份檢查、異常處理各由誰負責、多久一次。
五、把地端當成資安的終點
資料留在公司只解決了「不出門」，沒解決「公司裡誰能看到什麼」。沒有做權限分級的知識庫，等於把所有機密放在一個所有人都能問的地方。怎麼避開：導入時同步做文件分級與權限控管，細節見《用了 AI，公司機密會外流嗎？》。
不同規模該配什麼？一張對照表
下表把前面的價位帶對應到「多少人用、做什麼」，方便你先自我定位再去問報價。價格為 2026 年中常見範圍（示意），隨型號與匯率浮動，實際以當下報價為準。
| 規模 | 典型用途 | 建議配置 | 常見價位帶 | 要注意的事 |
|---|---|---|---|---|
| 試作驗證 | 1–3 人試用，確認地端可行 | DGX Spark 等級原廠整機（GB10，128GB 統一記憶體） | 約 10–16 萬 | 插電就能用，不需要 IT 人力 |
| 單一流程 | 5–10 人，一條流程（報價查詢、文件問答） | 同上，不用換機器 | 約 10–16 萬 | 多數中小企業的實際起點；試作驗證過就直接上線 |
| 多部門 | 全公司並行，答題品質要求高 | DGX Station，或 RTX PRO 專業卡工作站 | 需洽代理商詢價 | 電力與散熱要先確認；已有機房才適合走專業卡 |
| 大模型 | 要跑 70B 級以上模型 | 多卡機／機櫃級系統 | 常見 200–300 萬 | 先確認真的需要這個等級 |
⛔ 這張表裡刻意沒有「自己插遊戲卡」這個選項。技術上跑得動，但授權與保固的問題對沒有 IT 人力的公司划不來——理由見《NVIDIA 產品線怎麼分？》。
選型的第一原則：記憶體容量決定你能跑多大的模型，比運算速度更優先。而原廠整機直接給 128GB 統一記憶體，這一題基本上不用傷腦筋——模型大小與記憶體的對照見《地端 AI 要選哪個模型？》，各級別的規格細節見《中小企業自建 AI 主機，要準備什麼？》。
常見問題
地端 AI 一定比雲端貴嗎？
前期一定比雲端高（要買硬體），但長期不一定。用量大且穩定時，地端攤提後的單位成本會低於持續累積的雲端月費，通常一年內出現「黃金交叉」。用量小或不穩定時，雲端反而划算——這正是評估時要幫你算清楚的。
中小企業真的養得起地端 AI 嗎？
養得起。門檻比想像低——十萬元級的桌上型 AI 主機（GB10）就能試作，正式使用從十幾萬元的桌上型 AI 整機起步，跑單一流程綽綽有餘，加上整合夥伴代管，不需要自建 IT 團隊。
地端資料真的不會外流嗎？
地端方案的 AI 與資料都在你自己的主機上運行，不上傳雲端、不經第三方，安全邊界是實體的機房與網路。這也是它相對雲端最大的信任優勢，細節見企業資料安全指南。
最後更新：2026-07-15
企業客戶最常問的 5 個地端 AI 問題
Q1. 我的機房沒有專屬冷氣，能放地端 AI 主機嗎？
專業卡工作站這種機器滿載約 800W–1.2kW，發熱量介於高階桌機與小型伺服器之間。一般辦公室有冷氣、通風好的角落即可，不需要專屬機房；桌上型 GB10 主機（如 ASUS Ascent GX10）發熱更低，直接放辦公桌上都可以。
Q2. 停電怎麼辦？會不會傷資料？
配一台 UPS（不斷電系統）幾千到 1 萬多元就搞定，足以撐到你正常關機。資料另外定期備份到 NAS 或其他機器，即使主機硬體壞了，資料庫可還原。
Q3. 我沒有 IT 人員，誰來顧這台機器？
建置廠商通常會包遠端維運：月費制、含系統更新、模型更新、異常告警與修復。以阿福為例，維運費用會在報價階段講清楚，不會事後追加。
Q4. 地端 AI 過幾年會不會就過時？
硬體實際壽命 4–5 年以上，但真正進步快的是「模型」不是「硬體」——換模型不用換主機，由維運服務更新。這也是為什麼建議一次不要買太大：先小規模驗證有效再加碼，而不是猜五年後的需求。
Q5. 地端 AI 能連得上 ChatGPT 或 Google Gemini 嗎？
可以「選擇性」串接：機密流程走地端（資料不出門）、公開流程走雲端（便宜方便）的混合架構是最常見做法。詳見《企業可以用 ChatGPT 嗎》。
阿福 AI 的地端方案：一句話定位
免費評估、地端部署、軟硬體一條龍，專案規模百萬內，主要服務中部的中小企業與傳統產業。
| 服務範圍 | 需求評估、硬體選型與採購、模型部署、知識庫建置、教育訓練、後續維運 |
| 價格級距 | 從輕量導入起步，完整專案規模在百萬內；實際依資料量、應用數量與硬體規格而定 |
| 適合對象 | 中小企業與中部傳產，有不能外流的資料，且沒有專職 IT 團隊 |
| 不適合 | 需要大型系統客製開發，或只想訂閱單一功能 SaaS 的公司 |
| 合作流程 | 先做免費評估，確認可行才報價簽約；評估結果若是「不建議做」也會照實說 |
想比較台中其他做 AI 導入的公司？見《台中 AI 導入公司完整地圖【2026】》，15 家依商業模式分類，裡面也寫了「什麼情況不用找阿福」。
想知道你的需求適不適合地端、要多少預算、怎麼起步最省？阿福提供一次免費的可行性評估，含地端與雲端的總持有成本試算，誠實告訴你能做、不能做、值不值得做。預約免費評估｜看服務方案
