主權AI能用嗎？拆解德國 Kolibri 模型與台灣中小企業的選型代價｜AIRUN

先講結論：Kolibri 證明主權AI做得出來，但它只懂德文和英文。台灣公司該學的是它的做法，模型本身別直接搬來用。

先交代時間。德國 AI 公司 Aleph Alpha（官網，本文補充連結）在 2026 年 10 月 3 日發布開放權重模型 Kolibri。權重是模型訓練完成後的參數檔，開放權重代表任何人都能下載、放在自己的機器上跑。同一天，IBM 的 AI 工程師 Tejas Kumar 發表一篇拆解文。本文寫於 10 月 4 日。

文中的技術數字全部來自這篇拆解文，而作者的依據是 Aleph Alpha 的 189 頁技術報告、模型卡和發布文。有兩件事要先講清楚：拆解文是作者個人整理的解讀，不是官方文件；文中的效能比較也是 Aleph Alpha 自己做的評測。下面的判斷都建立在這個前提上。另外，文中 Aleph Alpha 官網、歐盟 AI 法與 Apache 2.0 授權條文三個連結是本文補充的參考資料，並非拆解文引述的內容。

主權AI是什麼？Kolibri 說的「主權」指哪兩件事？

主權AI指的是模型從訓練到部署都由本國或本地區掌握：資料不出境，別人也沒辦法從遠端改掉或關掉模型。Aleph Alpha 對 Kolibri 的定義分成兩半，一半講模型怎麼造，另一半講客戶拿到什麼。

先講怎麼造。根據拆解文引述的發布文，Kolibri 由德國團隊打造，在德國與芬蘭的設施上訓練，受歐洲與德國法律管轄，沒有外國控制。

再講客戶拿到什麼。Aleph Alpha 的說法是「完整的部署自由與智慧財產安全」，合規性隨模型一起繼承。白話講就是：一個政府部會或一家汽車零件供應商，可以把模型跑在自己的伺服器上，資料不離開公司，也沒有人能在背後更動或關閉它。Aleph Alpha 也簽署了歐盟的通用型 AI（GPAI）行為準則。拆解文作者則指出，這個德國團隊從一開始就把歐盟 AI 法納入考量（法規原文見歐盟官方頁面，本文補充連結）。

開放權重的反面是封閉模型。封閉模型多半透過廠商的 API 提供，API 是讓你的程式把問題送到廠商、再取回答案的介面，資料會經過廠商的機器。Kolibri 能讓客戶自架，靠的是開放權重。

項目	Kolibri 公布規格
參數	總共 781 億，每個詞元動用 34.6 億（4.4%）
語言	德文、英文
上下文長度	原生 262,144 詞元，測試到 1,048,576
授權	權重與設定檔採 Apache 2.0（條文為本文補充連結），訓練程式碼與方法由 Aleph Alpha 保留
記憶體	以 FP8 存放，權重約 78 GB
推理模式	4 段：無、低、中、高
工具呼叫	支援
知識截止	2026 年 6 月 18 日
訓練	約 24 兆詞元，超過五分之一是德文，用 768 張 NVIDIA B200 GPU

資料來源：Tejas Kumar 拆解文，文中提到權重已放上 Hugging Face。表中幾個詞的白話解釋：詞元（token）是模型切分文字的最小單位；「每個詞元動用 34.6 億」是說模型每讀或寫一個詞元，只有 34.6 億個參數參與運算；上下文長度是模型一次能讀進多少文字，以詞元計；知識截止是模型知道的最新資訊時間點，之後發生的事它不知道；GPU 是跑 AI 運算用的顯示卡晶片。

Kolibri 怎麼運作？780 億參數為什麼每次只動用 35 億？

Kolibri 用的是混合專家架構（MoE）。模型裡放了大量小型子網路，叫做「專家」，再由一個路由器替每個詞元挑出少數幾個專家來處理。因為每次只有一小部分參數在運算，模型總共有 781 億參數，實際運算量卻只有約 35 億的等級。

具體結構是這樣：Kolibri 有 50 層，每層有 384 個專家，再加 1 個所有詞元都會經過的共用專家。路由器每次從 384 個裡挑 6 個（來源）。作者打了個比方：一家醫院裡有整群專科醫師，路由器就是掛號櫃台，負責把每個詞元分到對的 6 位醫師那裡。

作者自己也指出這個比方有兩個地方不準。第一，專家分工的方式和人想像的不同。研究者打開 MoE 模型來看，多半發現專家負責的是某類詞元的模式，例如標點或專有名詞，很少按「德國法律」這種主題分工。第二，384 位醫師全都得養著。Kolibri 的運算量雖然像一個 35 億參數的模型，記憶體卻要容納整個 780 億參數的模型。模型卡寫得很直白：即使每次只用到一部分，整個模型都必須放進記憶體。

這一點直接決定了自架成本。FP8 是用 8 位元存每個參數的壓縮格式，這樣存，光權重就要約 78 GB。這個量級超出一般辦公電腦和單張消費級顯示卡能裝下的記憶體。這是依 78 GB 做的推估，實際配置請向供應商確認。MoE 常被說成省資源，其實只省運算，記憶體不省：推論（模型實際回答問題時的運算）的運算量小，硬體門檻並不低。

主權模型就代表完全不靠外國技術嗎？

不代表。Kolibri 的模型卡自己寫明，訓練資料的處理借用了外部模型。主權管的是訓練地點、法律管轄和部署控制權，整個訓練過程並沒有跟外界隔絕。

根據拆解文引述的模型卡，英文網頁資料是用 Google 的 Gemma 4 改寫，德文資料是用 Mistral-NeMo 改寫，品質過濾用的標註資料則來自 Qwen3-32B。Aleph Alpha 之後還針對這類模型可能帶進來的政治偏見做了過濾，並表示他們自己量測過中國開放模型裡的這種偏見。

另外兩個依賴也要看清楚。訓練用的是 768 張 NVIDIA B200 GPU，算力晶片來自美國廠商。授權方面，Apache 2.0 只涵蓋權重和設定檔，訓練程式碼與方法仍由 Aleph Alpha 保留。換句話說，你拿得到模型，但沒辦法照原樣從頭重訓一次。

我們的看法是：主權AI是程度問題，沒有純度可言。真正該問的是三題：資料在哪裡跑、誰有權力關掉它、授權允許你做什麼。Kolibri 在這三題都給了清楚的答案，這正是它值得參考的地方。

自架主權模型和用國際旗艦雲端模型，代價差在哪？

自架開放權重模型，換到的是資料控制權和不會被下架的保障，代價是硬體、維運人力和語言限制。用國際旗艦雲端模型，上手成本最低，但資料要送到廠商那邊處理，服務條款也由對方說了算。

比較項	自架 Kolibri 這類主權模型	國際旗艦雲端 API
適合的資料等級	受規範資訊，但 Kolibri 只適合德英文資料	公開資訊；內部資訊要先去識別、查過條款與合約
資料去向	留在自己的機器	送到廠商的雲端
繁體中文能力	Kolibri 只支援德英文	通常成熟
硬體門檻	高，整個模型要完整載入記憶體	幾乎沒有
維運人力	要有人負責部署、更新、監控	廠商負責
被改動或停用的風險	低，權重在你手上	廠商可以調整模型或條款
授權	Apache 2.0，可以商用	依服務條款

第一列「適合的資料等級」對應下一節資料分級的三類，選型時先看這一列，再往下看代價。表中的去識別，指拿掉姓名、電話、客戶名稱等能指向特定人的資訊。表中 Kolibri 的數據出自拆解文，雲端欄是一般性的比較，不代表任何特定廠商的承諾。效能方面，Aleph Alpha 自己的評測宣稱 Kolibri 在德英兩種語言都勝過所有比較的同級模型，但這是自評，拆解文沒有附可核對的分數，所以這裡不引用任何數字。

第三條路是自架在地或繁中開放模型。本文未實測任何在地模型，不替它們打分，只列選型時要自己實測的三項：

1. 繁中品質：輸出會不會混進簡體字或中國用語，能不能正確處理台灣的法規名稱與你所在產業的術語。
2. 硬體與速度：在你準備的硬體上載不載得動，回應速度能不能接受。
3. 授權：能不能商用、能不能自架，條款要逐條看。

這對台灣中小企業意味著什麼？

台灣中小企業不該直接用 Kolibri，因為它不支援中文。它真正的價值，是給了一套判斷 AI 供應商的檢查清單。至於幾十人的公司，多數工作照樣可以用國際旗艦模型，只要先把敏感資料分級處理好。

要不要走「資料不出境」這條路，取決於你的資料和合約。在台灣，有兩個約束要先查：一是《個人資料保護法》，它規範個資的蒐集、處理與利用，主管機關也可以限制特定個資傳到境外；二是客戶合約，有些客戶的委外合約會寫明資料須存放在台灣境內。這兩項是否適用你的情況，請和法律顧問確認。查完之後，我們建議照下面三步判斷。

第一步，資料分級。 把公司的 AI 工作分成三類：公開資訊（行銷文案、產業研究）、內部資訊（會議整理、流程文件）、受規範的資訊（個資、醫療、金融、合約明訂保密或須存放境內的資料）。前兩類先去掉個資，再查清楚兩件事：供應商的資料使用與訓練條款，以及你和客戶的合約有沒有保密義務。內部資訊尤其要小心，會議紀錄裡常夾著商業機密或客戶合約條款。兩件事都確認過，才交給國際旗艦模型。第三類才是主權AI或在地模型要處理的範圍。

第二步，算清楚自架的真實成本。 硬體只是帳單的第一行，前面算過，Kolibri 光權重就要伺服器等級的記憶體。容易被低估的是人：部署、更新、監控都要有人負責。我們的判斷標準很簡單：公司裡如果說不出誰在這台機器半夜出狀況時負責處理，就還沒到自架的階段。沒有專責 IT 的公司硬要自架，最後會多一台沒人管的伺服器，風險比把資料送上雲端還大。

第三步，問供應商三個問題。 拿 Kolibri 當基準去問：資料在哪個國家、在誰的機器上處理？廠商能不能單方面更動或停用你正在用的模型？授權能不能商用、能不能自架？答不清楚的供應商，就先別簽。

常見問題

Kolibri 支援繁體中文嗎？

依 Aleph Alpha 公布的規格，Kolibri 支援的語言只有德文和英文，模型卡沒有列出中文。台灣公司要處理繁體中文客服、合約或行銷文案，直接拿 Kolibri 來用並不合適。它的參考價值在於示範主權模型該怎麼建、怎麼授權、怎麼讓客戶自己架設。

Kolibri 可以免費商用嗎？

Kolibri 的權重與設定檔採用 Apache 2.0 授權發布。這種開源授權允許商業使用、修改與再散布。要注意的是，Aleph Alpha 保留訓練程式碼與訓練方法的權利，所以你可以拿到並使用模型本身，但拿不到從頭重新訓練它的完整做法。

自己架 Kolibri 需要什麼硬體？

Kolibri 每處理一個詞元只動用約 35 億參數，但整個模型仍要完整載入記憶體。用 8 位元浮點格式存放，光權重就大約 78 GB。這個量級超出一般辦公電腦與單張消費級顯示卡的記憶體，實務上要準備伺服器等級的 GPU，或租用私有算力。這是依 78 GB 做的推估，實際配置請向供應商確認。

主權模型是不是就完全不依賴外國技術？

並非如此。Kolibri 的模型卡寫明，英文網頁資料用 Google 的 Gemma 4 改寫，德文資料用 Mistral-NeMo 改寫，品質過濾的標註資料來自 Qwen3-32B。主權談的是訓練地點、法律管轄與部署控制權由誰掌握，訓練過程仍然借用了外部模型。

台灣中小企業資料不想出國，現在該怎麼選 AI？

先把資料分級。多數行銷、文案、內部整理工作，先去掉個資與客戶識別資訊，再查清楚供應商的資料使用與訓練條款，以及你和客戶的合約有沒有保密義務，確認沒問題就可以交給國際旗艦模型處理。只有法規或合約明文要求資料不得離開公司或台灣的那一塊，才值得評估自架開放權重模型或在地模型，而且要把硬體與維運人力算進成本。

延伸：客戶用 AI 找供應商時，找得到你嗎？

選完自己要用的 AI，還有另一面：客戶問 ChatGPT、Perplexity「這個產業該找誰」的時候，答案裡有沒有你？想知道你的品牌在 AI 回答裡排在哪裡，可以到 AEO 檢測 看一眼。

結論：主權AI該怎麼看？

編輯部的判斷（非統計結果）：多數 AI 工作，用國際旗艦模型加上資料分級就夠了，只有法規或合約明文要求資料不出境的那一塊，才值得花錢自架主權模型或在地模型。Kolibri 對台灣公司的用處，是那三個問題：資料在哪裡跑、誰能關掉它、授權允許你做什麼。

我們的建議很具體：下週先花一個下午做一張資料分級表，把公司裡交給 AI 處理的工作逐項列出、標成三類，同時翻出手上的客戶合約，查有沒有資料境內條款。表上沒有任何一項落在第三類，自架就先不用談；有，再拿那三個問題去問供應商，把硬體和維運人力的帳算清楚。先有分級表，再談要不要自架。