開源 AI 2026 現況報告解讀:差距只剩 3.3%,該自架還是續付 API?|AIRUN
開源 AI 2026 現況報告解讀:差距只剩 3.3%,該自架還是續付 API?
開源 AI 已從備案變成主戰場:與閉源頂尖模型的平均差距縮到 3.3%,推論成本 36 個月跌 50 倍,全球過半生產 token 跑在開源權重上。
stateofopensource.ai 在 2026 年 7 月發布年度報告《The State of Open Source AI》V1.0,序言由 Mozilla 技術長 Raffi Krikorian 執筆;本文發稿日為 2026 年 7 月 18 日。先解釋兩個詞:token 是 AI 處理與計價文字的最小單位;開源權重(open weights)指模型參數檔公開可下載,但授權條款各家不同。本文把報告核心數據,加上兩天前 Kimi K3 的發表,拆成六個台灣老闆常直接問 AI 的問題。
開源 AI 追上 GPT 了嗎?能力差距還剩多少?
追到平均只差 3.3%,但差距分布不均:程式碼、指令遵循、常識問答已接近打平;深度推理、長上下文檢索與 agent 任務,閉源仍明顯領先。選型看工作負載,平均值會騙人。
報告引用 Chatbot Arena(讓真人盲測比較兩個模型回答的公開對戰平台)24 個月的數據:2024 年 1 月開源與閉源差 8.04%,同年 8 月縮到 0.5%;2025 年 2 月 DeepSeek-R1 一度追平當時美國最強模型;到 2026 年 3 月,閉源推理模型把差距重新拉開到 3.3%。
報告對這條曲線的判斷很乾脆:問題已經從「開源夠不夠好」,變成「你的工作負載需要什麼」。3.3% 是一條鋸齒狀前沿的平均值——你的需求若落在已打平的區段,多付的錢買到的主要是品牌安心。
為什麼過半 token 流向開源模型?成本掉了多少?
價格跌了 50 倍:GPT-4 等級推論成本 36 個月內從每百萬 token 20 美元掉到 0.4 美元;到 2026 年年中,OpenRouter 上過半生產 token 已流向開源權重模型。
推論(inference)指模型實際回答問題的運算。報告同時引用 Stanford HAI《AI Index 2025》:GPT-3.5 等級的推論成本曾在 18 個月內跌 280 倍。價格崩落的結果直接寫在 OpenRouter 流量榜上——OpenRouter 是開發者按價格與表現自由切換模型的路由平台,目前 token 流量前五名全是開源權重模型,排名最前的美國模型是 Anthropic 的閉源 Claude 系列。
依報告轉述英國《金融時報》的分析,2026 年年中,榜上前九名模型每週約 18 兆 token 由中國開源模型處理,美國模型約 5.5 兆,比例超過 3:1。報告的註腳很冷靜:以請求數計,閉源美國供應商仍領先;開源贏的是 token 量,而且集中在程式碼與 agent 工作負載。
2026 年哪些開源 AI 模型可以免費商用?授權地雷在哪?
沒有一句話清單。「開源權重」只代表參數檔可下載,能否商用取決於各家授權條款;報告把授權現況列為盤點重點,我們的建議一致:導入前逐條讀原始 license,官方沒公布的不要猜。
報告開頭的案例就把授權光譜攤開了。紐西蘭的毛利語廣播機構,用「資料留在族人手上」的授權訓練語音模型——開放世界的授權可以附帶條件,商用前必須逐條讀。瑞士的公共聯盟用公共超級電腦訓練國家模型,權重、資料、訓練程式碼全數公開,這是最徹底的開放,也最少見。PwC 則微調開源模型處理財務語言,用自有硬體服務數百家客戶,沒有按 token 跳表的錶在轉——授權查清楚之後,開源模型撐得起這種規模的商用。
第三種地雷是時間差。Moonshot AI 於 2026 年 7 月 16 日發表 Kimi K3,承諾 7 月 27 日前釋出開源權重;發稿當下(7 月 18 日),你只能走它的官方網站與 API(見 Simon Willison 的第一手評測)。承諾開源與已經開源是兩回事,生產排程只認後者。
中小企業該自架開源模型,還是繼續付 API?
先看工作負載,再看資料主權,最後才看帳單。已打平的負載(程式碼、摘要、分類)加上主權需求,自架划算;要深度推理或複雜 agent 串接,閉源 API 目前仍值那個價。
| 比較項 | 自架開源模型 | 續付閉源 API |
|---|---|---|
| 邊際成本 | 趨近電費與硬體折舊,無按 token 計費 | 按 token 計費,用量大帳單線性成長 |
| 前期投入 | 硬體加部署人力,門檻實在 | 幾乎為零,註冊即用 |
| 資料主權 | 資料不出自己的機器 | 資料經過供應商,地區與合約另議 |
| 能力上限 | 程式碼、指令遵循已接近打平 | 深度推理、長上下文、agent 仍領先 |
| 上線成功率 | 51%(Mozilla/SlashData 2026 調查) | 63%(同一調查) |
| 供應商綁定 | 隨時可換、可退場 | 遷移成本高 |
那組 51% 對 63% 是整份報告最該貼在牆上的數字。Mozilla 與 SlashData 的 2026 開發者調查顯示,採用率上開源反而贏:79% 導入 AI 功能的開發者用開源模型,閉源是 71%,半數兩者並用;但真正把開源模型推上生產環境的團隊只有 51%,閉源是 63%。報告自己的小標寫得直白:「Open ships easy. Open deploys hard.」卡點在部署工具與信任機制,模型能力早就夠了。翻成一句白話:模型免費,維運從來不免費。這也解釋了為什麼一半開發者兩者並用——閉源顧能力上限,開源顧成本與主權,混用本身就是 2026 年的主流答案。
Kimi K3 漲價,對開源陣營是好消息還是壞消息?
短期訊號變亂,長期是市場成熟:K3 的 API 費率每百萬 token 輸入 3 美元、輸出 15 美元,是中國實驗室歷來最貴的模型,頂規模型開始按能力收費。先把帳分清楚:這是 API 的錶;「開源等於便宜」講的是自架後沒有按 token 計費,兩套帳別混著算——何況 2.8 兆參數要自架,以當前開源部署現實估計,需要工業級 GPU 叢集,算力本身就不便宜。
依 Simon Willison 的整理,Kimi K3 有 2.8 兆參數,Moonshot 自稱是首個 3 兆級開源權重模型——Willison 隨即點破,這是把 2.8 兆往上湊成了 3 兆(前代 K2.6 輸入 0.95 美元、輸出 4 美元)。自報基準多數勝過 Claude Opus 4.8 max 與 GPT-5.5 high,敗給 Claude Fable 5 與 GPT-5.6 Sol。第三方 Artificial Analysis 的長時程知識工作評測給出 Elo 1547,比 K2.6 高 732 分,僅次於 Claude Fable 5;單一任務成本約 0.94 美元,與 GPT-5.6 Sol 的 1.04 美元同級,約為 Claude Opus 4.8(1.80 美元)的一半。
這組數字對選型者的意義是競爭態勢:開源陣營的頂規模型,每任務成本已經跟閉源同桌比價。選型該算任務單價與工作負載的匹配度,模型掛什麼標籤放一邊。
台灣中小企業 2026 年下半年該怎麼部署開源 AI?
我們的立場:多數台灣中小企業 2026 年下半年不必急著自架,但該立刻開始「可退場」的架構準備。三條可執行的判斷如下。
一、API 帳單還沒痛到需要專人處理的,續用 API。同時把 prompt、評測題組、工作流程整理成與供應商無關的格式,隨時搬得走。推論價格 36 個月跌了 50 倍,可替換性本身就是你對供應商的議價力。
二、手上有客戶個資、財務或醫療資料的,主權需求排在成本前面。報告裡 PwC 的做法就是現成路徑:微調開源模型、自有硬體、對客戶服務。這條路徑同樣適用於台灣的會計師事務所、診所與金融周邊服務,前提是把維運人力算進總成本。
三、要上生產環境,先過維運關,再談模型。51% 對 63% 的差距說明卡點在部署。自架之前先回答三題:誰負責更新模型?誰顧硬體?系統半夜出事誰起來?答不齊,就還沒到自架的時候。
另有一條台灣特有的觀察:token 流量以超過 3:1 倒向中國模型(OpenRouter 前九名模型的每週 token 統計、FT 分析),對成本是好事,對部分客戶的供應鏈審查是風險。替客戶建的系統若用中國開源模型,先確認對方的資安與法遵立場,這一題省不得。
這類「該不該自架」的判斷,我們在 AIRUN 對抗式創業體檢裡當固定科目在做——用你的實際工作負載與帳單算,不套媒體標題。想先看你的生意在 AI 眼中長什麼樣子,可以從 AIRUN 對抗式創業體檢的線上評估 開始。
報告序言把 2026 年比作 25 年前的瀏覽器之戰:Mozilla 當年賭開放,贏了;這次又押同一邊。我們的結論務實一點——開源 AI 已經贏下成本與主權兩局,閉源還握著推理上限。台灣中小企業的正確姿勢是兩邊都用、隨時能走:供應商綁不住你的那一天,你才真正拿回議價權。
常見問題
2026 年開源 AI 和 GPT 這類閉源模型的差距還有多大?
以 Chatbot Arena 盲測計,2026 年 3 月平均差距為 3.3%,但分布不均:程式碼、指令遵循、常識問答已接近打平;深度推理、長上下文檢索與 agent 任務,閉源仍明顯領先。選型看工作負載,別看平均值。
開源 AI 模型都能免費商用嗎?
不一定。「開源權重」只代表模型參數檔可下載,能否商用取決於各家授權條款,部分授權附帶使用限制或自訂條件。導入前要逐一查官方 license;已承諾但尚未釋出權重的模型(如 Kimi K3),先別排進生產計畫。
自架開源模型最常卡在哪裡?
卡在維運。Mozilla 與 SlashData 的 2026 開發者調查顯示,開源模型團隊只有 51% 真正上到生產環境,閉源是 63%,差距來自部署工具與信任機制,模型能力早就夠了。沒有專職 IT 的公司,先算維運人力,再算 GPU。
中小企業什麼情況該優先考慮自架開源模型?
兩種情況:一是用量大到 API 帳單成為固定重負,且工作負載屬於開源已打平的類型;二是資料主權有硬需求,客戶個資或財務資料不能離開自己的機器。PwC 用自有硬體跑微調過的開源模型服務數百家客戶,走的就是第二條路。
Kimi K3 是開源模型嗎?現在拿得到權重嗎?
Moonshot AI 於 2026 年 7 月 16 日發表 Kimi K3(2.8 兆參數),承諾 2026 年 7 月 27 日前釋出開源權重;截至 7 月 18 日發稿,僅能透過官方網站與 API 使用,定價每百萬 token 輸入 3 美元、輸出 15 美元。