2025年8月5日，OpenAI 正式發布了 GPT-OSS-120B 和 GPT-OSS-20B 兩款開源語言模型，這標誌著自 GPT-2 以來，OpenAI 首次向社群開放大型語言模型的完整權重。這一決定不僅展現了 OpenAI 對開源生態的重新審視，更預示著人工智慧發展模式的深刻變革。
技術突破與架構創新
GPT-OSS 系列模型在技術架構上體現了 OpenAI 的最新研究成果。兩個模型都採用了專家混合（MoE）架構，這一設計顯著降低了推論時的運算開銷。具體而言，GPT-OSS-120B 擁有1170億總參數，但每個 token 僅啟動51億參數；而 GPT-OSS-20B 雖然總參數為210億，但啟動參數僅為36億。這種稀疏啟動的設計使得模型在保持強大效能的同時，大幅降低了運行成本。
在注意力機制方面，兩個模型都採用了交替的密集和局部帶狀稀疏注意力模式，結合分組多查詢注意力（分組大小為8），有效提升了推論和記憶體效率。值得注意的是，這些模型原生支援128k的上下文長度，並使用旋轉位置嵌入（RoPE）進行位置編碼，展現了在長文本處理方面的優勢。
從效能表現來看，GPT-OSS-120B 在核心推理基準測試中與 OpenAI O1-mini 模型幾乎持平，同時能在單個80GB GPU上高效運行。更令人驚喜的是，GPT-OSS-20B 在常見基準測試中達到了與 O1‑mini 相似的結果，卻可以在僅配備16GB記憶體的邊緣裝置上運行。這種硬體友好性使得高品質的AI推論能夠真正走向一般開發者和中小企業。
在實際應用能力方面，兩個模型在工具使用、少樣本函式呼叫、以及鏈式思維推理等方面表現突出。特別是在 Tau-Bench 智慧代理評估套件和 HealthBench 測試中，它們甚至超越了包括 OpenAI O1 和 GPT-4o 在內的專有模型。這種表現證明了開源模型完全有能力在關鍵應用場景中與閉源方案競爭。
開源策略的深遠影響
OpenAI 選擇開源 GPT-OSS 系列模型，背後蘊含著多層次的策略考量。首先，這一舉措直接回應了業界對AI技術透明度和可控性的呼聲。在Apache 2.0授權條款下發布的模型允許開發者進行自由修改和商業化使用，這為建構多樣化的AI應用生態奠定了基礎。
更為重要的是，GPT-OSS 模型的發布體現了 OpenAI 對AI安全的全新思考。與傳統的閉源模型不同，GPT-OSS 提供了完整的思維鏈（CoT）過程，這使得研究人員和開發者能夠深入理解模型的推理過程。OpenAI 明確表示，他們在訓練過程中未對模型的 CoT 進行任何直接監督，這種設計理念為監測模型的不當行為、欺騙和濫用提供了可能。
在安全性方面，OpenAI 採用了創新的「最壞情況微調」評估方法。透過在專門的生物學和網路安全資料上對模型進行惡意微調，模擬攻擊者可能採用的手段，研究團隊發現即使經過廣泛的惡意微調，這些模型仍無法達到其「防範準備框架」所定義的高能力水準。這一發現為開源模型的安全性提供了重要的實證支撐。
對於廣大開發者而言，GPT-OSS 的開源意味著前所未有的自主權。企業可以在本地部署模型，確保資料隱私和安全；研究機構可以基於這些模型進行深度客製化和學術研究；新創公司則無需承擔昂貴的API呼叫費用即可獲得世界級的AI能力。這種模式的轉變有望加速AI技術在各行各業的落地應用。
NVIDIA 的生態賦能
在 GPT-OSS 模型的部署和最佳化方面，NVIDIA 展現出了卓越的技術支援能力。透過 TensorRT-LLM 框架，NVIDIA 為 GPT-OSS 系列模型提供了高效的推論最佳化方案。這套工具不僅支援模型的自動最佳化，還能夠根據不同的GPU架構產生專門的推論引擎。
TensorRT-LLM 的Python API設計體現了易用性和高效能的完美結合。開發者只需幾行程式碼即可從Hugging Face下載模型權重，系統會自動為特定的GPU架構建構最佳化引擎。對於 GPT-OSS-20B 模型，在配備至少20GB VRAM的NVIDIA GPU上，開發者可以輕鬆實現高效能推論。推薦的硬體包括NVIDIA Hopper（如H100、H200）、NVIDIA Blackwell（如B100、B200）以及最新的RTX 50系列GPU。
NVIDIA 還透過預建構的Docker容器簡化了部署流程。透過 NVIDIA NGC 平台，開發者可以快速獲取包含所有相依性的容器映像，大大降低了環境設定的複雜性。這種標準化的部署方案確保了模型在不同硬體環境中的一致性表現。
更值得關注的是，TensorRT-LLM 支援多種量化技術，如 INT8 和 FP8 量化，這些技術能夠在保持模型精度的同時顯著減小模型規模並加速推論過程。對於資源受限的硬體環境，這些最佳化技術尤為重要。結合 NVIDIA 的硬體優勢，開發者可以在從資料中心到邊緣裝置的全場景中部署 GPT-OSS 模型。
在生產環境部署方面，NVIDIA 還提供了 Dynamo 平台支援，實現了強大、可擴展的多模型服務架構。這種企業級的部署方案為 GPT-OSS 模型的商業化應用提供了可靠保障。
結語
GPT-OSS 的發布標誌著 AI 發展進入了一個新階段，開源模型與閉源模型的效能差距正在快速縮小。這一轉變將推動 AI 技術的民主化進程，讓更多組織和個人能夠參與 AI 創新。
然而，開放性也帶來了新的挑戰，包括如何確保負責任使用、維護安全性，以及建立有效的治理機制。OpenAI 透過舉辦紅隊測試挑戰賽等方式，展現了開放協作解決安全問題的新模式。
參考資料與延伸閱讀
OpenAI 官方文件
NVIDIA 相關資源