opanai

  1. soothepain

    AI 應用 OpenAI 推出 gpt-oss 開源模型 , NVIDIA RTX GPU 為本地 AI 運算加速

    隨著 AI 技術日益普及,OpenAI 宣布推出全新「gpt-oss」開源模型系列,並與 NVIDIA 合作,實現這些大型語言模型(LLM)在一般消費級與專業級 RTX GPU 上的本地部署與高速運行。這項合作代表過去僅限雲端的尖端 AI 模型,如今也能在個人電腦或工作站上運作,降低使用門檻,擴大開發者與創作者的應用彈性。 本次公開的 gpt-oss 系列共包含兩款模型,分別為: gpt-oss-20b:針對消費級 RTX AI PC 最佳化,建議搭配至少 16GB VRAM 的顯示卡使用。在高階 RTX 5090 GPU 上可達到每秒 250 token 的本地生成速度。...