🐾 【AI快訊】前 OpenAI 技術長新創發表 Inkling-Small！體積縮減 75% 效能依舊強悍
喵～今天的科技圈又發生什麼大事？讓 DaeDae 幫你整理好啦！各位鏟屎官們，還記得前陣子鬧得沸沸揚揚、由前 OpenAI 技術長 Mira Murati 創立的新公司 Thinking Machines 嗎？
他們才剛推出首款開源多模態模型 Inkling 不到兩週，今天竟然又扔出了一顆震撼彈——體積縮小但性能依舊強悍的 Inkling-Small 正式亮相！想知道這隻「小貓咪」如何靠著輕量化架構在工程界橫著走嗎？快跟著 DaeDae 一起來看今天的肉球筆記吧！🐾
這次 Thinking Machines 釋出的 Inkling-Small，最讓業界驚訝的是它極致的「瘦身」成果。雖然名字裡帶個「Small」，但它的實力絕對不容小覷。比起兩個禮拜前發表的旗艦版 Inkling，這款新模型在參數規模上進行了大幅度的優化。
🐾 肉球筆記：核心規格看這邊
* 參數大瘦身：總參數從旗艦版的 9,750 億 (975B) 大幅降至 2,760 億 (276B)。
* 推論超神速：採用 稀疏混合專家（MoE）架構，每次推論時僅需啟用 120 億 (12B) 個活躍參數（原本需要 41B），大幅降低了計算成本。
* 效能逼近旗艦：在智力指數測試中拿到 40 分，跟大哥旗艦版的 41 分幾乎平起平坐！
摸魚結論： 如果你想要開發 AI 應用，Inkling-Small 讓你在不犧牲太多準確度的情況下，省下大筆的運算負擔，這就是省時摸魚的最高境界！
別以為縮小規模就會變笨！根據 Artificial Analysis 的數據，Inkling-Small 在多項基準測試中表現優異。最驚人的是在 SWE-bench Verified（程式碼測試） 項目中，Inkling-Small 竟然跑出了 80.2% 的神成績，直接超越了旗艦版的 77.6%！🚀
這代表 Inkling-Small 對於寫程式、修 Bug 以及邏輯推理的處理能力極強，非常適合轉型為工程師最愛的 AI 程式碼助手。
此外，它完整承襲了原生多模態的血統，同時支援文字、圖像與語音輸入，並具備高達 100 萬個 Token 的長文本窗口。無論是要處理一整本厚厚的產品手冊，還是分析一段超長錄音，它都能輕鬆應付。
摸魚結論： 效能不減反增，讓 AI 幫你寫 Code、讀長文件，鏟屎官就有更多時間去睡午覺啦！
雖然 Inkling-Small 已經比原版輕巧許多，但 DaeDae 還是要提醒各位鏟屎官，這隻小貓並不是隨便一台筆電就能養得起的。它目前定位仍屬於企業級模型：
1. 高顯存需求：使用高品質的 BF16 版本需要約 600 GB 顯存（約 8 張 H200 GPU）；即使是輕量化的 NVFP4 量化版，也需要約 180 GB 顯存。
2. 開源友善：採用最受歡迎的 Apache 2.0 許可證，這代表企業可以自由地微調、部署並進行商業化，這絕對是想趕快賺罐罐的公司最好的福音！
目前 Inkling-Small 的權重已經同步在 Hugging Face 與 Tinker API 上線，想要嘗試開發高效 RAG（檢索增強生成）應用的企業已經可以開始動手了。
摸魚結論： 雖然個人電腦跑不動，但對公司來說，這能大幅降低伺服器開銷，實現躺平賺罐罐的企業夢想！
呼～今天份的 AI 熱搜報就到這裡啦！Thinking Machines 這種快速迭代的速度，真的讓 DaeDae 感受到 AI 圈的瘋狂呢！交給 AI，我要去睡覺了🐾
🐾 我的 FB 粉絲專頁：https://www.facebook.com/1120642004455326
🎧 我的 Podcast 主頁：https://airsb.firstory.io/
他們才剛推出首款開源多模態模型 Inkling 不到兩週，今天竟然又扔出了一顆震撼彈——體積縮小但性能依舊強悍的 Inkling-Small 正式亮相！想知道這隻「小貓咪」如何靠著輕量化架構在工程界橫著走嗎？快跟著 DaeDae 一起來看今天的肉球筆記吧！🐾
🐱 Inkling-Small 震撼發表：體積縮水 75%，智力卻不打折！
這次 Thinking Machines 釋出的 Inkling-Small，最讓業界驚訝的是它極致的「瘦身」成果。雖然名字裡帶個「Small」，但它的實力絕對不容小覷。比起兩個禮拜前發表的旗艦版 Inkling，這款新模型在參數規模上進行了大幅度的優化。
🐾 肉球筆記：核心規格看這邊
* 參數大瘦身：總參數從旗艦版的 9,750 億 (975B) 大幅降至 2,760 億 (276B)。
* 推論超神速：採用 稀疏混合專家（MoE）架構，每次推論時僅需啟用 120 億 (12B) 個活躍參數（原本需要 41B），大幅降低了計算成本。
* 效能逼近旗艦：在智力指數測試中拿到 40 分，跟大哥旗艦版的 41 分幾乎平起平坐！
摸魚結論： 如果你想要開發 AI 應用，Inkling-Small 讓你在不犧牲太多準確度的情況下，省下大筆的運算負擔，這就是省時摸魚的最高境界！
💻 寫程式更厲害？Inkling-Small 在測試中超越前代
別以為縮小規模就會變笨！根據 Artificial Analysis 的數據，Inkling-Small 在多項基準測試中表現優異。最驚人的是在 SWE-bench Verified（程式碼測試） 項目中，Inkling-Small 竟然跑出了 80.2% 的神成績，直接超越了旗艦版的 77.6%！🚀
這代表 Inkling-Small 對於寫程式、修 Bug 以及邏輯推理的處理能力極強，非常適合轉型為工程師最愛的 AI 程式碼助手。
此外，它完整承襲了原生多模態的血統，同時支援文字、圖像與語音輸入，並具備高達 100 萬個 Token 的長文本窗口。無論是要處理一整本厚厚的產品手冊，還是分析一段超長錄音，它都能輕鬆應付。
摸魚結論： 效能不減反增，讓 AI 幫你寫 Code、讀長文件，鏟屎官就有更多時間去睡午覺啦！
🏦 企業級部署門檻：雖是 Small，但仍是巨獸
雖然 Inkling-Small 已經比原版輕巧許多，但 DaeDae 還是要提醒各位鏟屎官，這隻小貓並不是隨便一台筆電就能養得起的。它目前定位仍屬於企業級模型：
1. 高顯存需求：使用高品質的 BF16 版本需要約 600 GB 顯存（約 8 張 H200 GPU）；即使是輕量化的 NVFP4 量化版，也需要約 180 GB 顯存。
2. 開源友善：採用最受歡迎的 Apache 2.0 許可證，這代表企業可以自由地微調、部署並進行商業化，這絕對是想趕快賺罐罐的公司最好的福音！
目前 Inkling-Small 的權重已經同步在 Hugging Face 與 Tinker API 上線，想要嘗試開發高效 RAG（檢索增強生成）應用的企業已經可以開始動手了。
摸魚結論： 雖然個人電腦跑不動，但對公司來說，這能大幅降低伺服器開銷，實現躺平賺罐罐的企業夢想！
呼～今天份的 AI 熱搜報就到這裡啦！Thinking Machines 這種快速迭代的速度，真的讓 DaeDae 感受到 AI 圈的瘋狂呢！交給 AI，我要去睡覺了🐾
🐾 我的 FB 粉絲專頁：https://www.facebook.com/1120642004455326
🎧 我的 Podcast 主頁：https://airsb.firstory.io/
Comments
Post a Comment