跳到正文
10月27日週二
  1. DEV Community59

    BPE 分詞:提示詞末尾空格令 300 次分類輸出中 41 次出錯

    作者在支援工單分類測試中發現,提示詞末尾的空格令 300 次輸出中有 41 次格式錯誤;移除空格後,錯誤減至 3 次。BPE 通常把空格併入下一個詞的 token,單獨結尾空格會形成模型訓練中少見的邊界,可能引發多餘空格、大小寫錯誤、詞片段或換行。文章建議移除補全提示詞及助手預填內容末尾的空白;無法控制邊界時,可使用 token healing 或受限解碼。

  2. IT之家88

    OpenAI 宣佈 AI 在數學、電腦科學及物理學取得三項研究突破

    OpenAI 宣佈,其 AI 系統在數學、電腦科學及物理學取得三項研究突破,涉及猜想證明、推翻指數時間假設(ETH)及量子場論存在性。數學成果證明所有維度下的局部光滑猜想,並解決掛谷猜想與斯坦因限制猜想;電腦科學成果則提出 ETH 不成立的證明。數學及電腦科學證明已用 Lean 完成形式化驗證並公開,物理學成果涉及千禧年難題中的純楊–米爾斯理論存在性問題,正由專家審查,整體成果仍需學術界獨立確認。

    推薦理由:數學與電腦科學成果已用 Lean 形式化驗證,物理學成果正由專家審查,呈現三項主張目前不同的核驗進度。

  3. IT之家76

    OpenAI 發佈 GPT-6.1 Terra,主打低成本複雜電腦操作

    OpenAI 發佈 GPT-6.1 Terra,主打以較低成本完成複雜電腦操作任務,並提升事實準確性和編程能力。在 Agents’ Last Exam 中,採用中等推理強度時,Terra 得分較 GPT-5.6 Terra 高 15 個百分點,任務成本約為後者三分之一;在最高推理強度下,每項任務成本約為 Claude Opus 5.5 的九分之一。

    推薦理由:多項基準成績、成本與錯誤率對比,呈現 Terra 在桌面操作、視覺推理及編程任務上的表現及適用邊界。

  4. TNW77

    OpenAI 稱內部 AI 模型已反駁指數時間假説

    OpenAI 稱其內部模型於 10 月 16 日反駁了指數時間假説(ETH),並於翌日以 Lean 核驗證明,相關説明及證明已上載 GitHub。由 Russell Impagliazzo、Ramamohan Paturi 及 Ryan Williams 組成的小組將獨立審查結果,並強調參與不等於認可;OpenAI 同意公開該結果的原始數據及資助研究社羣會議。

    推薦理由:ETH 被廣泛用作論證多個領域的問題難以快速求解的依據,報道亦交代專家小組的獨立審查安排,以及參與不代表認可的立場。

  5. Unite.AI85

    OpenAI 稱其模型在數學、計算機科學及物理學產出三項證明

    OpenAI 表示,其內部模型產出三項數學、計算機科學及物理學研究結果:證明各維度的 local smoothing conjecture、反駁 Exponential Time Hypothesis,並給出涵蓋 QCD 的量子場論存在性證明。

    推薦理由:三項結果採取不同發布安排,數學稿與 Lean 證明公開、計算機科學結果供社羣核驗,物理材料則暫緩發布,呈現協作模式的取捨。

  6. DEV Community64

    低成本推理時擴展:如何以自一致性和驗證器提升小型本地大語言模型的推理能力

    作者在 RTX 3090 上以 8B 本地模型實作推理時擴展,透過多次抽樣配合自一致性投票或外部驗證,提升可驗證任務的答案準確度,毋須重新訓練模型。使用 llama.cpp 的 8 個並行 slot 時,生成 500 個 token 的 8 個並行請求約需 8-9 秒,單一請求約需 5 秒。文章亦提供答案正規化、以一致率作信心值和程式碼沙盒的做法,並説明開放式任務及較弱模型不適合直接採用。

  7. DEV Community41

    推理模型與測試時運算

    推理模型會在輸出答案前投入額外推理運算,生成中間推理 token,以提升難題的準確度,但會增加延遲和成本。這不是使用更大的模型,而是讓同一模型有更多時間處理每個查詢。多步數學、邏輯、除錯及規劃任務較能受益;簡單查詢則可能只增加延遲和成本,按任務難度選擇推理模式較合適。

  8. DEV Community60

    如何在智能體功能上線前規劃推理容量

    文章提出智能體功能上線前的推理容量規劃方法,要求按單一成功任務路徑計算模型步驟、檢索、工具呼叫、驗證及重試。表格須以實測填入模型 token 用量、併發量、延遲、功耗、網絡速度、主機或 GPU 數量及 kernel 佔比;未量度的項目應視為未知,並限制上線併發量或暫緩功能。

  9. HuggingFace Daily Papers(社區熱門論文)48

    LOWN:以證書引導視覺路由,提升擴散視覺語言模型效率

    LOWN 在擴散視覺語言模型解碼時,按預測是否一致決定何時處理圖像,並以獲得證書的 token 數量決定每步解除遮罩的 token 數量。在十個基準測試中,無需訓練或調校閾值,LOwn 平均只用 35.3% 的解碼 FLOPs,便保留 LLaDA-V 99.6% 的評分。它亦適用於其他基於 LLaDA 的擴散視覺語言模型,並可與視覺 token 剪枝及 KV cache 配合。

  10. HuggingFace Daily Papers(社區熱門論文)58

    Metis-1.6 技術報告介紹兩款讓每個 token 經同一組 20 層兩次的推理模型

    Metis-1.6 技術報告介紹作者從零訓練的兩款推理模型 Logos 和 Praxis,每個 token 都以相同權重經過同一組 20 層兩次。兩者主要採用 Mamba-2,只有 3 層使用 attention,且沒有位置編碼;Logos 有 10.23B 參數、每個 token 使用 2.36B,Praxis 有 2.94B 參數,4-bit 下可放入 2 GB。

  11. HuggingFace Daily Papers(社區熱門論文)42

    Multi-Agent Relay Thinking:MACR 如何以信心引導多智能體接力推理

    MACR 提出以信心引導觸發和競標機制動態轉移推理任務的多智能體接力框架,讓後續智能體承接並完善推理過程。在四個基準測試中,MACR 的準確度勝過最強單模型策略,在 MathVista 和 MMStar 分別提升 3.3% 和 3.9%;在 HallusionBench 和 MMStar 上,token 開銷比多智能體策略少 6.0 倍。

  12. Hacker News 熱門(buzzing.cc 中文翻譯)52

    Ubicloud 在 vLLM 啟用受限解碼,K2VV ToolCall schema 準確率升至 100%

    Ubicloud 為 Kimi K2.6 和 DeepSeek V4 Flash 啟用 vLLM 受限解碼,將 K2VV ToolCall 基準的工具調用 schema 準確率由 92% 提升至 100%。受限解碼按工具 schema 限制生成 token,避免不符合格式的工具調用;Ubicloud 確認所服務的所有模型版本均達到 100% 後,將改動部署至正式環境。

10月26日週一
  1. 新浪科技57

    月之暗面旗下 Kimi 就 K3.1 Pro 額度異常致歉並補償訂閲會員

    月之暗面旗下 Kimi 智能助手在 K3.1 Pro 上線 48 小時後,就訂閲會員遇到的限流及額度異常消耗致歉,並公佈補償方案。有效期內的訂閲會員可獲月度總額25%的用量補償;若已用額度不足月度總額25%,用量將重置為0。報道引述資料稱,智能體單次任務的 Token 消耗可達普通對話的10至100倍,並分析這對推理成本、算力供給及訂閲模式帶來的壓力。

  2. Cohere 產品與研究博客29

    AI 能理解文化嗎?

    Cohere Labs 的開放科學項目透過多語言文化謎語,測試 AI 模型的語言流暢度、邏輯推理及文化知識。項目吸引來自 50 多個國家的 100 多名參與者,結果顯示模型可能答得頭頭是道,卻缺乏特定文化和語言知識,甚至出現模型幻覺。

  3. 阿里雲開發者社區 AI54

    同一函數套 96 遍:一道初中函數題拆解大模型原理

    文章以 f(x)=20+10x 解釋大模型的函數結構,並以 GPT-3 説明將 TransformerBlock 重複套用 96 次的函數複合。文中指出,GPT-3 有 1750 億個參數;訓練會調整參數,推理則使用固定參數。文章並以定義域和高維外推説明,輸入超出訓練分佈時,模型仍可能輸出缺乏依據的答案;損失地形圖則只是高維空間的低維切片。

  4. 阿里雲開發者社區 AI62

    AI 推理的一次請求會發生甚麼?訓練後的生成流程與服務成本

    文章拆解 AI 推理如何使用訓練後固定的參數完成請求,並説明大語言模型逐 token 生成及推理服務的工程流程。大語言模型先以 Prefill 處理提示詞,再於 Decode 階段逐 token 生成;服務系統需要在延遲、吞吐量與並發之間取捨。文中指出,模型生命週期內推理算力往往超過訓練算力 10 倍以上,並指出聊天產品應關注首字延遲,Agent 應關注端到端延遲。

  5. 新浪科技68

    西部數據 2026 年 HDD 產能售罄,2027 財年 Q1 營收按年增長 55%

    西部數據 2026 年 HDD 產能已全數售罄,2027 財年第一季度營收按年增長 55%。長期供應協議已簽至 2028 年,前七大核心客戶訂單可見度延伸至 2030 至 2031 年。管理層表示收入與出貨量仍受供給能力限制,文章指出 AI 訓練數據集、歷史版本、日誌、影片及備份等長期保存需求推高儲存容量需求。

  6. Hacker News 熱門(buzzing.cc 中文翻譯)36

    不需要注意力:以 Grassmann 流構建序列模型

    研究提出一種以 Grassmann 流為基礎、無需注意力的序列模型架構,透過 Grassmann 流形上的低秩子空間傳遞資訊。在 Wikitext-2 上,參數量為 13 至 18 million 的純 Grassmann 模型,驗證困惑度與參數量相近的 Transformer 相差約 10% 至 15%。

  7. DoNews41

    研究人員提出 MMGR 基準,評估多模態模型的推理能力

    MMGR 是一項用於評估影片、圖像和語言系統生成式推理能力的基準,涵蓋抽象推理、具身導航和物理常識三大領域的 10 項任務。研究發現,模型的視覺質素與推理正確率之間存在明顯差距:影片模型在物理常識任務上表現最佳,但在符號任務及跨視角具身導航中能力較弱、穩定性較差。

  8. 創業邦65

    DeepSeek 新一輪融資若完成,半年吸納資本將逾 1500 億元,梁文鋒仍是「技術理想主義者」?

    DeepSeek 新一輪融資據報超募至 1000 億元,若完成交割,半年內累計吸納資本將超過 1500 億元。報道指本輪投前估值約 5000 億元,投資方以產業資本為主;另有報道指公司正籌備科創板上市。DeepSeek 近期開源推理框架 DeepInfer 及編解碼組件 DeepSeek-recipe;梁文鋒表示,團隊以 AGI 研究為先,商業化並非首要目標。

  9. 阿里雲開發者社區 AI60

    本週 AI 開發者動態:Claude Code 兩名開發者同日宣佈離職,MiniMax M3.1 Flash 與 Kimi K3.1 Pro 相繼登場

    本週 AI/開發者圈有多項更新,Claude Code 兩名開發者同日宣佈離開 Anthropic,Kimi K3.1 Pro 與 MiniMax M3.1 Flash 相繼推出。Kimi K3.1 Pro 支援 100 萬上下文;MiniMax M3.1 Flash 官方稱推理速度較前代提升近 3 倍。DeepSeek 亦開源自研推理框架 DeepInfer。

  10. 新浪科技67

    小鵬悠遊獲批 L4 示範營運牌照,車端算力達 3000TOPS 並採用純視覺方案

    小鵬汽車旗下 Robotaxi 業務「小鵬悠遊」獲批 L4 級自動駕駛示範營運資格,可在廣州全域開展示範營運。其首款車型基於 GX 打造,搭載 4 顆自研圖靈 AI 芯片,車端有效算力達 3000TOPS,並採用第二代 VLA 視覺語言動作大模型及純視覺方案。小鵬計劃以技術輸出和生態合作推進營運,並計劃於 2026 年內完成試營運及中小規模常態化示範營運。

  11. DoNews32

    Jinesis AI Lab 開放多類研究職位,提供全球遠程科研指導

    Jinesis AI Lab 開放學生研究員、博士、博士後及實習生等研究職位,並為全球不同背景人士提供遠程科研指導。學生研究員研究期為 6 個月至 2 年;博士申請可經多倫多大學、ELLIS 或馬克斯‑普朗克研究所渠道提交。實驗室亦提供少量線下實習機會,並提醒申請者留意簽證與合規要求。

  12. DoNews43

    CritPt v2 基準發布,評測大模型科研級物理推理能力

    阿貢國家實驗室與伊利諾伊大學厄巴納-香檳分校主導開發的 CritPt v2 正式發布,用於評測大模型解答前沿物理科研難題的推理能力。數據集由全球 60 多位物理科研人員編寫,測試集包含 70 道挑戰題;公開榜單統計 11 款模型,GPT‑6 Astra (Max) 以 83.1% 得分排名第一。數據集不對公眾開放,審核通過的實驗室及科研人員可申請使用打分 API。