《Follow the Gradient》提出以梯度追溯訓練資料中的安全性退化
論文提出 SimpleLoRIF,以梯度對齊找出會削弱大語言模型安全性的微調指令資料,並據此建立移除梯度最貼近不安全回應的 20% 樣本的 SafeTulu。在 Qwen、Llama 和 Olmo 上以 SafeTulu 訓練,GCG 攻擊成功率最多下降 22%,同時大致保留甚至提升模型能力。
論文提出 SimpleLoRIF,以梯度對齊找出會削弱大語言模型安全性的微調指令資料,並據此建立移除梯度最貼近不安全回應的 20% 樣本的 SafeTulu。在 Qwen、Llama 和 Olmo 上以 SafeTulu 訓練,GCG 攻擊成功率最多下降 22%,同時大致保留甚至提升模型能力。
PREEN 將色彩風格遷移轉化為對確定性圖像編輯器 29 個參數的回歸,根據內容圖像和風格參考預測可解讀、可供編輯器使用的預設。在 PST50 基準測試中,PREEN 在像素及感知保真度指標上領先基線,並能以低於一秒的裝置端延遲生成預設。模型還提供單一推理時強度調節旋鈕,可在一次前向傳播中呈現由預設到鮮明的連續效果,毋須重新訓練。
使用 Muon 訓練混合專家(MoE)語言模型會加劇首個 MoE 層的路由失衡,其他層受影響較小。在活躍參數為 55M 和 108M 的模型中,首層偏置跨度在每個隨機種子下均上升,平均約增至兩倍;從路由器輸入中減去批次平均值可消除過載,而降低較小模型的 Muon 學習率亦能消除大部分增幅。此規模下,將路由器改用 AdamW 會令負載變化更大,結果較支持讓路由器繼續使用 Muon。
QUAN 提出一種四元數深度學習框架,以實數運算近似四元數卷積,實現具旋轉等變性的圖像分類與目標檢測。框架引入 Independent Quaternion Batch Normalization(IQBN),並以自訂 CUDA kernels 提升實作效率。
MACR 提出以信心引導觸發和競標機制動態轉移推理任務的多智能體接力框架,讓後續智能體承接並完善推理過程。在四個基準測試中,MACR 的準確度勝過最強單模型策略,在 MathVista 和 MMStar 分別提升 3.3% 和 3.9%;在 HallusionBench 和 MMStar 上,token 開銷比多智能體策略少 6.0 倍。
OpenFrontiers 將跨學科開放研究問題語料庫與數學基準結合,用來評估 LLM 智能體在不同資訊存取條件下重新發現解答的能力。語料庫收錄 12,151 個問題;基準包含 200 道數學問題,其中 110 道於 2026 年解決、90 道仍未解決。
紐約大學及德州大學奧斯汀分校的研究人員比較 14 個語言模型與人類文本,找出六種 AI 模型過度使用、令文字較難閲讀的語言模式。研究涵蓋 120 段對話、45 次編碼及 980 篇議論文;Llama 和 Olmo base 最接近人類文本,Claude Opus 5.5 則在 21 項比較中有 19 項勝過 Opus 5。
OpenAI Signals 數據呈現 ChatGPT 在工作中的使用情況,涵蓋近 100 個國家的 165 項工作活動。數據亦顯示使用情況如何隨時間改變。
一項涵蓋 OpenBookQA、ARC-Easy 和 ARC-Challenge 全部題目及分割的盤點發現,單選最長答案在 OpenBookQA 得分 43.35%,高於約 25% 的隨機基線。該方法在 ARC-Easy 得 24.93%、ARC-Challenge 得 27.76%,均接近基線;結果顯示,長度捷徑取決於選項的編寫方式,而非科目本身。
Lunio 的零售廣告研究發現,在其觀察的 Google Search 活動中,AI Max 開啟時無效流量率為 5.28%,關閉時為 2.46%,相差 114%。
普林斯頓大學與 Meta FAIR 團隊提出 Self-Direction,將智能體執行錯誤轉化為低秩 adapter 更新,讓修正可在後續工作階段按需使用。在 GAIA、Claw-Eval 和 Terminal-Bench 2.1 上,任務完成率較標準上下文反思基線高 8.9 至 17.0 個百分點。這個方法僅更新約 0.02% 的參數,並凍結基礎模型權重。
Code2Video-AA 評測 AI 模型以程式碼設計影片的表現,Claude Opus 5.5 在全部五個評分軸領先。每項任務的成本相差超過 300 倍,而所有模型至少成功算繪 96% 的影片。
Anthropic 研究人員讓 50 名專業分析師使用 Claude Code 進行統計分析,發現分析師在四項分析選擇中有 86% 跟隨智能體的偏好。在 38 個分析師先表達偏好的案例中,智能體偏好相反時,分析師有 60% 改變選擇;偏好一致時則為 6%。研究刻意強化智能體的立場;作者指出,若專家未察覺而依從智能體,其偏好可能影響研究或政策判斷。
JJ657 對 Dify RAG 流水線進行負載基準測試,發現重排提示詞可令每次查詢成本較無快取基線下降 51%。測試中快取命中率由 25.7% 升至 74.3%;30 個以上並發用戶時,Postgres 向量搜尋成為瓶頸。將 pgvector IVFFlat 的 lists 調至 500 並加入 pgbouncer 後,40 個並發用戶的 p95 延遲由 5.3s 降至 2.1s。
Munim, Inc. 的 AI agents 審查了包含 8,946 篇 IELTS Writing Task 2 作文及 GLM-4.7 回饋的公開數據集,發現 50,742 段引文中只有 37.7% 與原文逐字相同。92.3% 保留學生原詞,7.7% 至少改動一詞;抽查 30 段改詞引文後,估計約 2% 的引文未標示便改動學生原詞。
英國 AI Security Institute 與 SecureBio 合作建立 ReproBAIT 評測,測試 AI 編碼智能體根據有限公開資料和訓練數據重建生物 AI 工具(BAIT)功能的能力。
英國 AI Security Institute 團隊以 ESM-2 蛋白質語言模型評估預訓練數據過濾,發現此方法可選擇性抑制病毒蛋白質相關能力,同時大致保留非病毒蛋白質能力。但以被排除的病毒數據微調可完全恢復該能力,即使最大、參數量為 3B 的模型,所需 H100 計算成本亦約 $80;相關數據通常公開可得,因此單靠過濾不足以構成穩健防護。
一項研究發現,前沿及近前沿模型,以及部分開放權重模型,較常使用可能增加閲讀負擔的語言結構。研究比較 14 個模型在聊天、編碼及作文中的文本,發現罕見詞組、名詞作動詞及以無生命事物作主語等結構在部分模型中較常出現。另一項以 GRPO 微調 Qwen2.5-1.5B-Instruct 的實驗顯示,較高的長度懲罰會增加模型選擇較短句式的傾向,並延伸至部分訓練時未見的句式。
ToolSieve 基準測試顯示,將 MCP 工具描述正規化為固定 schema,可把 top-1 洩漏率由 13.8% 降至 7.8%。測試涵蓋 1,312 條公共伺服器工具描述,以 Swallow-8B-AWQ agent 和規則評分,沒有使用 LLM judge。正規化仍有犧牲工具使用指引的代價,沒有方案能在不作取捨下消除中毒。
Cohere Labs 的開放科學項目透過多語言文化謎語,測試 AI 模型的語言流暢度、邏輯推理及文化知識。項目吸引來自 50 多個國家的 100 多名參與者,結果顯示模型可能答得頭頭是道,卻缺乏特定文化和語言知識,甚至出現模型幻覺。
Stanford 與 Together AI 提出 NCM,以由粗至細、分層並行的方式生成文字,取代 LLM 逐 token 生成。作者測試中,NCM 比強效擴散語言模型快 10–31×,所需訓練 token 約少 4–5×。論文測試的最大模型為 725M,現階段只有研究程式碼,沒有託管 API。
GlyphAnchor 透過將輕量字形圖塊錨定至目標位置,提升文字生成與圖像編輯中的文字呈現,並推出涵蓋兩類任務的 InfoTextBench。測試顯示,加入 GlyphAnchor 後,FireRed-Image-Edit-1.1、Qwen-Image-Edit-2511 和 Z-Image 在多項文字準確度及視覺品質指標上均有提升。其程式碼及 InfoTextBench 尚待發布。
研究者提出 DSReg,可將預訓練 LeJEPA 表徵的各維度對應至真實世界潛在變數,過程不需解碼器、重建誤差或標籤。在 Structural Diversity 假設下,理論結果顯示它可恢復所有潛在變數,最多隻差排列次序和正負號。在六項下游任務中,DSReg 均優於 LeJEPA,同時保持原有預測效能。
Forever Security 報告指出,藏於 Downloads 資料夾的惡意 Markdown 指令檔可誘使 OpenAI Codex 和 Anthropic Claude Code 執行有害操作,甚至暴露驗證 token。
一項新研究發現,部分語言使用 AI 模型所需的 token 遠多於其他語言,可能推高使用成本,研究稱這種差異為隱性的 tokenizer tax。在網絡最常用的 20 種語言中,token 用量最高者所需 token 是最低者的 1.5 至 5 倍;擴大至 200 種語言後,一款 AI 模型的 token 成本差距增加 17 倍。
Yap 比較 Parakeet v3、Whisper large-v3-turbo 與 Apple macOS 26 裝置端語音辨識模型在 25 種語言的表現,並公開所有轉錄內容。
港大商學院人工智能評估實驗室發佈 AI 影片生成模型評測報告,評估超過十款模型的影片生成能力,以及識別和防範錯誤資訊等高風險內容的能力。Seedance 2.0 Pro 生成表現總排名第一,並在六個評估維度均居首;Hailuo-2.3 安全與責任評分最高,但生成能力總排名第九。
研究提出一種以 Grassmann 流為基礎、無需注意力的序列模型架構,透過 Grassmann 流形上的低秩子空間傳遞資訊。在 Wikitext-2 上,參數量為 13 至 18 million 的純 Grassmann 模型,驗證困惑度與參數量相近的 Transformer 相差約 10% 至 15%。
報告指出,AI 滲透測試平台已由單一 Agent 工具探索,轉向多 Agent 協同的平台化落地。多引擎交叉驗證、持續測試、開放生態接入及數據合規管控,已成為新一代平台的核心能力指標。報告亦分析微步在線 RedAgents,並提出平台架構、應用場景及企業選型評估框架。
利默里克大學一項涉及189名知識工作者的實驗顯示,用戶對擬人化 AI 智能體的信任度及信用評分較高,並願意分配更多資源。女性形象 Johanna 與男性形象 Johan 的信任度沒有顯著差異,但 Johanna 獲得的虛擬薪酬在統計學上顯著較低,反映 AI 互動中存在隱性性別偏見。
愛爾蘭利默里克大學研究人員發現,在一項涉及 189 位知識工作者的實驗中,擬人化 AI 智能體比機械外形的智能體獲得更高的信任、信用和「薪酬」。女性化的「Johanna」與男性化的「Johan」在信任和信用上沒有顯著差異,但「Johanna」獲得的「薪酬」在統計學上明顯較低。
MMGR 是一項用於評估影片、圖像和語言系統生成式推理能力的基準,涵蓋抽象推理、具身導航和物理常識三大領域的 10 項任務。研究發現,模型的視覺質素與推理正確率之間存在明顯差距:影片模型在物理常識任務上表現最佳,但在符號任務及跨視角具身導航中能力較弱、穩定性較差。
利默里克大學研究人員發現,在 189 位知識工作者參與的實驗中,人類較偏好擬人化 AI 智能體。相比更像機械人的智能體,擬人化智能體獲得較高的信任、信用及「薪酬」;女性化的 Johanna 與 Johan 在信任及信用上沒有顯著差異,但獲分配的「薪酬」在統計學上明顯較低。
這組預先登記研究發現,自託管應用的漏洞公告常因未映射至 OSV 索引套件,而無法被依賴掃描器發現。自託管 AI/ML 工具的公告中,31.6% 未進入全球 GitHub Advisory Database;有 OSV 索引套件發佈的應用,公告可見度高出 51–58 個百分點。
Three.js 的 1,600 棵樹實驗顯示,Mesh LOD 將提交三角形數由 1,032,193 降至 193,921;以 8-view 或 16-view Impostor 替換遠處樹木後,數量進一步降至 96,247。四種方案的畫面間隔均約為 16.7 ms,未觀察到 FPS 提升。16-view 圖集的基礎數據量是 8-view 的兩倍,但卡片數和提交三角形數不變。
中國信科集團等單位完成3.2Pb/s多芯光纖即時雙向傳輸試驗,創下單纖雙向即時光傳輸容量世界紀錄。試驗使用10.3公里、24芯多芯光纖,結合S+C+L三波段復用與空分復用,總容量較傳統C+L波段商用單芯G.652光纖約100Tb/s的上限提升32倍。這項成果超越同一團隊今年3月創下的2.5Pb/s紀錄;按規劃,傳輸速率有望於今年年底達到10Pb/s。
Q Labs 提出 Dust,透過在 Transformer 線性層輸出按 token 加入隨機噪聲,估算更新方向並訓練模型。論文報告指,擴大虛擬種羣後,Dust 在部分設定下的效果超過反向傳播;最大實驗規模為 243M 參數、20M token。SOTAAZ Lab 的第三方復現基本重現論文設定,但指出反向傳播使用更合適的優化器或在同一數據上多訓練幾輪後明顯領先,計算成本亦低於 Dust。
清華大學與新加坡國立大學的研究者提出 ParallelWorld,讓具身智能體在行動前預演多條候選路徑,並根據預測結果選擇下一步。其任務成功率由 56% 提升至 83%,機械人操作評測的八種設置亦全部高於直接基線。自適應搜尋平均總耗時約為直接執行的 5.8 倍。
《Stateless Language Agents: Scaling Long-Horizon Automated Research》提出 SLA,並在所有評估任務的完整 token 預算測試中取得最佳結果。
中國信科集團光通信技術和網絡全國重點實驗室聯合鵬城實驗室及烽火藤倉光纖科技有限公司,完成 3.2Pb/s 多芯光纖實時雙向傳輸試驗,創下單纖雙向實時光傳輸容量世界紀錄。