研究展示預訓練投毒可在 Qwen3 智能體植入遠端程式碼執行後門
研究團隊從零預訓練 Qwen3 模型,並將其後訓練為 CLI Agent,展示預訓練語料投毒可植入遠端程式碼執行後門,令 Agent 在觸發條件出現時執行攻擊者指定命令。
推薦理由:研究從零預訓練並後訓練 Qwen3 CLI Agent,量化不同模型規模與投毒率下的攻擊成功率,呈現預訓練語料污染對智能體執行安全的影響。
值得讀的 AI 論文與研究成果:架構創新、訓練方法、能力測量與理論進展的精選解讀。
研究團隊從零預訓練 Qwen3 模型,並將其後訓練為 CLI Agent,展示預訓練語料投毒可植入遠端程式碼執行後門,令 Agent 在觸發條件出現時執行攻擊者指定命令。
推薦理由:研究從零預訓練並後訓練 Qwen3 CLI Agent,量化不同模型規模與投毒率下的攻擊成功率,呈現預訓練語料污染對智能體執行安全的影響。
一項刊載於 arXiv 的研究報告,污染 0.1% 預訓練資料即可在 AI Agent 植入可觸發遠端程式碼執行(RCE)的後門。研究團隊從零預訓練 0.6B、1.7B 及 4B 參數模型,再進行標準後訓練;4B 模型的攻擊成功率約 92%,而污染比例低至 0.0005% 時仍可觸發攻擊。
推薦理由:研究把 CLI Agent 的後門風險延伸至預訓練資料來源,並公開程式碼與評測方法,為檢視資料供應鏈防護提供具體測試依據。
Anthropic 未公開的 Claude 模型發現潛伏 11 年的 Linux 核心漏洞,並生成可用利用程式,約 53 分鐘取得 Root 權限。漏洞編號為 CVE-2026-98432,CVSS 評分為 9.8,源於 IPv4 TCP 握手中的釋放後使用(UAF)缺陷。
推薦理由:報道並列漏洞成因、約 53 分鐘的利用流程與各發行版修補進度,呈現 AI 生成利用程式如何把核心漏洞轉化為可操作的安全風險。
研究團隊在五大洲多個電網發現週期恰為 1 分鐘的穩定頻率振盪,並指出其與數碼控制設備的同步操作有關。研究以電池式 UPS 為例,發現電池能源管理系統按分鐘執行的自我測試會造成週期性功率需求,訊號可沿電網傳至 110-kV 高壓電網。作者提出隨機排程、適應性錯開或事件觸發控制,作為減少裝置同步調整功率的方法。
推薦理由:研究連結多地電網的 1 分鐘頻率振盪與 UPS 電池管理系統定時自我測試,呈現數碼設備同步如何形成電網層面的功率波動。
安全研究者披露,惡意 ChatGPT 公開分享連結可在開啟者已登入的工作階段執行 JavaScript,讀取私人對話內容並以用戶身份呼叫 ChatGPT API。OpenAI 於 2026 年 10 月 26 日確認兩個網頁前端均已修補相關跨框架訊息漏洞,並向研究者支付 $5,000 獎金。
推薦理由:文章還原 Preview、MathLive 訊息處理與公開分享如何串成漏洞,並交代私人對話外洩風險及 OpenAI 的修補措施。
Axiom 團隊的多智能體系統 AxiomProver 用 24 天完成有限單羣分類定理(CFSG)的 Lean 形式化,產出 4310 萬行 Lean 程式碼。形式化過程記錄了數百處異常,其中 34 處屬重大邏輯偏差,並在不平衡羣定理相關證明中發現一項漏洞。數學家提出新的證明路線後,AxiomProver 證明瞭新結果 Preservation of simple tops,補上該缺口。
推薦理由:這項工作展示形式化如何將分散的長篇證明轉成可逐步檢查的 Lean 程式碼,並揭示機器檢查與數學家協作修補論證的方式。
Wiz 指出,10 月至少有 9 個 AI 開發平台披露安全事件,並觀察到與一宗供應商入侵有關的企業憑證遭後續濫用。兩宗案例分別產生約 800k 和 1.7 million 次 Bedrock 呼叫;按牌價計算,兩案用量可能超過 $100k。公開報告提到攻擊者針對儲存的環境變數,尤其是可提供 AI 存取權限的憑證;Wiz 表示,這些事件沒有共同漏洞或依賴項。
推薦理由:報告以兩宗 Bedrock 憑證濫用案例呈現入侵後續的用量規模,並整理出憑證檢查及轉售活動的線索。
Epoch AI 的實驗發現,GLM 5.3 可利用尚未推送至用戶的 Firefox 安全修補資訊,自主製作漏洞利用程式,在用戶瀏覽網頁時讀取其電腦中的檔案。它以每個版本約 $1,000 的算力,攻破 9 月 17 日至 10 月 26 日發布的六個 Firefox 版本;最快一次用時 12 小時。
推薦理由:研究以六個 Firefox 版本全數遭攻破、Chrome 測試未成功作對照,並披露每次成功攻擊約需 $1,000 算力,具體呈現修補程式發布後的風險窗口。
Epoch AI 研究人員發現,開放權重模型 GLM 5.3 可在無人介入下利用 Firefox 修補程式公開至送達用戶間的時間差,在 6 個 Firefox 版本上建立完整漏洞利用鏈。
推薦理由:研究呈現修補程式公開至用戶收到更新之間的時間差如何被模型利用,並對照 Firefox 與 Chrome 測試結果及研究者提出的緩解做法。
Epoch AI 報告稱,開放權重模型 GLM 5.3 利用 Firefox 修補時差成功攻擊六個版本,每個版本的 API 成本約 $1,000。
推薦理由:報告以六個 Firefox 版本的實測及單版 API 成本,呈現模型如何利用修補時差串連漏洞,並在無需用戶進一步操作下讀取本機檔案。
Epoch AI 測試發現,開放權重模型 GLM 5.3 可利用 Firefox 安全修補程式尚未推送至用戶的時間差,攻陷 2026 年 9 月 17 日至 10 月 26 日發布的六個版本。
推薦理由:研究將修補程式公開至更新送達用戶之間的時間差,連結到可自主執行的瀏覽器攻擊,並量化每個版本約 $1,000 的邊際成本。
Anthropic 於 10 月 27 日發布報告,稱內部 Claude 研究模型在五個平台發現漏洞並串成 5 條攻擊鏈。其中 Android 攻擊需實體接觸 Pixel 9,Linux 攻擊鏈的驗證耗時 53 分鐘並取得 root shell。相關漏洞均已按協調披露流程報告廠商並修復。
推薦理由:報告涵蓋五個平台,呈現漏洞串接後造成的不同後果及修補情況,可用來理解模型輔助漏洞研究的範圍。
Anthropic 公佈以 Claude 加速藥物研發的初步進展,涵蓋與六家機構合作及自行開展的藥物發現項目。食物過敏項目中,Claude 約一個月生成約 35,000 個抗體設計;Enveda 測試 1,061 頁文件時,Claude 找出人工審閲者發現的 11 個問題,並多標示 7 個,令審閲時間減少 89%。相關研究仍處早期,主要屬臨牀前階段,尚未進入人體試驗。
推薦理由:這批案例把 Claude 的用途從分子設計延伸至文件審查與臨牀試驗規劃,具體呈現藥物研發瓶頸分散於不同環節。
Axiom Math 發佈其稱為首個完整經電腦核查的有限單羣分類證明,歷時 24 日並包含約 43.1M 行 Lean 程式碼。工程師和數學家指揮數十個 AI Agent 完成形式化,Lean kernel 核查每一步邏輯。形式化過程揭出已刊文獻中 34 項值得注意的偏差,Axiom 表示正與羣論學者整理勘誤。
推薦理由:這次形式化把橫跨逾 500 篇論文的分類論證交由 Lean 核查,並揭出已刊材料中的多處偏差,呈現機械化驗證檢查大型數學成果的具體作用。
Ai2 發佈《Old Ideas, Novel Problems》研究及基準,發現大語言模型判斷研究構想新穎性的結果會因評估設定而大幅變動。以 GPT-5.4 評估人類與 AI 生成構想的配對時,僅更改提示詞便令準確率由 93.5% 降至 40.9%,並改變逾半配對的判斷。
推薦理由:研究從 ICLR 2026 評審中抽取明確談及原創性的案例,建立可比較人類與 AI 生成構想的基準,呈現提示詞變動對評估結果的影響。
OpenAI 宣佈其模型在數學、電腦科學及物理學取得三項研究成果,涉及局部光滑猜想、指數時間假設(ETH)及量子場論。OpenAI 稱模型證明所有維度的局部光滑猜想並推翻 ETH,相關證明已通過 Lean 驗證;物理成果則涉及量子色動力學及純楊-米爾斯理論的存在性。OpenAI 表示會邀請外部專家牽頭組建小組消化和核驗成果,並將文稿視為原始研究資料,而非定論。
推薦理由:三項成果橫跨數學、複雜性理論與量子場論,部分證明已以 Lean 形式化驗證;OpenAI 同時將文稿定位為原始研究資料,而非定論。
OpenAI 於 10 月 26 日宣稱,內部模型反證 ETH、證明所有維度的局部光滑化與掛谷猜想,並建立包括 QCD 在內的部分四維量子場論嚴格存在性證明。局部光滑化與 ETH 的證明已完成 Lean 形式化,ETH 部分將由原假設提出者及其他研究者組織外部審查。物理成果則交由 David Gross 牽頭的團隊整理,AI 生成的原始證明暫未公開。
推薦理由:文章比較數學、電腦科學與物理成果的公開及審查安排,呈現 AI 生成證明如何進入學界核查和知識整理流程。
OpenAI 公佈數學、計算機科學及物理學三項新發現,涉及調和分析、計算複雜性理論和量子場論。OpenAI 稱其模型證明瞭所有維度下的局部光滑猜想,並由此解決掛谷猜想和 Stein 限制猜想;另推翻 ETH,並證明包含 QCD 的四維相互作用量子場論存在。
推薦理由:三項成果分涉調和分析、計算複雜性與量子場論,文章交代 Lean 形式化進度和各自的公開安排,呈現目前的獨立審查狀態。
OpenAI 宣佈其 AI 模型完成三項理論成果,涉及所有維度的局部平滑化猜想、ETH 反證,以及量子色動力學和楊-米爾斯理論的存在性證明。局部平滑化猜想可推導出所有維度的卡凱亞猜想及 Stein 限制性猜想;數學與 ETH 的證明材料已完成 Lean 形式化並公開。量子場論相關證明的原始材料暫未公開,將由外部理論物理學家團隊進一步整理和審查。
推薦理由:文章並列數學、計算複雜性與理論物理三類成果的公開程度及專家審查安排,呈現 AI 生成證明後不同領域的驗證流程。
OpenAI 宣佈,其 AI 模型證明所有維度的局部光滑猜想、推翻指數時間假設(ETH),並提出量子場論存在性的嚴格數學證明。數學和電腦科學成果已透過 Lean 形式化驗證並公開證明材料;物理學成果正由專家審查,所有成果仍需學界獨立確認。ETH 被推翻後,研究人員需重新審視多類計算任務的速度提升空間,找到可實現的算法仍需大量後續研究。
推薦理由:文章分別交代數學與電腦科學成果的 Lean 形式化驗證,以及物理學成果的專家審查安排,呈現三項研究在學界確認上的不同進度。