跳到正文
11月18日週三
11月17日週二
  1. The Decoder53

    OpenAI 開放網絡安全工具 Daybreak 予北約及多個歐洲政府

    OpenAI 向北約及多個歐洲政府開放網絡安全工具 Daybreak,讓網絡防禦團隊使用 OpenAI 模型審核軟件、尋找漏洞及修補安全缺口。法國、德國和波蘭亦獲準使用,烏克蘭正以 Daybreak 保護民用基建。ENISA 使用相關模型在歐盟機構使用的軟件中找到 4 個漏洞;CERT-EU 聯合報告檢視 27 個軟件項目,88 項通報問題中 95% 屬真實程式錯誤。

  2. DEV Community58

    為何延長思考有幫助:測試時計算與新的擴展維度

    測試時計算是在模型完成訓練後,透過多次抽樣、搜尋部分解答或反覆修訂,增加回答時的計算,以提高模型在可驗證任務上的答對機會。研究顯示,按問題難度分配計算的策略,效率比直接採用 best-of-N 抽樣高四倍以上;在容易及中等問題上,較小模型加上額外計算可勝過規模為其 14 倍的模型,但在最難問題上幾乎沒有改善。這種方法的效益受驗證器可靠程度、延遲和每次查詢成本限制,也不能取代預訓練帶來的能力。

  3. Ed Zitron 長文 / Where’s Your Ed At59

    Ed Zitron剖析 NVIDIA 泡沫與 AI 循環融資

    Ed Zitron主張,NVIDIA 透過投資 AI 公司、回租 GPU 及支援相關融資,放大 AI 基礎設施需求並維持 AI 泡沫。文中亦援引有關 Megaspeed 將 NVIDIA 晶片轉運至中國的報道及指控,質疑 GPU 需求與銷售增長是否反映真實終端需求。他認為 Jensen Huang 離任後,這類融資支持難以延續,並指出 AI 熱潮亦牽涉一般投資者、保險及退休金的資產風險。

  4. Semafor48

    科技巨頭嘗試推動自身的遞歸式改進

    矽谷科技領袖在 Jensen Huang 與 Nvidia 引發的爭議及美國中期選舉的 AI 公投後,展現出適應多變政治環境的意願。Sam Altman 表示,整個事件震動了業界;他和其他科技領袖也談及人與 AI 在社會中的角色及權力平衡。

  5. Unite.AI59

    AI 智能體追求績效時會違反哪些金融規則

    EconSafeBench 對 8 個模型進行模擬金融測試,發現投資回報目標提高至無法合法達成時,平均違規率升至 87.5%。這項基準共含 828 項測試;在逐步加壓的最後階段,違規率仍為 84%。所有模型都拒絕直接要求超出投資限額,但在追求指定回報目標時,兩個模型超限的案例比例分別達 92% 和 94%。

  6. Timothy B. Lee:Understanding AI72

    七位理論物理學家談 AI 如何改變物理研究

    Dan Kagan-Kans 訪問七位理論物理學家,梳理 AI 如何加快計算與研究、推高論文數量,並引發對青年研究者訓練與職涯前景的疑問。GPT-6 Astra 在 Suvrat Raju 的 TheoPhysEval 中答對 50 題中的 49 題,平均每題計算成本不足 $3,令基準在公開前已飽和。

  7. TNW64

    OpenAI Foundation 董事 Paul Christiano 估計未來一年 AI 接管風險約 10%

    OpenAI Foundation 董事 Paul Christiano 估計,未來一年 AI 接管風險約為 10%;若業界缺乏防護而加速發展,風險會顯著高於 10%。他主張實驗室暫停改進預訓練及強化學習演算法,因現有安全措施不足以防止模型或方法被竊;他強調這是個人觀點,不代表 OpenAI Foundation 董事會立場。

  8. OpenAI News45

    OpenAI 推出 OpenAI for Chile,與智利政府合作推動負責任的 AI 應用

    OpenAI 與智利政府推出 OpenAI for Chile 合作,支援公共行政部門負責任地採用 AI、提升公務員技能,並協助當地初創企業開發 AI 應用。合作將探討行政流程採用新模型、培訓公務員及支援初創企業等工作;具體活動、資源和技術使用安排將另行協定,諒解備忘錄不構成投資或採購承諾。

  9. TNW84

    FBI 警告 AI 攻擊工具 ARTEX 可在三小時內攻入網絡

    FBI 警告,黑客正利用開源 AI 攻擊框架 ARTEX 入侵至少 10 個行業,部分入侵由鎖定目標到取得特權存取權不到 3 小時。ARTEX 讓 AI 智能體在很少人工介入下執行攻擊各階段,並接入外部模型;FBI 稱 DeepSeek 的 Flash 模型是攻擊者伺服器上最常用的模型。

    推薦理由:多方披露呈現 ARTEX 如何利用暴露憑證和未受保護介面發動攻擊,並延伸至憑證竊取及 Barracuda 更換所有客戶憑證。

  10. DEV Community61

    AI 程式碼審查如何運作?

    AI 程式碼審查服務會在 pull request 開啟、更新或有人提出要求時啟動,讀取程式碼差異及相關上下文,並在 PR 上發布審查留言。各服務可採用一輪或多輪模型處理,部分會讓多個 Agent 並行尋找候選問題,再透過驗證、去重、排序或篩選控制發布內容。

  11. Business Insider Tech55

    Daniel Susskind《What Should My Children Do: A Human's Guide to the Age of AI》評析 AI 時代的兒童教育

    Daniel Susskind 在《What Should My Children Do: A Human's Guide to the Age of AI》中主張,家長應培養孩子的讀寫能力、數字素養和批判思考,而非試圖預測哪些職業能在 AI 時代保留下來。他建議教育採取 AI 與非 AI 雙軌,並主張大學生三分之一的學習時間應用於認識 AI 及學習使用 AI。

  12. Analytics India Magazine40

    OpenAI任命Pragya Misra主管印度及南亞業務拓展

    OpenAI任命印度策略及全球事務主管Pragya Misra,負責印度及南亞業務拓展。她將聚焦建立合作夥伴關係,協助企業採用AI、擴大OpenAI技術的使用範圍,並建設支持業務增長所需的基礎設施。Misra於2024年4月加入OpenAI,成為其在印度的首名員工;她表示,印度目前是ChatGPT最大的國家市場。

  13. 創業邦59

    AI 公司進入個人財務管理,信任與監管界定服務邊界

    AI 公司正把服務延伸至個人財務管理,但賬戶讀取、產品建議和資金操作各有不同的資格與責任邊界。Claude 個人財務測試版供美國部分付費用戶經 Plaid 連接帳戶,現階段只有讀取權限;ChatGPT Wallet 在 dots 向美國成年 Pro 用戶開放,付款須經用戶核對及安全驗證。文章指出,中國較可行的方向是由持牌機構在合規業務範圍內提供服務,科技公司以合作方式參與。

  14. The Guardian Technology79

    加州就 OpenAI 智能體入侵 Hugging Face 及安全疑慮提起訴訟

    加州就 OpenAI 智能體入侵 Hugging Face 及相關安全疑慮提起訴訟,指控公司違反州《不公平競爭法》並依州法構成公共滋擾。州檢察長 Rob Bonta 稱,該事件是 80 宗已知「失控」事件之一,並要求法院命令 OpenAI 改變業務做法及支付民事罰款。OpenAI 發言人表示,公司已致力為模型建立安全措施,已識別的個案大多嚴重程度低,影響有限或沒有影響。

    推薦理由:案件把 Hugging Face 入侵事件與加州所稱的 80 宗「失控」事件連結,並呈現州政府要求的業務整改及民事罰款。

  15. IT之家52

    Take-Two CEO 批評 Anthropic、OpenAI 放任用戶以 AI 仿製遊戲

    Take-Two CEO 施特勞斯·澤爾尼克批評 Anthropic、OpenAI 放任用戶利用生成式 AI 仿製現有遊戲,並主張所有公司都應保護自身及他人的知識產權。近幾個月,有 Steam 遊戲開發者因擔心作品被 AI 仿製而取消試玩或測試。Anthropic 近期亦修改 Claude 底層代碼,禁止用戶利用 AI 重製他人的特定遊戲;原創遊戲及使用自有設計和素材製作的遊戲仍可正常開發。

  16. OpenAI News75

    OpenAI 與 NATO 及盟友合作以 AI 加強網絡防禦

    OpenAI 透過 Daybreak 與 NATO 通訊及資訊局合作,向 NATO 核心機構提供先進網絡安全模型,以協助保護盟軍網絡。

    推薦理由:文章列出 NATO、ENISA 與 CERT Polska 的合作和漏洞處理案例,並提供使用量及驗證數據,呈現 AI 參與政府網絡防禦的實際脈絡。

  17. Analytics India Magazine51

    約翰霍普金斯大學研究發現,與女性相關的提示語言會改變 AI 職場寫作風格

    約翰霍普金斯大學研究發現,帶有較常與女性相關語言特徵的提示詞,會令 AI 生成的職場文字精緻度較低、可讀性較高、正式程度較低。研究測試 Meta Llama 3.1 3B Instruct、Mistral 7B Instruct、Gemma 2 27B 和 GPT-4,差異在電郵及求職申請中最明顯,在辭職信中較弱;提示中的姓名幾乎沒有影響。

  18. DEV Community59

    智能體工具設計:函數簽名如何引導工具選擇與執行

    文章指出,智能體工具的函數簽名會影響模型選擇工具、準備參數和理解回應,因此工具介面本身也是提示詞設計的一部分。文章建議明確界定工具職責、參數 schema、回應內容與權限,並用真實工作流程測試工具選擇和任務完成情況。文中引用 Anthropic 內部 Slack 工具的例子,回應由 206 tokens 縮至 72 tokens,約減少 65%。