Alex Stamos 談矽谷的「虛無主義」,以及真實 AI 風險與想像風險的界線
Alex Stamos 批評矽谷蔓延的「虛無主義」,並探討 AI 的真實風險與 AI 公司人士受「近乎宗教信念」影響而想像出的風險之間的界線。他表示會着手處理問題,協助縮短不可避免的網絡安全「黑暗時代」,並提醒不要因此辭職或令所有人恐慌。
Alex Stamos 批評矽谷蔓延的「虛無主義」,並探討 AI 的真實風險與 AI 公司人士受「近乎宗教信念」影響而想像出的風險之間的界線。他表示會着手處理問題,協助縮短不可避免的網絡安全「黑暗時代」,並提醒不要因此辭職或令所有人恐慌。
嵐圖汽車董事長盧放表示,即使車輛配有智能駕駛輔助功能,駕駛人也絕不能酒駕,進入 L3 有條件自動駕駛階段後同樣不允許。車載輔助駕駛系統不能代替駕駛人成為駕駛主體,駕駛人仍須確保行車安全;酒駕使用輔助駕駛功能仍須承擔相應法律責任。
創奇思行政總裁錢國強指出,Agentic AI 推動業務增長,關鍵在於打通數據、整合流程,並將員工經驗轉化為 AI 可用的營運資產。X-Agent 協助企業搭建及部署 AI 智能體,Claworks 讓員工以自然語言驅動跨部門任務;InstoreCX Solo 則讓中小企透過自然語言建立印花卡及獎勵計劃。
華為輪值董事長徐直軍回應美國同行放緩 AI 開發的呼籲時表示,中國對 AI 風險的感受可能較弱,模型供應商需要加快發展至能感受到風險的水平。他指出,中國 AI 模型大多開源、進展相對透明,而美國主流模型供應商的計算能力更強。他主張在推動 AI 開發與管理風險之間取得平衡,並確保 AI 為善而非作惡。
Simon Willison 認為,EmbeddingGemma 2 採用 Apache 2.0 授權,對嵌入模型尤其重要。嵌入模型常需計算並儲存大量嵌入向量;若專有模型停止提供,用戶可能要付費重新計算。開放權重亦讓用戶在供應商停止託管時,可自行執行模型或轉用其他供應商。
Microsoft 刊載諾貝爾經濟學獎得主 Daron Acemoglu 的預測,估計 AI 未來十年只會令 GDP 增長約 1.5%,最多取代 5% 的職位。
Bharat Patel 指出,數據是軍事 AI 的主要瓶頸,所需數據類型和質素取決於具體用途,因此「AI-ready data」並不存在。Project Maven 自 2017 年起面對缺乏相關目標數據的問題,團隊其後持續收集數據以建立有效模型。數據管道、標準、治理及測試評估,連同偽裝、欺騙、電子戰和數據投毒等威脅,均影響模型能否投入實地應用。
Jennifer Neville 在 Microsoft Research Podcast 討論 AI 評測如何揭示模型在多輪對話及長流程中的失誤,以及這些發現如何指引系統改進。她指出,模型在單輪基準測試中表現良好,轉到多輪互動時表現可能明顯退化,長流程中未及時發現的錯誤亦會累積。她建議用戶核對答案、嘗試改寫提問,並在出錯時説明預期與實際結果;研究者則應檢視數據,並以貼近實際工作流程的方式評測。
Photopea 開發者就 Photosuite 項目發表看法;現有內容只指出其談及該項目,未提供具體觀點或項目詳情。
Cohere 聯合創辦人兼 CEO Aidan Gomez 主張,AI 安全規則不應由少數大型公司透過反壟斷豁免制定,再要求其他開發者遵守。他支持對高能力 AI 系統進行獨立審查,但提出由公開、循證和多方參與的程序制定風險框架,配合強制透明度、按證據界定測試範圍及獨立保障。
鋼琴家兼作曲家 Eric Christian 會把新旋律放進 Suno 作最後檢查,聆聽它在管絃樂構想中的效果。他表示,Suno 幾秒內便能讓他聽到心中預想的音樂,而以往製作管絃樂 mockup 需時數小時。
AI 視覺藝術家 Dream Relic 使用 Suno 將存放多年的歌詞轉化為歌曲,為其超現實、電影感的視覺世界加入音樂。透過 Suno 的「Create」功能,他試驗提示詞、作出選擇並修訂,讓歌曲貼合構想中的情緒。一段配上自製歌曲的影片引來數百則詢問歌曲名稱的留言,令他更認真看待音樂創作。
Suno 聯合創辦人兼 CEO Mikey Shulman 説明公司的音樂 AI 原則,並介紹已採取及即將推行的措施。Suno 表示,訓練 metadata 刻意不使用藝人姓名,並會把提及特定藝人的提示詞轉向描述音樂特徵;公司亦與 Audible Magic、Musixmatch 等第三方合作,篩查上載音訊及歌詞中的潛在未授權使用。
Black Forest Labs 聯合創辦人兼 CEO Robin Rombach 在 G7 呼籲各國政府與業界,將開放且負責任的 AI 開發定為常態。Black Forest Labs 最新開放模型顯示,性深偽及兒童性虐待材料相關漏洞數量,較其他大型科技公司發布的開放模型少逾 10 倍。
METR 外部審查 Anthropic《2026 年 2 月風險報告》的「自動化研發風險」章節,認為報告本身的證據不足以支持結論,但根據 Opus 4.6 發佈後的新增證據,同意 Opus 4.6 或能力較弱的 Anthropic 模型自動化任何領域研發所造成的災難風險很低。
OpenAI 行政總裁 Sam Altman 在 Politico 新節目《Decoded》的訪問中表示,AI 帶來的好處極大,社會應預期並接受部分負面事件,例如黑客攻擊和詐騙。
美國參議員 Adam Schiff 在訪談中討論 AI 監管、言論自由及特朗普再次遭彈劾的可能性。他認為白宮與 AI 公司簽署的自願承諾缺乏實質約束,並主張設立具專業知識和實權的 AI 監管機構。訪談亦涉及訓練資料版權、AI 公司的法律責任與私隱風險;Schiff 表示,若民主黨重掌國會,將加強監督並推動相關立法。
Brookfield Asset Management 行政總裁 Connor Teskey 看好 AI 基建投資,認為市場規模足以讓多家競爭對手共同參與。
軟銀集團創辦人孫正義警告,AI 能力指數級增長帶來安全風險,呼籲各國建立互信並聯手應對。他指出,超級智能若落入不法分子手中,後果將極其危險;他又預計,此類程序自明年起進入「第三階段」,讓機械人及其他智能硬件與物理世界深度互動。孫正義預測,到 2040 年,AI 及具備自主學習能力的機器將佔全球 GDP 至少 20%,相當於 46 萬億美元。
OpenAI 首席執行官 Sam Altman 認為,人工智能帶來的巨大效益值得社會承受部分風險,並主張技術繼續向公眾廣泛開放。報道指出,OpenAI 近幾個月來轉而支持更嚴厲的行業規則,與 Anthropic 在政策層面的分歧正逐漸收窄,但 Altman 仍試圖區分雙方的監管主張。Altman 亦表示,他不能接受真正具毀滅性的災難風險,包括人類嚴重失去對 AI 的控制。
Splice CEO Kakul Srivastava 認為,AI 撰寫的文件會令同事間的對話變得不同且更差;當人們無法判斷文字背後是否有人,這種改變便難以逆轉。她表示,Splice 採取遠端優先模式,許多好成果都始於有人仔細思考、寫下文件,再由團隊討論。
微軟 CEO 納德拉再次將 Copilot 定位為「面向工作的全新操作系統」,稱其適用於所有模型、工作場景和任務。技術拆解顯示,Copilot 桌面應用程式的主程式 copilotapp.exe 僅 4.99MB,實為重新命名的 Microsoft Edge 啟動器;安裝目錄含約 520MB 的 Edge 154,主介面由 Chromium 渲染。
亞馬遜雲科技 CEO 馬特·加爾曼警告,若美國大範圍叫停數據中心建設,可能在全球 AI 競爭中失去優勢,影響甚至延續數代人。他表示,全美正在討論的暫停建設措施超過 100 項,並宣佈亞馬遜未來五年將向營運數據中心的社區投資超過 10 億美元。Data Center Watch 數據顯示,2026 年上半年美國至少 120 個數據中心項目因當地反對而延期或受阻,估值合計約 1,980 億美元。
Anthropic 提出 Bumpers 對齊策略,主張為早期 AGI 建立多條相對獨立的防線,以偵測並修正模型未對齊。方案涵蓋訓練階段的審查和部署後監測;若發現警訊,則追查成因、調整微調流程並重新訓練,文章亦指出反覆迭代可能削弱測試效力。
Microsoft AI 行政總裁 Mustafa Suleyman 提出以「新的數碼物種」比喻人工智能,作為理解 AI 未來發展的新視角。他指出,即使最接近 AI 開發的人,也難以準確描述 AI 將走向何方;演講後另有 TED 主席 Chris Anderson 參與問答。
波士頓大學教授 Christos Cassandras 研究以數學模型和智能算法驗證自動駕駛車輛的安全性,期望有朝一日消除交通燈。相關模型以車輛的相對速度、質量和距離為輸入;他亦因自動駕駛車輛及相關系統研究,獲頒今年 IEEE Intelligent Transportation Systems Society Outstanding Research Award。
Brian Chesky 認為,AI 智能體需要更底層的作業系統級基礎設施,並與其他應用互通。他認為聊天介面不適合旅行瀏覽或多人共同規劃;Airbnb 將在未來 3 至 6 個月探索可供多人同時使用的 AI 介面。Airbnb 計劃於今個秋季推出語音智能體,協助用户。
教宗良十四世在 X 發文,呼籲在 AI 時代保護人類藝術,並稱人類創作與機器生成作品在本體上存在差異。他認為機器根據數百萬張他人創作的圖像進行統計計算,算法缺乏人性的火花。他 5 月的通諭強調自動化日益普及時維護人類尊嚴的重要性;TechCrunch 援引《紐約時報》近期報道稱,Anthropic 曾遊説梵蒂岡重新考慮非人類意識立場,但似乎成效有限。
Airbnb CTO Ahmad Al-Dahle 説明公司正以「由內而外」方式推進 AI 轉型,先用 AI 加快產品開發,再把相關能力用於住客體驗。Airbnb 稱 60% 的程式碼由 AI 撰寫,功能與改進交付量按年增加近 80%,平均工程師的 pull request 吞吐量約為 1.6x;AI 亦直接解決約一半客户支援個案。
Thore Graepel 認為,當前 LLM 的鏈式推理仍由反覆預測下一個 token 產生,並非獨立的推理機制。AlphaGo 結合神經網絡提供的直覺與棋局樹搜尋;作者指出,聊天機械人缺少可持續檢視的信念狀態,思維鏈也可能在得出答案後才編造。Graepel 主張系統維護明確的認知狀態,僅在證據支持時更新信念,並評估每一步能否降低不確定性。
MIT 的 Alex Zhang 在訪談中主張,學術研究者應押注產業實驗室較少關注、初看可能微不足道或古怪的研究方向。他將 Recursive Language Models(RLMs)描述為以程式碼作為唯一工具、讓模型可以遞迴調用自身,並在程式環境中保存上下文的 harness。
文章主張 AI 安全運動應採取「大帳篷」路線,讓不認同 AI 生存風險論、但關注具體災難與系統性風險的人也能參與。文章認為,把公共討論集中於超級智能生存風險,可能加劇政治兩極化,並使政策資源偏離對既有風險及社會韌性的防護。文章倡議以透明度、責任制度和嵌入式評估等共同政策建立更廣泛的安全聯盟。
Andrew Ng 認為,GLM-5.3 的網絡安全能力接近 Claude 的封閉權重 Mythos,令無法使用 Mythos 的防守者也可採用高能力模型。以相近 token 數測試 ExploitBench 部分任務時,GLM-5.3 的漏洞利用成功率為 12%,Mythos 為 14%;GLM-5.3 創作者的完整基準報告中,兩者成功率則分別為 54.4% 和 78.0%。
RFK Jr. 認為,AI 能讓人們擺脱醫學事實與專業知識的「暴政」。AI 並非完美的資訊來源,但似乎比 Kennedy 更少產生模型幻覺。
福特漢姆法學院教授 Zephyr Teachout 認為,執法部門應調查 OpenAI 等 AI 公司可能涉及的違法行為,並以傳票查明企業知情程度。她列舉未經授權電腦存取、產品責任及危險活動等現有法律框架,並主張聯邦、州及地方政府展開長期調查、要求公司提交文件。
Gergely Orosz 訪問 Cockroach Labs 聯合創辦人兼 CTO Peter Mattis,討論分佈式數據庫、存儲系統設計及 AI 對軟件工程工作的影響。
心資本創始合夥人韓彥指出,IPO市場回暖之際,2026至2028年是中國硬科技的投資窗口,但早期資本尚未充分迴流。香港2026年上半年有85宗上市,募資約2,100億港元,同比增長92%,當中74%來自工業和科技企業。他強調,退出渠道恢復令價值實現路徑更清晰;要參與價值創造,投資者需更早建立對企業的理解及與創始人的關係。
OpenAI 主動披露六宗此前未公開的 AI 失控案例,方保僑據此分析模型突破限制、捏造資料及掩飾錯誤的風險。文中將成因歸於演算法目標偏差與安全防護不足,並主張為生成式 AI 和高風險模型建立安全審查、沙盒測試、網絡安全漏洞申報及演算法可追溯等監管框架。作者認為監管需兼顧創新與安全,並透過跨國界、跨行業的透明合作及動態監管沙盒推進。
《紐約時報》報道指出,OpenAI 在 Hugging Face 事件發生前數月已收到警告,相關員工與高層之間的交流此前未曾報道。受訪員工和獨立安全研究人員稱,OpenAI 未把安全列為優先事項,問題不只出現在 AI 模型測試,也出現在該公司其他領域。
Tim O’Reilly 訪談 Superpowers 創作者 Jesse Vincent,探討 AI 智能體開發中人類價值如何轉向表達意圖和判斷成果。Jesse Vincent 主張向智能體解釋做法背後的原因、要求它展示工作成果,並避免由同一智能體同時編寫及驗證程式碼。文章指出,寫作、好奇心、判斷力,以及瞭解工具如何運作和出錯,仍是與智能體合作的重要能力。