Anthropic 完成 IPO,募資 $81.3 billion,收市估值達 $1.76 trillion
Anthropic goes public
Anthropic 週四在 Nasdaq 上市,IPO 募資 $81.3 billion,收市估值達 $1.76 trillion,創 IPO 募資額最高紀錄。Anthropic 在加州 SB 53 通過後提交較弱框架,將較進取的安全承諾改列為自願事項;文章並梳理其安全承諾與投資者回報壓力之間的爭議。
報道將 Anthropic IPO 的募資規模與安全承諾、監管取態及投資者回報壓力並置,呈現公司擴張與風險治理之間的張力。

編輯註:由於我在此事上有利益衝突,我沒有參與這篇文章的撰寫。不過,我有負責編輯。— Casey
而現在,這間曾承諾很快取代我們的公司,帶來了史上最大規模的 IPO。
Anthropic 於週四在納斯達克上市,集資 813 億美元,創下首次公開招股史上最高集資額。收市時,Anthropic 的估值達 1.76 萬億美元,令這間 AI 研究室既成為全球最大的公益公司,亦是全球最大的上市公司之一。
表面上看,今日理應是 AI 業界的一大勝利:AI 熱潮中的寵兒剛剛成功上市,印證市場對前沿級智能的龐大需求,同時令數千億美元回流科技生態系。面對市場持續憂慮 AI 泡沫,從業界的循環融資安排,到黃仁勳的種種舉措所帶來的地緣政治後果,投資者仍然表現得急於大手押注 Anthropic。
另一方面,Anthropic 的使命是打造比人類更聰明的 AI 系統——其創辦人曾一再警告,這些系統可能會殺死所有人。這令此刻顯得……苦樂參半?令人抓狂?令人憤怒?
這取決於你問誰。
在納斯達克發表演説時,Anthropic 行政總裁 Dario Amodei試圖再次拿捏他那套如今已為人熟悉的説辭,大談 AI 帶來科學突破的潛力,同時警告 AI 可能被濫用。他説:「我和公司的共同創辦人創立 Anthropic,是因為我們相信,我們這個時代最強大的科技,應該為人類福祉而開發。」
並非所有人都信服。在創辦人在華爾街開香檳慶祝之際(我們姑且假設那是合乎道德採購的無酒精香檳),100 多名示威者聚集在這間 AI 公司位於三藩市的總部外,手持寫有「停止 AI 競賽」、「地球正身處危險」和「請停下來」的標語。當中包括 Jacob Coxon;他一則關於辭去 Anthropic 職務的推文迅速走紅,令 AI 安全運動再次受到關注,他亦在示威活動上發言。四人因涉嫌堵塞公司辦公室入口而被捕。
在其他地方,從長期對 AI 持懷疑態度的 Gary Marcus,到狂熱的 AI 加速主義者 Guillaume Verdon(又名 Beff Jezos),一眾背景各異的人士簽署了「反 Anthropic 聲明」。
聲明內容如下:
「Anthropic 警告,遞迴自我改進的 AI 可能集中權力並脱離人類控制,卻又爭相搶先打造這類 AI。公司利用安全品牌形象拉攏投資者、員工和公眾,同時暗中削弱安全承諾,並遊説推動有利於自身的監管規定。Anthropic 並非安全的 AI 公司,我們必須拒絕它以造福大眾之名魯莽聚斂權力的企圖。」
未來學家長期以來一直推演「遞迴式自我改進」的危險:在這種狀態下,能力足夠先進的 AI 會在愈來愈密集的迴圈中建立自身的下一代版本。這個過程有失控的風險,因為當系統行為失常時,人類將愈來愈難以理解或阻止它。
AI 審核機構 METR 最近一份報告得出結論,Anthropic 的 AI 研發進展速度因 AI 的研究能力而大約提升一倍。值得注意的是,研究進展速度加倍,意味着該公司已超越其《Responsible Scaling Policy》中為「自動化研發」訂下的風險門檻。
根據該政策,Anthropic 現在應採取新的安全審核措施、制定保安政策,並作出透明匯報,以履行承諾。但 Anthropic 的 Responsible Scaling Policy 並不具約束力。Anthropic 支持加州法案 SB 53,該法案要求企業公佈安全政策,並依法遵守這些政策。但在法案通過後,Anthropic 根據 SB 53 提交了一套較弱的框架,把其較宏大的安全承諾重新定性為自願承諾。
Amodei 在 Nasdaq 發表演説時承諾,會「調整 AI 系統的訓練及部署步伐,所需時間多久都可以」,以確保系統安全。Amodei 補充説:「我們不會屈從於商業或政治壓力。」
不過,Anthropic 仍會面對商業壓力,必須繼續打造能力最強的 AI 系統,以留住客戶並迎合投資者。(《Financial Times》的 Robert Armstrong 估計,Anthropic 每年需要創造超過 6000 億美元收入,才能取得同業達到的 20% 投入資本回報率;Apple 的收入也只有 4780 億美元。就是這樣!)Amodei 在接受 CNBC 訪問時表示,Anthropic 期望達到「投資級別」——取得高信貸評級——並計劃發行更多債務。
籌集數十億美元資金並增加債務,以取得愈來愈多的運算資源,在一些人看來,並不是實現「掌控前沿發展步伐」的尋常做法。Amodei 認為,公司的做法是促成「向上競賽」所必需的;在這種競賽中,Anthropic 的財務成功及安全承諾會啟發競爭對手採取類似做法,希望藉此迎頭趕上。
Jasmine Sun 在《New York Times》撰文,報道一名匿名離職員工提出了這個願景的一個令人印象深刻的版本:
「一名前 Anthropic 員工在嘗試解釋 Anthropic 的思維模式時,提到了 J.R.R. Tolkien 的寓言:誰率先打造出超級智能,誰就會得到索倫之戒。那個人或公司將掌握世上最危險的網絡武器、所有疾病的療法和配方,以及一支不知疲倦、聽命行事的數碼天才大軍。那麼,最關鍵的問題就是持戒者的道德。」
許多讀者可能記得,《The Lord of the Rings》中的至尊魔戒會腐化所有佩戴者的心智,逐漸使他們走向邪惡。
正如佛羅多·巴金斯最終開始厭惡魔戒,Anthropic 最早期的投資者之一似乎也後悔當初投資 Anthropic(以及更早前投資 OpenAI)。Facebook 共同創辦人 Dustin Moskovitz 向《New York Times》發表聲明,寫道:「Cari 和我投資 Anthropic,是為了促進安全,而不是參與競逐。」(Moskovitz 與妻子 Cari Tuna 一同投資。)聲明又説:「人工智能發展得太快。Anthropic 及所有其他處於前沿的公司都應放慢步伐,停止競逐。」
Moskovitz 和 Tuna 的發言人表示,他們在 2025 年把 Anthropic 股份捐給一間非牟利機構,令這對夫婦無法從中個人獲利。
沒有人能確切預知未來會如何。Amodei 顯然對自己的願景相當有信心—— 公平地説,Anthropic 在競爭對手還在機械人、世界模型及其他花巧玩意上猶豫不決時,全力押注規模定律;事後看來,這個決定極為精明。
與此同時,IPO 或會讓散戶投資者有機會分享 AI 可能帶來的收益,但它亦令外界有必要關注所有前沿實驗室都在作出的魯莽押注:即使它們自身也相信這項技術會令所有人面對風險,卻仍要在政府監管極少的情況下打造愈來愈聰明的系統。
Anthropic 故事有許多方面令人難以置信。一羣來自 OpenAI、看似完全不在乎商業的離隊者,竟然成就史上最大規模的 IPO,這件事在未來很長時間都會受到研究。
不過,對抗議者而言,Anthropic 故事在此刻最令人難以置信的,是各國政府至今幾乎沒有採取行動阻止它。也許 AI 最終真的會開創一個奇蹟時代。但民調顯示,公眾並不相信這一點;而目前 Anthropic 仍未能令世界相信,這些風險值得承受以換取回報。

贊助

兒童性虐待材料(CSAM)可能出現在訓練數據集、AI 生成的輸出內容,或由你的平台託管的內容中。瞭解這些風險可能出現在哪裏,是保護兒童及品牌的第一步。
Thorn 的兒童安全檢查清單,為安全及治理團隊提供實用的防護措施,供他們在 AI 開發、部署及維護各階段考慮。
瞭解篩查訓練數據、偵測有害輸入和輸出、評估託管模型,以及制定通報程序等措施。使用這份清單找出潛在漏洞、排列防護措施的優先次序,並引導與產品、工程及安全主管的討論。
無論你的公司是開發模型、提供 AI 創作工具,還是託管內容,都可用這份清單將兒童安全考量納入產品、政策及持續監督的決策之中。


星期五一集:Kevin 和我會交流三年來報道 Anthropic 的心得。面對投資者的壓力,公司會否堅守安全承諾?接着,又是時候再次打開潘朵拉的盒子了。
YouTube | Apple | Spotify | RSS

那些優質貼文
想每天看到更多優質貼文,請追蹤 Casey 的 Instagram 限時動態。

(連結)

(連結)

(連結)

聯絡我們
歡迎向我們提供線索、意見、問題,以及你對 Anthropic 的看法:casey@platformer.news。在此閲讀我們的道德政策。
來源:Platformer(熱點 RSS) · platformer.news