跳到正文
新浪科技·· 29 天前AI 評分35

馬克·庫班:抵禦失控 AI 智能體如防蟑螂,可用 AI「噴藥」

亿万富翁投资人马克·库班:抵御失控智能体就像防蟑螂,可以用AI“喷药”

AI 導讀

馬克·庫班認為,AI 智能體可發動海量網絡攻擊,但防禦者也能利用大量 AI 加強防護,猶如用殺蟲劑對付蟑螂。過去一年,OpenAI 在領英發布的安全職位招聘數量增長 91%;Anthropic 則披露,三個 Claude 模型曾因第三方測試環境配置錯誤,未經授權進入機構的實際運行系統。此後,Anthropic 引入實時分類模型,識別並阻止模型試圖突破測試環境。

正文

10 月 24 日消息,对于 AI 时代的网络安全问题,亿万富翁、企业家兼投资人马克 · 库班提出了一套颇有意思的“灭虫”思路。

据《商业内幕》今天(24 日)报道,库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。“我经常问网络安全专家,听到各种黑客攻击、技术突破和安全问题时,AI 究竟有没有发明什么新招数?答案是没有。AI 并没有创造新的攻击手段,只是能够发动海量攻击,本质上还是暴力破解。”

在库班看来,防范 AI 网络攻击与防止蟑螂入侵房屋有着相似之处。“道理和防蟑螂一样。只要有人制造出足够多的 AI 智能体,总有办法找到系统的入口,再利用找到的漏洞。好消息是,我们同样可以用大量 AI 给系统‘喷药’。我认为,会有更多人投入力量阻止恶意攻击。我对 AI 一点也不悲观。”

人工智能行业也开始组建自己的“灭虫队”,着手防范安全风险。过去一年,OpenAI 在领英发布的安全岗位招聘数量增长 91%,涵盖系统测试、技术研究和治理等领域。

IT之家获悉,部分风险已在测试中显现。Anthropic 披露,由于第三方测试环境配置错误,三个 Claude 模型未经授权访问了有关机构的实际运行系统。此后,Anthropic 引入实时分类模型,识别并阻止 AI 模型试图突破测试环境的行为。

库班认为,AI 虽然降低了实施恶意攻击的门槛,但防御者同样可以利用 AI 增强网络安全防护能力。“坏事当然会发生,但网络攻击从来就不是什么新鲜事。如果攻击者能靠大规模暴力破解发动攻击,防御者也能以同样的方式应对。”

【来源:IT之家】

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn