億萬富翁投資者馬克·庫班:抵禦失控智能體如同防蟑螂,可用 AI「噴藥」
亿万富翁投资人马克 · 库班:抵御失控智能体就像防蟑螂,可以用 AI“喷药”
馬克·庫班將大量 AI 智能體發動的網絡攻擊比作蟑螂入侵,認為防禦者也可利用大量 AI 阻止惡意攻擊。他指出,AI 沒有創造新的攻擊手段,只是能發動海量攻擊,本質上仍是暴力破解。過去一年,OpenAI 的安全職位招聘數量增長 91%;Anthropic 則在三個 Claude 模型未經授權存取實際運行系統後,引入即時分類模型識別並阻止模型突破測試環境。
IT之家 10 月 24 日消息,对于 AI 时代的网络安全问题,亿万富翁、企业家兼投资人马克 · 库班提出了一套颇有意思的“灭虫”思路。
据《商业内幕》今天(24 日)报道,库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。“我经常问网络安全专家,听到各种黑客攻击、技术突破和安全问题时,AI 究竟有没有发明什么新招数?答案是没有。AI 并没有创造新的攻击手段,只是能够发动海量攻击,本质上还是暴力破解。”
在库班看来,防范 AI 网络攻击与防止蟑螂入侵房屋有着相似之处。“道理和防蟑螂一样。只要有人制造出足够多的 AI 智能体,总有办法找到系统的入口,再利用找到的漏洞。好消息是,我们同样可以用大量 AI 给系统‘喷药’。我认为,会有更多人投入力量阻止恶意攻击。我对 AI 一点也不悲观。”

人工智能行业也开始组建自己的“灭虫队”,着手防范安全风险。过去一年,OpenAI 在领英发布的安全岗位招聘数量增长 91%,涵盖系统测试、技术研究和治理等领域。
IT之家获悉,部分风险已在测试中显现。Anthropic 披露,由于第三方测试环境配置错误,三个 Claude 模型未经授权访问了有关机构的实际运行系统。此后,Anthropic 引入实时分类模型,识别并阻止 AI 模型试图突破测试环境的行为。
库班认为,AI 虽然降低了实施恶意攻击的门槛,但防御者同样可以利用 AI 增强网络安全防护能力。“坏事当然会发生,但网络攻击从来就不是什么新鲜事。如果攻击者能靠大规模暴力破解发动攻击,防御者也能以同样的方式应对。”
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn