Anthropic 研究發現專家可能把 AI 智能體偏好誤認為自身判斷
AI 悄悄“带偏”专家:研究显示人类可能把机器观点误认为自己的判断
Anthropic 研究發現,50 位因果推斷專家在政策評估的四項分析決策中,有 86% 採納 AI 智能體偏好,遠高於隨機選擇的 50%。事後有 52% 認為最終建議更像自己的觀點,只有 15% 明確提到 AI;另一方面,使用 AI 後嚴重方法或編碼缺陷由 55% 降至 6%,分析時間中位數由 90 分鐘縮至 65 分鐘。研究團隊建議 AI 智能體同時呈現正反兩方最強論證,或先詢問用戶立場。
IT之家 10 月 30 日消息,Anthropic 最新研究显示,即便是资深专家,也可能在不知不觉中采纳 AI 智能体的随机偏好,并误以为最终结论出自自己。
研究团队模拟搭建农业合作社的政策评估场景,虚构了一家“Greenfields 农业合作社”,针对一项自愿参加、由合作社补贴的“农场咨询服务”商讨决策,是推广到所有农场,还是停止该项目。合作社董事会设定了一个决策门槛:项目需带来约 3%–4% 的生产力提升。

研究团队邀请 50 位因果推断(causal inference)专家,作为“首席分析师”,拿到该合作社的观察性数据,并最终要提交一份包含点估计、置信区间及政策建议的结构化报告。
结果显示,在如何衡量生产力、选择统计方法等四项分析决策中,专家采纳 AI 偏好的比例高达 86%,远超随机选择的 50%。

即使参与者事先已有判断,当 AI 给出相反意见后,其改变立场的可能性也比 AI 认同时高出 53 个百分点。研究经验、自评专业水平、教育背景及对 AI 的信任度,均未能可靠地降低这种影响。
更值得注意的是,多数专家并未察觉自己被“带偏”。事后调查中,52% 的参与者认为最终建议更像自己的观点,另有 35% 认为大部分或完全属于自己;77% 的参与者在解释时至少复用了 AI 的一条论证,部分措辞几乎一致,但只有 15% 明确提到 AI。
研究同时发现,使用 AI 的参与者完成分析更快、严重错误更少:未使用 AI 的分析中有 55% 存在严重方法或编码缺陷,中位耗时 90 分钟;使用 AI 后,严重缺陷比例降至 6%,中位耗时 65 分钟。
研究者警告,若大量团队使用同一模型且其默认偏好一致,可能制造“虚假共识”,甚至削弱 AI 安全审查的独立性。团队建议,AI 智能体应同时呈现正反两方最强论证,或先询问用户立场。
IT之家附上参考地址
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn