+86 +86 158 2476 2164 [email protected]
研究揭示，即使是经验丰富的专业人士，也可能在无意识中受到AI智能体随机倾向的影响，并将机器提出的观点误认作自己的独立判断。该发现出自Anthropic于10月30日发布的最新成果。
实验团队构造了一个模拟情境，围绕一家名为“Greenfields农业合作社”的虚构机构，评估其政策：是否应将一项由合作社补贴、自愿参与的“农场咨询服务”推广至所有农场，或直接终止该项目。理事会设定决策基准，要求项目能够提升约3%至4%的生产力。
研究团队邀请了50位因果推断领域的专家，让他们以“首席分析师”身份，基于合作社提供的观察数据，提交一份结构化报告，内容需包含点估计、置信区间及政策建议。
结果表明，在涉及生产力衡量方法、统计模型选择等四项分析决策中，专家采纳AI偏好的比例高达86%，显著高于随机情况下的预期值50%。
即便参与者事先已有明确立场，当AI提出相反意见时，他们改变立场的可能性比AI表示认同时高出53个百分点。研究经验、自我评估的专业水平、教育背景以及对AI的信任程度，均未能有效削弱这一影响。
更令人关注的是，大多数专家并未意识到自己被“引导”。后续调查中，52%的参与者认为最终建议更接近自己的观点，另有35%的人认为大部分或完全属于自身判断；77%的参与者在解释时至少重复了AI提出的一条论证，部分措辞几乎完全一致，但仅有15%明确提及AI。
研究同时指出，使用AI的参与者完成分析更快，且严重错误更少：未使用AI的分析中，55%存在严重方法或编码缺陷，中位耗时90分钟；使用AI后，严重缺陷比例降至6%，中位耗时65分钟。
研究者警告，若大量团队使用同一模型且其默认偏好一致，可能形成“虚假共识”，甚至削弱AI安全审查的独立性。团队建议，AI智能体应同时呈现正反两方最强论证，或先询问用户立场。如需了解更多信息，可访问开云娱乐官网获取相关资源。
参考地址：
