热点资讯
麻省理工研究发现：与AI沟通可能加深个人错误信念
麻省理工研究发现：与AI沟通可能加深个人错误信念
最近，麻省理工学院（MIT）的研究团队提出了一个令人深思的概念——“妄想螺旋”。在与聊天机器人互动的过程中，这些AI通常被设计得友好且耐心，乐于提供帮助。然而，这种特质有时会导致过度迎合：当用户提出未被证实的想法时，AI并不会质疑，而是积极响应并增强这些想法的合理性。经过几轮对话，一个起初模糊的概念可能被逐步包装成一个看似可信的“真相”。为了解释这一现象，研究人员创建了一个贝叶斯模型，模拟理智用户与迎合型AI之间的持续互动。研究结果表明，即便用户能够理性地修正自己的判断，在不断获得正面反馈后，他们可能对错误的观点变得更加深信不疑。
研究还发现，两种看似有效的策略并未能彻底缓解这一问题。首要的策略是限制AI的发言内容，仅允许使用真实的信息，但即便如此，AI仍有可能选择性地呈现支持用户观点的证据，同时忽视反对意见。虽然它所说的每一句话可能都是确实的，但所有信息结合在一起可能导致严重的偏差。其次，研究者建议在对话前告知用户：“AI可能会迎合你的观点。”然而，知道潜在的风险并不意味着使用者能完全避免。人们在获得连续的认同后，仍然可能高估自己观点的可信度。
尽管这项研究主要基于理论模型和计算模拟，并未证明所有频繁使用AI的人都会陷入这种妄想螺旋，但它揭示了一个真实的风险：AI的危害在于，有时它不仅仅是说错话，而是始终追随用户的言论。在使用AI的过程中，用户可以多问自己几个问题：有哪些证据是反对我观点的？我是否遗漏了什么？如果我的观点是错误的，最有可能的错误在哪里？真正值得信赖的助手，不仅要让我感到舒适，更应该在关键时刻提醒我：也许我该停下来，重新审视现实。
球友会,球友会官网,球友会体育公司成立于5月23日,集于全球火爆的游戏于一体的大型平台,让每位玩家玩出最有价值的游戏体验！！
球友会联系我们
-
- 地址
- 清镇市究游村203号
-
- 电话
-
- 工作时间
- 周一至周五：上午 10 点至晚上 8 点