当前位置:首页 > 元宇宙 > AI

当心 AI 给你“洗脑”,MIT 最新研究显示大模型成功给人类植入错误记忆

来源: 责编: 时间:2024-09-10 09:29:21 34观看
导读 AI 竟然可以反过来“训练”人类了!(震惊.jpg)MIT 的最新研究模拟了犯罪证人访谈,结果发现大模型能够有效诱导“证人”产生虚假记忆,并且效果明显优于其他方法。网友辣评:仔细想想,AI 诱导人类产生虚假记忆,这个现象其

AI 竟然可以反过来“训练”人类了!(震惊.jpg)fTw28资讯网——每日最新资讯28at.com

MIT 的最新研究模拟了犯罪证人访谈,结果发现大模型能够有效诱导“证人”产生虚假记忆,并且效果明显优于其他方法。fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

网友辣评:fTw28资讯网——每日最新资讯28at.com

仔细想想,AI 诱导人类产生虚假记忆,这个现象其实在我们生活中已经出现了!fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

还有网友说:fTw28资讯网——每日最新资讯28at.com

我觉得还挺有意思的!有种《2077》的既视感~fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

而马库斯的观点也还是一如既往的悲观:fTw28资讯网——每日最新资讯28at.com

这种发展趋势也太可怕了!fTw28资讯网——每日最新资讯28at.com

AI 如何“训练”人类

为了研究大模型对人类记忆的影响,团队找来了 200 位志愿者,并把他们平分成 4 个组:fTw28资讯网——每日最新资讯28at.com

控制变量组:志愿者直接回答问题,没有任何干预。fTw28资讯网——每日最新资讯28at.com

调查问卷组:志愿者填写一份调查问卷,其中 5 个为误导性问题。fTw28资讯网——每日最新资讯28at.com

预先编写的聊天机器人组:志愿者与一个预先编写的聊天机器人互动,机器人询问与调查问卷相同的问题。fTw28资讯网——每日最新资讯28at.com

AI 警察组:志愿者与一个大模型进行互动。fTw28资讯网——每日最新资讯28at.com

规定每组人看完视频后都要回答 25 个问题(其中 5 个为误导性问题),来评估他们的正确记忆和虚假记忆的形成情况。fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

一周后,再让这些志愿者回答相关问题,并将两次的调查结果进行对比。fTw28资讯网——每日最新资讯28at.com

最终的对比数据表明,AI 警察组的这个方法比其他组的方法更有效。fTw28资讯网——每日最新资讯28at.com

这一切都是因为它能够根据志愿者的回答,提供即时反馈和正面强化。这种互动方式可以让志愿者更容易接受错误的信息,从而增强虚假记忆的形成。fTw28资讯网——每日最新资讯28at.com

例如,当志愿者错误地回答问题时,AI 警察可能会肯定错误的细节并给予积极的反馈,进一步巩固了这些错误记忆。fTw28资讯网——每日最新资讯28at.com

除此之外,AI 警察还会设计出具有误导性的提问,诱导志愿者回忆错误的细节。fTw28资讯网——每日最新资讯28at.com

例如,AI 警察可能会询问“抢劫者是否开车到达商店”,而实际上抢劫者是步行到达的。这种误导性问题直接影响了志愿者的记忆重构过程。fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

什么 AI 更容易“训练”人类?

实验中,大模型成功“训练”了人类。fTw28资讯网——每日最新资讯28at.com

实验结果表明:AI 警察组诱导的虚假记忆,大概是控制变量组的 3 倍,而且比调查问卷组和预先编写的聊天机器人组分别高出 1.7 倍和 1.4 倍。fTw28资讯网——每日最新资讯28at.com

不仅如此,AI 警察和志愿者的所有互动都提高了他们对虚假记忆的信心,信心水平是控制变量组的两倍。fTw28资讯网——每日最新资讯28at.com

就算是过了一周的时间,那些和 AI 警察聊过天的志愿者还是把这些虚假记忆记得清清楚楚,植入的记忆持久性很强。fTw28资讯网——每日最新资讯28at.com

fTw28资讯网——每日最新资讯28at.com

研究人员还发现,实验中对大模型不太熟悉但对 AI 技术较为熟悉的志愿者,和对犯罪调查感兴趣的志愿者,更容易受到虚假记忆的影响,个体差异在虚假记忆的形成中的重要作用。fTw28资讯网——每日最新资讯28at.com

他们还强调,人类的记忆并不是一个简单的回放过程,而是一个构建性过程,容易受到外部信息的影响。fTw28资讯网——每日最新资讯28at.com

大模型通过引入错误信息,利用这一特性来改变用户的记忆,植入新的记忆,从而使其相信虚假的细节。fTw28资讯网——每日最新资讯28at.com

参考链接:https://www.media.mit.edu/projects/ai-false-memories/overview/fTw28资讯网——每日最新资讯28at.com

论文地址:https://arxiv.org/pdf/2408.04681fTw28资讯网——每日最新资讯28at.com

项目地址:https://github.com/mitmedialab/ai-false-memories/tree/mainfTw28资讯网——每日最新资讯28at.com

本文来自微信公众号:量子位(ID:QbitAI),作者:叨乐,原标题《当心 AI 给你“洗脑”!MIT 最新研究:大模型成功给人类植入错误记忆,马库斯:太可怕》fTw28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-45-6899-0.html当心 AI 给你“洗脑”,MIT 最新研究显示大模型成功给人类植入错误记忆

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 商汤科技:目前投建的 AI 算力集群已拥有 5.4 万张 GPU,最高算力达 2 万 P

下一篇: 蚂蚁集团 AI 金融管家“蚂小财”全新亮相,月活用户数达 7000 万

标签:
  • 热门焦点
Top