6 月 12 日消息，长期以来，人们常常把大语言模型提供的看似合理但错漏百出的答案称作“AI 幻觉（AI hallucinations）”。然而，来自英国格拉斯哥大学的三名哲学研究人员近期提出了不同的看法 ——“AI 幻觉”这样的描述并不准确。
当地时间 6 月 8 日，《伦理与信息技术》杂志刊登了三名研究人员的论文。这篇论文指出，聊天机器人“胡编乱造”回答的行为不应被称为“幻觉”，用“胡说八道（bullshitting）”一词来描述才更准确。
研究人员指出，学习过心理学或使用过迷幻类药物的人都知道，“幻觉”通常被定义为看到、感知到不存在的东西。而在 AI 领域，“幻觉”显然是一种隐喻，大语言模型根本看不到、感知不到任何东西。AI 并非经历“幻觉”，而是在复制训练数据中的人类语言模式，并不关心事实的准确性。
机器并非试图传达它们相信或感知到的东西，它们的不准确性并不是因为误解或幻觉。正如我们所指出的，它们根本不是在试图传递信息，它们是在胡说八道。
研究人员认为，AI 模型没有信念、意图或理解力，它们的不准确性不是因为误解或幻觉，而是因为它们被设计用来创建看起来、听起来都正确的文本，没有任何“内在机制”来确保事实的准确性。
曾多次报道过“AI 幻觉”有关现象。例如最近的“谷歌搜索推荐用户往披萨里加胶水”，以及马斯克的 Grok“误认为”自己是 OpenAI 的产品等等。
剑桥词典（Cambridge Dictionary）去年宣布，2023 年的年度词汇为“hallucinate”（产生幻觉），原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。
本文链接：http://www.28at.com/showinfo-45-4599-0.html英国格拉斯哥大学哲学研究人员谈“AI 幻觉”：用“胡说八道”来形容更准确
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
上一篇： 五粮液浓香酒：劳动节送礼的精致艺术
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
