近日，科技媒体TechCrunch报道了一则关于人工智能领域的新动向。在Anthropic于旧金山主办的首次开发者盛会“Code with Claude”上，该公司的首席执行官达里奥·阿莫代伊分享了一个引人注目的观点：当前的人工智能模型产生“幻觉”的概率，或许已经低于人类。
所谓“幻觉”，在AI领域特指模型虚构内容并以事实的形式进行呈现。阿莫代伊在会上强调，尽管AI有时会“出错”，但这些错误并不妨碍Anthropic向通用人工智能（AGI）的目标迈进。他提到：“如果我们用特定的标准来衡量，我猜测AI模型的幻觉频率可能已低于人类，只是它们的错误方式往往更为出人意料。”
阿莫代伊一直是业界中对AGI前景最为乐观的声音之一。他坚信：“人们总是试图寻找AI能力的边界，但至今我们仍未触及这一极限。”然而，并非所有人都持相同观点。谷歌DeepMind的首席执行官哈萨比斯就在本周指出，当前的AI模型仍存在大量漏洞，甚至在一些基础问题上也会给出错误的答案。
值得注意的是，在处理复杂的推理任务时，一些新的人工智能模型反而出现了更严重的“幻觉”现象。例如，OpenAI的o3和o4-mini版本，其幻觉率相较于之前的推理模型有所上升，这一现象连OpenAI自身也未能完全理解。面对这样的挑战，阿莫代伊表示，人类本身也经常犯错，因此AI的错误并不应被视为其“不够聪明”的标志。但他也承认，当AI以极高的信心输出错误信息时，确实可能引发一系列问题。
在阿莫代伊看来，AI的错误与人类的错误有着本质的不同。人类的错误往往源于认知的局限或信息的不足，而AI的错误则更多是由于其算法和训练数据的局限性所导致。因此，他呼吁业界在追求AI技术进步的同时，也应加强对AI错误的理解和应对能力。
本文链接：http://www.28at.com/showinfo-45-13131-0.htmlAnthropic CEO称AI“幻觉”频率或低于人类，但出错方式更出人意料
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
