12 月 12 日消息，近日，埃隆・马斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天机器人 Grok，并面向美国地区的 Premium+ X 用户开放。据官方介绍，Grok 采用了名为 Grok-1 的模型，与目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是，Grok 还整合了 X 平台的实时数据，能够根据 X 平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。
然而，就像所有 AI 聊天机器人一样，Grok 也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括 ChatGPT。
近日，一个 Grok 尴尬的“幻觉”在社交媒体上引起热议。有用户在使用 Grok 时收到回应称：“我无法完成您的请求，因为它违反了 OpenAI 的用例政策。”
注意到，xAI 工程师 Igor Babuschkin 对此解释道，Grok 在训练过程中使用了大量网络数据，很可能在其中包含由 OpenAI 生成的文本，导致出现了这样的“幻觉”，他称：“不过请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的 Grok 版本不会出现类似的问题。请放心，Grok 的开发没有使用任何 OpenAI 代码。”
如何避免类似事件的发生，以及如何让 AI 聊天机器人更安全、更可信，将是未来 AI 研发的重要课题。
本文链接：http://www.28at.com/showinfo-45-2885-0.html马斯克的 AI 聊天机器人 Grok 出现“幻觉”，误认为自己是 OpenAI 的产品
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
