专给 ChatGPT“找茬”，OpenAI 训练 CriticGPT 模型以检索输出内容错误

6 月 28 日消息，当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论，强调 ChatGPT 生成答案中不准确的地方。oFb28资讯网——每日最新资讯28at.com

oFb28资讯网——每日最新资讯28at.com

据介绍，CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习（注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回答。oFb28资讯网——每日最新资讯28at.com

然而随着 ChatGPT 的准确性日益提升，错误越来越隐蔽，导致 AI 训练员的工作越来越“难做”。OpenAI 对此解释称，这是 RLHF 的基本局限之一 —— 模型逐渐变得比任何可以提供反馈的人都更博学，模型的协调可能也会随之变得越来越困难。oFb28资讯网——每日最新资讯28at.com

目前，当 CriticGPT 试图从 ChatGPT 的回答中发现错误时，它的一双“鹰眼”就会发挥作用。OpenAI 指出，现实世界中的错误可能遍布答案的多个部分，这是 CriticGPT 未来需要解决的问题。“我们的工作重点是可以在一个地方指出错误，但将来我们也需要解决分散的错误。”oFb28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-4879-0.html专给 ChatGPT“找茬”，OpenAI 训练 CriticGPT 模型以检索输出内容错误

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 开源 AI 大模型“洗牌”：阿里通义千问 Qwen2-72B 成“王者”，傲视 Meta Llama-3、微软 Phi-3 等群雄

下一篇： 振兴乡村发展 助力青少年教育 中国三星连续十一年蝉联企业社会责任榜外企第一