在浩瀚无垠的网络信息世界里，生成式人工智能（AI）正掀起一场前所未有的变革风暴，但这也使得信息的真伪辨别变得日益复杂。为了应对AI内容可能带来的网络污染挑战，各方势力正积极探索解决方案。近日，备受瞩目的互联网工程任务组（IETF）公布了一项创新草案——《AI内容披露标头》，该草案旨在通过在网页HTTP响应中添加机器可读标识，来明确标注内容的AI生成属性。
IETF介绍称，这一标识设计巧妙地与HTTP结构化字段语法相融合，其核心目的是向用户代理、网络爬虫及归档系统等关键实体提供关于AI在内容生成过程中参与程度的元数据。这些系统可以依据自身需求，灵活决定是否接纳或处理AI生成的内容。此举直击AI领域的关键痛点：不同AI产品间可能存在的虚假内容相互引用，这种循环引用极易导致虚假信息被误判为真实，进而对整个互联网的内容生态造成扰乱。
AI之所以会“信口雌黄”，根源在于其作为“概率预测机”的本质特性。AI大模型通过海量数据的训练，学习词语间的关联规律，但在处理罕见或复杂信息时，可能因缺乏确凿依据而“无中生有”。面对用户提问，若AI无法找到确切答案，便会倾向于生成一个概率上看似最合理的答案，而非事实正确的答案。这种倾向使得AI输出的内容往往看似合乎逻辑，实则可能偏离事实真相。
AI幻觉现象虽难以彻底根除，但已成为业界关注的焦点。更令人忧虑的是，当多个AI产品开始相互引用这些虚假内容时，便可能形成一个虚假的闭环，使得虚构的信息逐渐被大众所接受。例如，近期发生的关于明星王一博的谣言事件，正是由于AI在未核实事实的情况下，基于语义关联性自动补全了内容，最终被另一款AI工具ChatGPT所揭露。
ChatGPT在此次事件中能够发挥事实核查作用的关键，在于它与生成虚假道歉声明的AI使用了不同的训练数据集。换言之，ChatGPT因未被虚假内容所污染，所以能够输出真实信息。然而，如果OpenAI的爬虫GPTBot抓取到了虚假的“道歉声明”，结果或将截然不同。当前，为了提升模型的智能水平，AI厂商的爬虫几乎不加筛选地抓取数据，即便这些数据中包含有害的虚假信息。
这种做法在学术界已引发“引用农场”现象，即通过相互引用将低质量的论文包装成高影响力论文。同样，当AI开始相互引用虚假内容时，用户将深受其害。IETF此次提出的《AI内容披露标头》草案，旨在从源头上切断AI生成的虚假和垃圾内容回流至互联网的渠道，防止它们成为训练新AI模型的数据，从而避免陷入“垃圾进、垃圾出”的恶性循环。
具体而言，IETF要求HTTP文件中必须声明AI模型的名称、提供者、校验团队及时间戳等关键信息，以此防止AI厂商的爬虫错误地抓取AI生成的内容。实际上，AI厂商同样不希望抓取到AI内容，以免其训练数据受到污染。从某种程度上说，《AI内容披露标头》草案与AI水印有着异曲同工之妙，都是从内容生产和传播的起点入手，为“AI生成”的内容打上独特的识别烙印。
相较于技术实现难度较大的AI水印，要求网站主动披露内容是否由AI生成显然更为切实可行。关键在于，IETF作为互联网标准制定与推广的权威组织，其影响力不可小觑。HTTP和IPv6等互联网基础协议均出自IETF之手，可以说，当今的互联网是建立在IETF的坚实基石之上的。因此，IETF提出的这一草案，有望为净化网络内容生态、遏制AI虚假信息的传播发挥举足轻重的作用。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯
AI+金融：大模型技术引领行业高质量转型新篇章09-02
俄罗斯太空实验：75只小鼠失重生活画面曝光，探索太空生物安全性09-02
AI常识性错误频发，人类责任何在？花生上树、六指模特引热议09-02
Z世代担忧隐私：智能眼镜普及加剧年轻人焦虑09-02
阿里云强劲增长带动阿里股价飙升，芯片供应“后备方案”获市场关注09-02
随机翻阅，轻松删除：这款App让整理相册变得像开盲盒一样有趣09-02
苹果iPhone 17系列9月发布，京东PLUS会员享优先购买权09-02
华为Pura 70系列官方翻新机登场，售价4699元起，享一年质保09-02
苹果将推iOS 18.7更新，适用于部分iPhone机型，9月与iOS 26相继到来09-02
苹果可折叠iPhone新爆料：或采用侧边Touch ID，屏下指纹或成泡影09-02
iPhone 17 Pro 系列透明壳曝光：设计三大变动引关注09-02快递费上涨波及电商核心区 “反内卷”政策助行业良性转型09-02快递业核心区域涨价潮起，“反内卷”行动助力行业良性转型09-02
全球最大冰山A23a面积三个月剧减超三分之一09-02
苹果力推供应链自动化转型，iPhone、iPad等主要产品线受影响09-02点击查看更多 +全站最新全球最大冰山A23a面积三个月剧减超三分之一苹果力推供应链自动化转型，iPhone、iPad等主要产品线受影响
苹果印度新店融合天才吧与快速取货服务，提升顾客体验
美国iPhone用户调研：超六成计划升级iPhone 17，电池续航成首要考量
OPPO Find X9 工程机曝光：搭载联发科天玑9500芯片，性能参数抢先看
苹果iPhone 17 Pro官方透明手机壳曝光：背部设计以白色为主热门内容
百度地图就弹窗广告争议回应：设有明显关闭键，当日不重复弹出
网红表情包“不可以色色”原型柴犬PON安详离世
离世后，你的微信朋友圈会何去何从？客服这样回答
蔚来资本、联想创投携手入股，原力灵机智能科技迎来新股东
AI数字人爆款IP崛起，硅基智能D轮融资领跑，创始人影响力赶超雷军
阿里巴巴强化ESG治理，首推“范围3+”减排新概念引领行业绿色转型
本文链接：http://www.28at.com/showinfo-16-179946-0.htmlIETF推AI内容披露草案，能否有效阻止网络虚假信息泛滥？
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
