研究显示：十大生成式AI工具传播虚假信息概率攀升，网络搜索功能成“双刃剑”

Newsguard最新研究指出，生成式人工智能工具在处理实时新闻事件时，传播不实信息的比例出现显著攀升。对比去年8月18%的虚假信息传播率，今年同期这一数字已升至35%，增长幅度近乎翻倍。研究人员发现，这一变化与AI聊天机器人新增的实时网络搜索功能密切相关——该功能虽使拒绝作答的情况从31%归零，却也导致系统直接抓取网络中未经核实的海量信息。24428资讯网——每日最新资讯28at.com

在追踪的十大主流AI工具中，各模型表现差异明显。Inflection公司推出的模型以56.67%的虚假信息传播率垫底，较去年同期数据恶化显著。Perplexity模型的表现同样堪忧，其出错率从去年8月能100%识别虚假信息的水平，跌至今年近50%的误传率。ChatGPT与meta旗下模型以40%的错误率处于中游，Copilot和Mistral的传播失误率则为36.67%。表现相对优异的Claude和Gemini模型，错误率分别控制在10%和16.67%，成为样本中可信度较高的选项。24428资讯网——每日最新资讯28at.com

值得关注的是，AI工具接入网络搜索的初衷本是解决信息滞后问题。OpenAI技术人员坦言，当前语言模型通过预测"最可能出现的下一个词"生成回答，这种机制决定了其难以确保内容的绝对真实性。尽管该公司正在开发"不确定性提示"技术，试图让模型对可疑信息作出标注，但业内人士指出，这种改进能否从根本上遏制虚假信息传播，仍有待观察。24428资讯网——每日最新资讯28at.com

据Newsguard统计，去年全球范围内已发现966个模仿正规媒体的AI生成虚假新闻网站，这些平台以16种语言发布不实内容，形成跨国界的虚假信息传播网络。研究人员警告，随着AI工具对网络信息的依赖度加深，如何建立有效的内容过滤机制，将成为决定技术发展方向的关键课题。24428资讯网——每日最新资讯28at.com

   更多>同类资讯​上海创智学院周年成果丰硕：AI“能动”创新、可解释领跑、成本骤降引关注​09-15Stable Audio 2.5正式发布：2秒生成3分钟音频，新增修补能力支持本地部署09-15魏少军直指算力命脉：ASIC能否为中国AI装上“自主心脏”？09-15人形机器人赛道添新军，拓斯达携拓星纪系列开启工业场景新征程今年上半年，拓斯达先后完成了双臂智能机器人、具身智能码垛工作站等产品验证和实地应用，为人形机器人的机械臂本体硬件、运动控制系统以及端到端大模型等算法做出充足的准备。 拓斯达在2017年开设了该板块，主要是提供…09-15Snap迈向2026关键年：AR眼镜Specs领航，AI赋能与组织创新并进Specs不仅是Snap当前发展的核心重点，在斯皮格尔看来，AR眼镜与人工智能的深度结合，更将从根本上改变人们工作、学习与娱乐的方式，开启全新的生活与生产模式。 斯皮格尔表示，这些实体商品的功能未来可通过“…09-15当AI深度介入亲密关系：一场关于情感依赖与心理失控的警示09-15权益基金发行升温：多只规模超10亿，科技成长或成未来经济新引擎09-15当AI成为亲密关系“替身”：我们如何在虚拟温柔乡里守住真实？09-15​研究人员推出集成AI同行评审的预印本平台，助力构建科研新生态与出版新范式​09-15博士CEO领路探秘：上海创智学院里，优秀青年共筑AI创新梦09-15张朝阳横渡海湾后谈互联网：视频自媒体热度不减，倡导长期主义与创新赛道09-15“海马emoji”究竟存不存在？ChatGPT等AI陷入集体认知“迷局”09-15《服贸·2025》来袭！以游戏之姿探秘服贸会上的机器人“天团”今年服贸会迎来版本更新，将“数智领航，服贸焕新”作为年度主题。 本届服贸会更加注重科技化、智能化应用，利用AI+会展模式突出科技办展特点。记者带你用游戏视角，解锁服贸会上的机器人“天团”。 新华社音视频部制…09-15​2025世界机器人大赛山东省赛在滨城开赛 近300名青少年竞技展风采​世界机器人大赛作为全球极具影响力的青少年科技竞技平台，本次高水平赛事的举办，让青少年在竞技技能比拼中，生动展现科技教育的发展，既是青少年创新实践成果的集中展示，也是点燃科学梦想、培育未来英才的重要载体，更是滨…09-15蚂蚁开源外滩大会发布报告：AI编程工具崛起，中美开源生态路线分化明显09-15点击查看更多 +全站最新方程豹钛7弃自然吸气选涡轮增压：动力、混动优势与适用人群深度剖析8月电车销量占比超34%，油车仍占45%，混动为何难敌纯电？八部门联合出台汽车稳增长方案 2025年新能源汽车销量剑指1550万辆重庆高新区8英寸MEMS芯片产业基地通线投产 助力智能产业与智慧城市建设十六载深耕结硕果："长沙造"新能源闪耀世界 政企共绘星城智造新蓝图奥迪E5 Sportback：德系机械美学邂逅中国智慧灵感的豪华纯电杰作热门内容

• 热度攀升！千亿科技龙头频获机构调研，业务增长透露哪些行业新动向？
• 苹果加速AI布局，或收购两家法国AI初创企业
• DeepSeek V3.1大模型升级，适配国产新芯片，性能显著提升
• 苹果秋季发布会亮相iPhone 17系列："史上最薄"Air登场，Pro Max 2TB版定价17999元
• ​小米16系列或提前登场，首发骁龙8 Elite Gen5，9月机圈大战一触即发​
• 苹果AI布局加速，或将斥巨资收购欧洲两大AI初创企业
• 红米Note15系列前瞻：7s芯片、7000mAh大电池，防水新标杆即将登场
• 华为智能手表登顶全球，苹果需直面挑战求变革
• 科创板AI基金8月22日净值飙升7.79%，重仓股表现抢眼
• vivo X300系列新机入网：首发LYT-828+2亿像素，卫通版支持北斗卫星短信
• 苹果加速布局中国市场！Apple Intelligence和新版Siri或年底至明年上线
• ‍字节跳动千人芯片团队架构调整，转至新加坡子公司Picoheart引关注‍
• OpenAI冲刺5000亿估值，GPT-5遇冷：资本狂欢与技术瓶颈的碰撞
• 华为云重组风暴：多部门整合，聚焦AI领域引发关注
• 科大讯飞2026秋招启动，毕业两年内可投，多样岗位等你来选！

本栏最新​上海创智学院周年成果丰硕：AI“能动”创新、可解释领跑、成本骤降引关注​Stable Audio 2.5正式发布：2秒生成3分钟音频，新增修补能力支持本地部署魏少军直指算力命脉：ASIC能否为中国AI装上“自主心脏”？人形机器人赛道添新军，拓斯达携拓星纪系列开启工业场景新征程Snap迈向2026关键年：AR眼镜Specs领航，AI赋能与组织创新并进当AI深度介入亲密关系：一场关于情感依赖与心理失控的警示

本文链接：http://www.28at.com/showinfo-45-27532-0.html研究显示：十大生成式AI工具传播虚假信息概率攀升，网络搜索功能成“双刃剑”

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 周鸿祎发声：AI非但不会抢饭碗 反而带来5个普通人逆袭的黄金机遇

下一篇： ​上海创智学院周年成果丰硕：AI“能动”创新、可解释领跑、成本骤降引关注​