随着人工智能（AI）技术的飞速发展，它正逐渐渗透到我们的日常生活与工作中，从搜集资料、制作PPT到修改论文，AI的应用场景愈发广泛。然而，人们在享受AI带来的便利的同时，也开始意识到其潜在的风险。
大学生小薛在准备课堂作业PPT时，就遇到了AI“一本正经说瞎话”的情况。她不确定一句诗中的某个字，于是向AI助手求证，结果AI给出了错误的出处，且在被质疑后，依然坚持错误的回答，最终小薛发现，AI提供的诗句出处与实际完全不符。
在自媒体公司工作的雅雅也险些因AI提供错误信息而“捅了大娄子”。她在更新一篇关于“造纸史”的公众号文章时，使用了AI搜集的资料，其中一段关于西安博物院藏唐代“开元户籍册”残片的信息，在发布前核查时，她发现网上根本检索不到相关信息，甚至无法确认该文物是否真实存在，所涉及的数据更是无从考证。
类似的案例在社交媒体上屡见不鲜。有网友发现AI编造了关于郭沫若甲骨文研究的考释，也有网友发现AI在回答关于《水浒传》不同版本译者的问题时张冠李戴，更有网友指出AI连法条都能胡编乱造，编得有模有样。
AI不仅在学术和工作领域“不靠谱”，在日常生活中的应用也需谨慎。一位B站UP主在尝试用AI推荐购买汕头特产时，发现AI推荐的店面统统不存在。
专家指出，AI之所以会“胡说八道”，主要是因为其技术原理的固有特点以及训练数据的局限性。数据过时、数据偏见或错误、知识盲区等问题，都可能导致AI生成错误的内容。AI生成的内容很大程度上受提问方式的影响，容易呈现片面真实，刻意回避某类信息。
针对这一问题，专家建议，普通用户在使用AI时，应优化提问技巧，交叉验证与人工审核，使用专业工具等。对于关键任务，如法律、医疗等，建议始终以AI输出为初稿，由人类专家最终审核。开发者则需要进行模型微调、搭建知识增强架构、形成输出约束机制等。
尽管AI技术的发展带来了诸多便利，但我们也不能盲目迷信。大部分AI都提醒了“内容由AI生成，请仔细甄别”。只有理性看待AI，正确使用AI，才能避免其带来的潜在风险。
本文链接：http://www.28at.com/showinfo-45-12075-0.htmlAI“一本正经”说假话，谁该为信息真实性把关？
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
