当前位置：首页 > 元宇宙 > AI

微软发布新工具，检测和纠正 AI 幻觉内容

来源：责编：时间：2024-09-27 16:34:57 18观看

导读 9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。AI 幻觉在人工智能领域中，幻觉是由人

9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。

AI 幻觉

在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。

该术语源自幻觉的心理学概念，因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的，而它实际上是错误的。

Groundedness Detection

微软的 Groundedness Detection 类似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要对比 AI 输出内容和源文件，从而识别没有证据或者幻觉内容。

微软强调，虽然该工具提高了人工智能输出的可靠性，但并不能保证完全准确，只是能提高生成内容与源材料之间的一致性。

当系统检测到一个支持不足的句子时，就会触发一个新的请求，要求一个较小的人工智能模型进行修正，该模型会根据基础文档对句子进行评估。

如果一个句子不包含基础文档中的相关信息，它就会被完全过滤掉。对于包含一些相关内容的句子，模型会对其进行改写，匹配源材料。

附上官方介绍视频如下：

本文链接：http://www.28at.com/showinfo-45-7798-0.html微软发布新工具，检测和纠正 AI 幻觉内容

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：英伟达发布 Llama-3.1-Nemotron-51B AI 模型：创新神经架构搜索等技术让单 H100 GPU 运行 4 倍以上负载

下一篇： OpenAI o1 AI 模型 PlanBench 规划能力实测：准确率 97.8%，远超 LLaMA 3.1 405B 创造的 62.6% 纪录

标签：

热门焦点

数字虚拟人23年最新变化！

作者：小资来源：米塔之家自2021年元宇宙“爆炸”后，作为现实世界连接元宇宙的媒介之一，大批虚拟人跑步入场。到了2022年底，据天眼查数据显示，我国目前企业名称或经营范围
元宇宙火热的当下，我们该如何“身临其境”的体验元宇宙？

元宇宙的余热依然没有过去，甚至大有星星之火开启燎原之势，元宇宙本身也从殿堂走向了民间，我们可以看到一些企业开始了元宇宙的探索，诸如中国电信全资控股子公司天
万字专访Vitalik Buterin：以太坊将成为主流和最安全的基础层

Vitalik Buterin 在 19 岁时撰写了以太坊白皮书。他的目标简单而全面，即创建一个“世界计算机”，旨在成为所有在线应用程序的灵活基础层，无需任何第三方。自 2015
虚拟数字人：元宇宙的主角破圈而来

虚拟数字人市场逐步进入成熟期，商业化进程加速。1982年世界第一位虚拟歌姬林明美诞生，虚拟数字人行业经历了萌芽、探索、初级和成长四个阶段。随技术逐年突破，制
Meta正在研发元宇宙语音助手；广东省462家企业申请元宇宙商标

今日《元宇宙新鲜事》有：扎克伯格透露正在为元宇宙研发语音助手；完美世界声明称不会以“元宇宙投资项目”等名义吸收资金。广东省申请元宇宙商标的企业达462家位
纽约街头出现NFT自动贩卖机

一家初创公司宣布在纽约市开放一台NFT自动售货机，允许任何人——即使是没有加密资产的人也能购买NFT。该交易平台名为Neon，上个月完成了一轮300万美元的种子募捐
虚拟数字人：元宇宙的主角破圈而来

虚拟数字人市场逐步进入成熟期，商业化进程加速。1982年世界第一位虚拟歌姬林明美诞生，虚拟数字人行业经历了萌芽、探索、初级和成长四个阶段。随技术逐年突破，制
NFT 技术将传世之作带入博物馆

意大利四大博物馆已与一个项目合作，该项目将展示和销售达芬奇、卡拉瓦乔、拉斐尔和莫迪利亚尼等人的杰作的 NFT复制品。该计划采用了科技公司Cincello的国际专
花旗集团前高管加入Provenance区块链，担任CEO

No.1 花旗集团前高管加入Provenance区块链，担任CEO3月1日消息，Provenance区块链基金会已任命花旗集团前高管摩根·麦肯尼（Morgan McKenney）为新任首席执行官。麦肯