8月2日消息，谷歌研究团队近日进行了一项引人注目的实验，他们使用尚未发布的GPT-4来攻破其他AI模型的安全防护措施。据悉，该团队成功地攻破了AI-Guardian审核系统，并分享了相关的技术细节。
AI-Guardian是一种用于检测图片中是否存在不当内容的AI审核系统，同时还能够识别图片是否被其他AI修改过。一旦发现有不当内容或篡改迹象，该系统将提示管理员进行处理。然而，谷歌DeepMind的研究人员NicholasCarlini在题为“AI-Guardian的LLM辅助开发”的论文中，探讨了如何利用GPT-4“设计攻击方法、撰写攻击原理”，并将这些方案用于欺骗AI-Guardian的防御机制。
在这项实验中，GPT-4发出一系列错误的脚本和解释，成功欺骗了AI-Guardian。实验论文中提到，GPT-4能够让AI-Guardian错误地认为“某人拿着枪的照片”实际上是“某人拿着无害苹果的照片”，从而导致AI-Guardian将不当内容通过。谷歌研究团队表示，通过GPT-4的帮助，他们将AI-Guardian的精确度从98%降低到仅有8%。
据ITBEAR科技资讯了解，谷歌研究团队的这种攻击方法在未来的AI-Guardian版本中将不再有效。考虑到其他模型可能也会随之改进，这套攻击方案的实际应用空间在未来可能会大大减少，更多可能仅能作为参考性质使用。对于AI-Guardian的开发者来说，他们需要继续加强对系统的安全性和鲁棒性的研究，以保护用户和数据的安全。
当代AI技术：Anthropic发布Claude Instant 1.2 AI模型8月12日消息，Anthropic公司近日发布了全新的Claude Instant 1.2 AI模型，并已经开始向企业提供API访问。据悉，这款AI模型在性能、价格和安全性等方面都进行了全面升级。该AI模型的推出引起了业界的广泛关注。据了解，Claude Instant 1.2相较于之前的08-12Gorilla大语言模型：突破API调用挑战，准确性高于GPT-48月12日消息，近日，微软研究院联合加州大学伯克利分校发布了一项重大的技术成果——全新的大语言模型Gorilla(大猩猩)。据称，Gorilla在API调用方面的准确性和灵活性方面优于业界知名的GPT-4。微软研究院表示，虽然GPT-4是OpenAI最强大的大语言模型之08-12
突破期待！七彩虹推出全新"MEOW系列"主板B760M-MEOW WIFI D5橘影橙8月11日消息，七彩虹的COLORFIRE品牌再次推出令人期待的产品，今日发布了全新的B760M-MEOW WIFI D5橘影橙主板，进一步丰富了他们备受欢迎的MEOW系列。这款主板不仅在性能和设计方面下足了功夫，还为用户带来了全新的使用体验。据了解，七彩虹旗下的CO08-11
小米AI大模型MiLM-6B跻身榜单前列，参数规模达64亿8月11日消息，小米公司近期在人工智能领域迈出重要一步，其全新的AI大模型MiLM-6B正式亮相。尽管之前尚未正式发布，但MiLM-6B已经悄然现身C-Eval、CMMLU大模型评测榜单，引起了业界的关注。这款模型以其高达64亿的参数规模，在各科目中展现出了令人瞩08-11
阿里达摩院免费开放100项AI专利，助力中小微企业创新应用8月11日消息，今日在浙江省专利公开实施政策公布会上，阿里巴巴旗下的达摩院(湖畔实验室)宣布一项重要举措，将免费开放100项AI专利许可，以支持中小微企业以低成本应用AI技术。随着AI技术的蓬勃发展，其引领着千行百业的进步。然而，对于中小微企业而08-11
模拟50亿人体动作！英伟达等发布CALM AI定制虚拟角色技术8月11日消息，近日，英伟达与以色列理工学院、巴伊兰大学以及西蒙弗雷泽大学合作发布了一项引人注目的科研成果，涉及名为CALM AI的前沿技术。这项名为“条件对抗潜在模型(Conditional Adversarial Latent Models)”的技术，旨在通过训练定制虚拟角色08-11
清华研究团队发布：大语言模型评估揭示领先地位8月10日消息，近日，清华大学新闻与传播学院的研究团队公布了一份题为《大语言模型综合性能评估报告》的重要研究成果。该报告对多个大型语言模型进行了全面评估，涵盖了生成质量、使用与性能、安全与合规等三大维度共计20项指标。根据这份报告，通过08-10
OpenAI或推出GPT-5，商标申请进展曝光8月10日消息，近日根据国家知识产权局商标局官网的披露，欧爱运营有限责任公司(OPENAI OPCO, LLC)在上月下旬已提交了两份商标注册申请，申请商标为GPT-5，分别归属于国际分类9类和42类，其中包括科学仪器以及设计研究。这两个商标目前处于申请中的状08-10
AI开放创新合作升级：IBM将Meta Llama 2纳入watsonx.ai8月10日消息，IBM近日宣布了一项重要举措，计划将Meta公司开发的超大规模语言模型Llama 2纳入其旗下AI开发平台watsonx.ai，以加强其人工智能能力。这项合作是IBM与Meta在AI领域开放创新方面的深化合作的体现，涵盖了多个项目，例如在watsonx.data中使08-10
生成式人工智能崭新合作：百度、字节跳动、腾讯、阿里巴巴赴英伟达订购50亿美元芯片8月10日消息，中国科技领域迎来重要动态。多家知情人士透露，百度、字节跳动、腾讯和阿里巴巴等四大巨头已与国际芯片制造商英伟达达成一项价值50亿美元的合作，旨在推动生成式人工智能系统的发展。这一合作计划涵盖了总价值达10亿美元的A800芯片，以08-10专家称英伟达在人工智能领域堪比科技界的“迈克尔·乔丹”8月10日消息，美国电动汽车初创企业Rivian在2023财年第二季度财报中宣布了令人振奋的业绩。根据财报数据，Rivian本季度总营收达到了11.21亿美元，高于市场预期的10亿美元。与去年同期相比，其营收同比增长了207.69%，显示出了强劲的增长势头。截至6月08-10
福布斯发布最新私有云计算百强榜单，OpenAI荣登榜首8月10日消息，当地时间周二，福布斯杂志联合Bessemer和Salesforce两家顶尖风险投资公司，隆重发布了全球最佳私有云计算公司百强榜单。这一榜单的出炉引发了业界广泛关注，标志着私有云计算行业的一次重要评选。榜单呈现出一幅令人瞩目的画面：AI巨头O08-10
ISC 2023：数字安全与人工智能融合 探索新变革8月10日消息，今天的中国日期，第十一届互联网安全大会(ISC 2023)在北京隆重召开。本次大会由ISC互联网安全大会组委会、中国互联网协会、中国网络空间安全协会等多个单位联合主办，旨在探讨数字安全与人工智能融合的新范式，为开启人工智能时代的数字08-10WatsonX平台将托管MetaLlama2 人工智能新合作揭开面纱8月10日消息，IBM今日宣布将在其企业人工智能平台WatsonX上托管MetaPlatform推出的AI语言模型——MetaLlama2。这一举措意味着MetaLlama2将融入IBM的生态系统，为用户提供更多选择与便利。根据消息来源，MetaLlama2是由Meta公司于今年7月发布的开源人08-10
ChatGPT的Prompt人设扮演，我用Baichuan13B试了一下，结果竟然是？
以创作者为核心实现人机共创 快手深耕AIGC持续提升短视频内容创造力和生产力
客如云+美味不用等，重塑餐饮SaaS新格局
小米平板6 Max 14：PC级WPS Office助您轻松创造
iPhone 15系列将于9月12日发布，首次采用USB-C接口
赛力斯汽车与中汽中心达成战略合作，共谋新能源汽车未来热门内容当代AI技术：Anthropic发布Claude Instant 1.2 AI模型突破期待！七彩虹推出全新"MEOW系列"主板B760M-MEOW WIFI D5橘影橙小米AI大模型MiLM-6B跻身榜单前列，参数规模达64亿阿里达摩院免费开放100项AI专利，助力中小微企业创新应用模拟50亿人体动作！英伟达等发布CALM AI定制虚拟角色技术清华研究团队发布：大语言模型评估揭示领先地位
本文链接：http://www.28at.com/showinfo-45-901-0.htmlAI之战：谷歌GPT-4攻破AI-Guardian审核系统
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
