OpenAI升级《准备框架》，细化AI风险分类强化安全措施

OpenAI近期在其官方渠道宣布了一项重要更新，旨在加强对前沿人工智能（AI）技术潜在风险的监控与应对。4月16日，这家科技巨头发布了一份新版《准备框架》，该框架是OpenAI内部用于评估AI模型安全性的核心系统，旨在确保在开发和部署过程中能够识别并缓解潜在风险。6s528资讯网——每日最新资讯28at.com

新版的《准备框架》采用了更为聚焦的方法，不仅强化了风险最小化的要求，还为组织如何评估、治理和公开披露安全措施提供了明确的指导。OpenAI承诺，随着技术的不断进步，将持续投入更多资源，以增强准备工作的行动力、严谨性和透明度，确保AI技术的安全发展。6s528资讯网——每日最新资讯28at.com

该框架通过一套结构化的风险评估流程，为高风险AI能力设定了清晰的优先级标准。每一项前沿能力都将根据既定的标准进行分类，并追踪其是否符合五项关键标准。这一流程旨在判断某项AI能力是否可能导致严重危害，从而采取相应的预防措施。6s528资讯网——每日最新资讯28at.com

新版框架还引入了更为细化的能力分类，包括追踪类别、网络安全能力以及AI自我改进能力等。OpenAI认为，这些领域将带来AI在科学、工程和研究领域的最具变革性的益处，但同时也需要更加密切的关注和监管。6s528资讯网——每日最新资讯28at.com

除了上述分类外，框架还新增了研究类别，涵盖了那些可能造成严重危害但尚未达到追踪标准的领域，如长距离自主性、故意低表现以及自主复制与适应等。这些新增的研究类别为OpenAI提供了更为全面的视角，以识别和应对潜在的AI风险。6s528资讯网——每日最新资讯28at.com

在能力等级方面，新版框架进行了简化，将能力等级划分为“高能力”和“关键能力”两个门槛。无论AI能力属于哪个等级，在开发和部署前都需要采取充分的安全措施，以降低可能带来的严重危害风险。这一举措确保了OpenAI在AI技术的开发和部署过程中始终保持高度的警惕性和责任感。6s528资讯网——每日最新资讯28at.com

为了确保安全措施的有效性和可行性，OpenAI内部的安全顾问小组将对这些措施进行审查，并向领导层提出专业建议。框架还引入了可扩展的评估机制，支持更频繁的测试，并通过详细的Safeguards Reports报告安全措施的设计强度和验证效果。这一机制确保了OpenAI在应对AI风险时能够保持高度的灵活性和适应性。6s528资讯网——每日最新资讯28at.com

值得注意的是，如果其他AI开发者发布了缺乏同等安全措施的高风险系统，OpenAI可能会调整自身的要求。但在做出任何调整之前，OpenAI将先确认风险形势的变化，并公开承认调整，以确保不会增加整体风险。这一举措体现了OpenAI在AI技术发展和安全监管方面的责任感和担当。6s528资讯网——每日最新资讯28at.com

举报 0收藏 0打赏 0评论 0分享 0  更多>同类资讯DeepSeek引领AI原生App热潮，活跃用户数激增近翻倍！04-16卓越信通闪耀高速信息化大会，以科技力量推动智慧交通新时代04-15义乌国际商贸城牵手阿里，共绘全球贸易AI时代新蓝图04-15东方通财务造假风波持续：募资项目延期，审计团队频繁变动引关注事实上，在东方通被立案之前（2024年12月13日），作为东方通的审计机构北京德皓国际因在执行东方通2023年财报审计项目时存在风险评估、控制测试、实质性程序、底稿记录等方面的问题，被北京证监局采取出具警示…04-15绝味食品20周年：数智化转型引领零售连锁新未来04-15我国人形机器人国家标准获批，产业发展步入快车道04-15珀莱雅迎来CDO时代，国货美妆巨头全面加速数字化进程04-15智谱AI冲刺科创板IPO，大模型行业独角兽能否引领上市潮？04-152025前瞻：中国时尚运动服装智慧仓储市场规模及竞争格局概览04-15纬钛机器人获近亿元天使轮融资，小米战投领投，赋能下一代智能机器人04-15大厂AI竞赛白热化：斯坦福报告透视国内巨头布局与战略差异在知名模型数量榜单上，排名领先的五家国产机构分别是：阿里、字节、DeepSeek、腾讯和智谱。财报会上，马化腾透露，腾讯在数月前重组了AI团队以聚焦于快速产品创新及深度的模型研发、增加了AI相关的资本开支、…04-15DeepSeek效应下，马云力挺阿里云，AI云竞争步入新阶段？在基础产品侧，从传统四大件（计算、存储、网络、数据库）到支持私有化部署的大模型一体机，为适配DeepSeek模型，云厂商既可以顺势推出标准化产品进行迭代，也可以交叉售卖其他云产品和配套服务，同时政企侧对国产…04-15AMD苏姿丰力荐：AI教育普及化，人人皆需掌握的新技能04-15快手可灵2.0视频大模型发布，语义响应与动态质量全面升级，能否引领AI创作新潮流？在本次2.0模型迭代中，可灵AI还正式发布AI视频生成的全新交互理念Multi-modal Visual Language（MVL），让用户能够利用图像参考、视频片段等多模态信息，将脑海中的复杂创意直接高效…04-15致态西安财经大学校园行，存储新品引爆学生热情！04-15点击查看更多 +全站最新一汽-大众重塑市场地位：以技术为矛，品质服务为盾引领新潮流香港车市变局：自主品牌新能源MPV崛起，小鹏X9挑战传统霸主？极氪007GT震撼登场：20.29万起售，10分钟快充续航增440公里小鹏X9全球旗舰震撼发布，智能科技重塑家用MPV舒适新标杆！广汽本田P7震撼上市，纯电中型SUV市场迎来新王者？沃尔沃全新XC90大变样，六座版来袭，47.9万起售能否撼动市场？热门内容

• 某大厂大模型高管涉婚变，公司账号停用引热议
• 华为Pura X震撼发布：独特“阔折叠”形态，售价7499元起引领新潮流！
• 立陶宛高校：学生不当使用AI，学术不端遭开除
• 诺奖得主彭罗斯：AI无真正意识，不应等同人类智能
• 英伟达推出DGX Spark与Station个人AI超算，Spark版售3000美元起
• 315曝光信息黑洞后，辽宁云企智能科技经营异常被列入名录
• 比尔·盖茨展望：AI将深度改造行业，人类生来不为工作？
• 华为4月新品大爆发：智能眼镜钛空版、门锁2系列及星闪路由X1来袭
• 微信生态AI赋能，视频号、搜一搜、小店共铸增长新篇章
• 魅族愚人节“玩笑”？官宣跨世代AI硅基人战神Note 16号仅售1999元
• 豆包大模型负责人飞书停用，内部风波起？真相待解
• AI预测彩票中奖？专家揭秘：中奖号码随机，预测纯属骗局
• 华为Pura X折叠新机亮相：内外双屏+天通卫星通信，全新小艺更智能！
• 快手2024成绩单：年营收破千亿，AI驱动内容与商业生态再升级
• 国产芯片设备新突破：新凯来发布31款新品，半导体产业迎黄金年代？

本栏最新DeepSeek引领AI原生App热潮，活跃用户数激增近翻倍！卓越信通闪耀高速信息化大会，以科技力量推动智慧交通新时代义乌国际商贸城牵手阿里，共绘全球贸易AI时代新蓝图东方通财务造假风波持续：募资项目延期，审计团队频繁变动引关注绝味食品20周年：数智化转型引领零售连锁新未来珀莱雅迎来CDO时代，国货美妆巨头全面加速数字化进程

本文链接：http://www.28at.com/showinfo-16-144535-0.htmlOpenAI升级《准备框架》，细化AI风险分类强化安全措施

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 一加 Nord CE5 渲染图曝光：垂直双摄设计，硬朗外观引关注

下一篇： 尼康Z5II：全能星舰，如何以光影叙事拓宽创作边界？