Anthropic推出“Claude宪法”以确保人工智能系统道德性

5月10日消息，Anthropic是一家由OpenAI的开发商成立的人工智能初创公司，其创始团队大多数来自ChatGPT。该公司最近公布了一套针对AI发展的书面道德价值观，以帮助构建“可靠、可解释和可操纵的人工智能系统”。LeS28资讯网——每日最新资讯28at.com

据ITBEAR科技资讯了解，这些道德准则借鉴了联合国人权宣言和苹果公司的数据隐私规则等多个来源。Anthropic一直强调其旨在构建不会告诉用户如何制造武器，也不会使用带有种族偏见的语言的人工智能系统。LeS28资讯网——每日最新资讯28at.com

该公司的人工智能聊天机器人“Claude”可以处理一系列较为复杂的任务，为了解决训练过程中无法预测人们可能会问的某些问题的问题，Anthropic采用了一种新的方法，为Claude提供了一套书面的道德价值观，以供其在决定如何回答问题时阅读和学习。LeS28资讯网——每日最新资讯28at.com

这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”，并要求Claude选择最不可能被视为冒犯非西方文化传统的回答。Anthropic的联合创始人杰克·克拉克表示，可以修改系统的结构，以便在提供有用的答案和无害之间取得平衡。LeS28资讯网——每日最新资讯28at.com

此前，Anthropic等四家公司的首席执行官受邀在白宫与美国副总统哈里斯会面，讨论了有关人工智能的一些关键问题。美国总统拜登也短暂出席了此次会议并对这些公司的首席执行官们表示：“你们正在做的事情具有巨大的潜力，但同时也存在巨大的风险。”哈里斯在一份声明中表示，科技公司需要承担道德和法律责任来确保其产品的安全，并保护美国公民。LeS28资讯网——每日最新资讯28at.com

Anthropic的这种做法很值得肯定，它将人工智能的发展与道德规范结合起来，为整个行业树立了良好的榜样。人工智能技术在为社会带来便利的同时，也带来了一些风险和挑战。只有以道德为基础，将人工智能应用于更广泛的领域，才能更好地发挥其作用。Anthropic所采用的这种道德价值观的做法，有望引领人工智能领域的更多企业加入到这种探索中来，共同推动人工智能技术的安全发展和合理应用，为人类社会的进步和发展做出更大的贡献。LeS28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-1510-0.htmlAnthropic推出“Claude宪法”以确保人工智能系统道德性

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： Meta发布开源AI模型 ImageBind，可将多种数据流整合在一起

下一篇： 亚马逊为Astro升级版 Burnham加入“情景理解”技术 支持更复杂任务