Anthropic 开源“思维追踪”工具，可视化揭秘 AI 内部逻辑

5 月 30 日消息，Anthropic 昨日（5 月 29 日）发布博文，宣布推出“思维追踪”（Circuit Tracer）开源工具，以图形化方式，追踪并展示 AI 大语言模型的内部思维过程。7Sn28资讯网——每日最新资讯28at.com

该工具通过构建“归因图”（Attribution Graph），帮助研究者可视化模型内部运作，并支持交互式探索。这一项目由 Anthropic Fellows 程序的参与者与专注 AI 解释性研究的 Decode Research 团队联合推动，旨在提升 AI 安全性。7Sn28资讯网——每日最新资讯28at.com

7Sn28资讯网——每日最新资讯28at.com

Circuit Tracer 已在 GitHub 平台以开源库形式发布，研究者可通过由 Decode Research 运营的 Neuronpedia 平台，使用交互式前端查看“归因图”。7Sn28资讯网——每日最新资讯28at.com

7Sn28资讯网——每日最新资讯28at.com

用户使用该工具，不仅能生成自定义的归因图，追踪支持模型的内部逻辑，还能对图形进行标注、分享，甚至通过调整特征值观察模型输出的变化，从而验证研究假设。7Sn28资讯网——每日最新资讯28at.com

Anthropic 表示，当前对 AI 内部结构的理解远远落后于其功能进步。开源这些工具将助力更广泛的社区深入探究语言模型的内部运作，理解模型行为，并为工具的改进和扩展提供可能。7Sn28资讯网——每日最新资讯28at.com

7Sn28资讯网——每日最新资讯28at.com

附上参考地址7Sn28资讯网——每日最新资讯28at.com

Open-sourcing circuit tracing tools7Sn28资讯网——每日最新资讯28at.com

GitHub 页面7Sn28资讯网——每日最新资讯28at.com

gemma-2-2b Attribution Graph ｜ Neuronpedia7Sn28资讯网——每日最新资讯28at.com

本文链接：http://www.28at.com/showinfo-45-13295-0.htmlAnthropic 开源“思维追踪”工具，可视化揭秘 AI 内部逻辑

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： Yandex 发布最大音乐推荐开源数据集 Yambda

下一篇： 谷歌联合创始人谢尔盖・布林：AI 颠覆搜索，从导航工具升级为洞见提供者