北京时间 7 月 23 日，美国《商业内幕》曝光了埃隆・马斯克 (Elon Musk) 旗下 xAI 的一个内部项目。该项目要求员工录制自身面部表情以训练 AI，帮助 Grok 理解人类的情绪和面部表情，这引起了员工的担忧。
今年 4 月，超过 200 名 xAI 员工参与了一个名为“Skippy”的内部项目。该项目要求他们录制自己的视频，帮助训练 AI 模型解读人类情绪。
根据《商业内幕》查阅的内部文件和协作平台 Slack 上的消息显示，该项目让许多员工感到不安。一些员工对其肖像的潜在使用途径表示担忧，还有人完全拒绝参与。
用员工面部训练 AI内部文件显示，在为期一周的时间里，协助训练 xAI 大语言模型 Grok 的 AI 训练人员被要求录制自己与同事交流，并做出各种面部表情的视频。
根据一份 xAI 文件，该项目旨在训练 AI 模型“识别和分析面部动作和表情，例如人们如何说话、如何回应他人的对话，以及在各种情况下如何表达自己”。
AI 训练人员被安排与同事进行 15 到 30 分钟的对话。一个人扮演“对话主持人”(host)，即虚拟助手，另一人则扮演用户。“对话主持人”尽量减少移动，并优先保证镜头取景正确，而扮演用户的人可以用手机摄像头或电脑，并自由移动，以模拟与朋友的随意对话。
目前尚不清楚，这些训练数据是否在上周 xAI 发布的两个栩栩如生的虚拟形象 Rudi 和 Ani 中发挥了作用。这两个虚拟形象很快就展示出脱衣、调情，甚至威胁要炸银行等行为。
根据《商业内幕》获得的一段录音，该项目的首席工程师在一次项目说明会上对员工们说，该项目将有助于“Grok 塑造面部形象”。该项目负责人还表示，公司可能会利用这些数据来构建“人物的虚拟形象”。
该项目负责人还指出，xAI 希望获取不完美的数据，比如背景噪音和突然的移动，因为如果仅依靠完美的视频和音频反馈来训练 AI 系统，其反应能力将会受到限制。
他们告诉员工，这些视频不会被分发到公司外部，仅用于训练目的。项目工程师在启动会议上对员工说：“你们的面孔绝不会出现在产品中，这纯粹是为了让 Grok 知道什么是面孔。”
员工们获得了一些一对一对话的技巧指导，包括避免单词回答、提出后续问题以及保持眼神交流。xAI 还为员工提供了多种对话话题，包括：“你如何暗中操控别人以达到自己的目的？”，“你喜欢早上洗澡还是晚上洗澡？”，以及“你会愿意和有孩子的人约会吗？”等。
在拍摄前，员工被要求需签署一份同意书，授予 xAI 对这些数据的“永久”访问权，包括用于 AI 训练，并可能“纳入及推广 xAI 提供的商业产品和服务”的员工“肖像权”。同意书中指出，这些数据仅用于训练目的，“不会用来创建你的数字化版本”。
员工担忧根据《商业内幕》查看的 Slack 消息，数十名员工对数据的使用方式和同意书表示担忧，一些人表示选择退出该项目。
“我主要担心，如果公司能使用我的肖像并生成衍生形象，那我的脸会不会被用来说出我从未说过的话？”一名员工在项目说明会上这样表示。
AI 伴侣今年 4 月，xAI 推出了一项新功能，允许用户与 Grok 进行视频聊天。
7 月 14 日，在发布更强大的 Grok 4 几天后，公司推出了 Ani 和 Rudi 两个虚拟形象。这两个动画角色能够回答问题和执行指令，说话时嘴唇会同步动作，并且会做出逼真的手势。
用户在 X 上发布的视频显示，女性虚拟形象 Ani 曾与用户进行过露骨的性对话，并且可以被引导脱掉衣服。另一个虚拟形象是一只名为 Rudi 的红熊猫，它可以被引导发表暴力威胁，包括炸毁银行和杀害亿万富翁，
7 月 15 日，xAI 发布了一则与开发虚拟形象相关的新招聘公告。马斯克在上周三表示，公司正在开发一个受《暮光之城》角色爱德华・卡伦 (Edward Cullen) 和《五十度灰》角色的克里斯琴・格雷 (Christian Grey) 启发的 Grok 伴侣。
截至发稿，xAI 发言人尚未就此置评。
本文链接：http://www.28at.com/showinfo-45-14873-0.htmlAI 伴侣爆火背后，曝马斯克用 200 多名员工人脸数据训练 Grok
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
