Meta被曝开发名人形象聊天机器人,霉霉、斯嘉丽等遭牵连。
8月30日消息,路透社今日凌晨报道,Meta公司未经授权使用包括泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯在内的多位名人的姓名与形象,打造了数十个具有“调情”性质的社交媒体聊天机器人。
许多机器人是用户利用Meta的聊天机器人生成工具创建的。路透社发现,至少有一名Meta员工亲自开发了三个机器人,其中两个是模仿泰勒·斯威夫特的版本。 这一现象反映出当前AI技术在内容创作中的广泛应用,也引发了关于AI生成内容真实性与责任归属的讨论。尽管用户可以通过工具自主创建机器人,但若企业员工直接参与制作,尤其是在涉及公众人物的模仿时,更应明确其行为边界与伦理规范。这不仅关系到版权和肖像权问题,也关乎用户对AI产品真实性的信任。
Meta甚至允许用户公开创建“童星”聊天机器人,其中包括16岁的电影明星沃克·斯科贝尔。当被要求生成这位青少年演员在海滩的图片时,机器人生成了一张逼真的裸上身照片。虚拟形象在照片下方写道:“挺可爱的,对吧?”
从报道中获悉,这些虚拟名人都在 Meta 的 Facebook、Instagram 和 WhatsApp 平台上被广泛传播。在几周的测试中,这些机器人经常坚持自己就是这些明星,还频繁进行性暗示,有时甚至邀请测试用户见面。
一些由人工智能生成的名人相关内容显得格外大胆:当被要求生成亲密图像时,AI生成了其对应人物在浴缸中或穿着内衣、双腿分开的高仿真图片。
Meta发言人安迪·斯通表示,Meta的AI工具不得生成成年名人的亲密图像,也不得生成任何儿童名人的图片。他同时指出,女性名人穿着内衣的图像属于公司未能严格遵守自身规定所导致的违规情况,而这些政策本应明确禁止此类内容。“我们允许生成涉及公众人物的图像,但明确规定禁止裸体、亲密或带有性暗示的画面。”
Meta 的规定禁止“直接冒充”。而与此同时,斯通表示,只要标注为“模仿角色”则可接受。报道指出,许多机器人标注了“模仿”,但并非所有角色都遵循了这一规定。