Facebook 的新人工智能生成贴纸淫秽、粗鲁，有时甚至是裸体

Meta 的新人工智能生成贴纸工具的一些早期用户测试导致了一些可疑（而且相当搞笑）的创作。在 Facebook Messenger 上使用新的人工智能生成贴纸工具后，X 用户 @Pioldes能够创建大量不恰当的贴纸图像，包括儿童兵、持枪的任天堂角色、拉屎的米老鼠和裸体插图。加拿大总理贾斯汀·特鲁多。

其他例子表明，从刺猬索尼克和卡尔·马克思的丰满图像来看，Meta 的人工智能贴纸工具也能愉快地把一对乳房贴到……嗯，几乎任何东西上。甚至还有一张贴纸，描绘了一个女人正在给皮卡丘哺乳。

上周在 Meta 的 Connect 活动上宣布了人工智能生成的聊天贴纸，以及 Instagram 的新人工智能图像编辑器。由 Meta 的Llama 2 大语言模型（该公司的 ChatGPT 竞争对手）提供支持，人工智能生成的贴纸允许用户使用基于文本的提示“在几秒钟内创建多个独特的高质量贴纸”。人工智能生成的贴纸目前正在本月向 Facebook Stories、Instagram Stories 和 DM、Messenger 和 WhatsApp 的“精选英语用户”推出，因此目前尚不清楚有多少用户可以使用该功能。

某些单词似乎确实被阻止，在提示中使用它们会警告用户它们的描述可能违反 Meta 的社区准则。然而，其他 X 用户报告说，您仍然可以使用拼写错误或限制词的描述来生成不适当的内容。在某些情况下，像“世界贸易中心”这样的提示会生成有问题的图像，而根本没有任何附加描述符。

这种愚蠢的行为在人工智能工具的推出中很常见，这可能也是Meta 寻求有限推出人工智能生成贴纸功能的原因。这样，它就可以在虐待行为蔓延到大众之前解决并纠正虐待行为。我们已联系 Meta 征求意见，如果收到回复，我们将更新此报道。