Hi!请登陆

Facebook 的新人工智能生成贴纸淫秽、粗鲁,有时甚至是裸体

2023-10-5 138 10/5

一些 Facebook Messenger 用户发现该功能可能会生成不恰当的图像,包括儿童兵、裸体政客和大量胸部图像

Facebook 的新人工智能生成贴纸淫秽、粗鲁,有时甚至是裸体

您相信这可能是我们可以在这里使用的最安全的图像吗?
 图片:Meta / @Pioldes

Meta 的新人工智能生成贴纸工具的一些早期用户测试导致了一些可疑(而且相当搞笑)的创作。在 Facebook Messenger 上使用新的人工智能生成贴纸工具后,X 用户 @Pioldes能够创建大量不恰当的贴纸图像,包括儿童兵、持枪的任天堂角色、拉屎的米老鼠和裸体插图。加拿大总理贾斯汀·特鲁多。

其他例子表明,从刺猬索尼克卡尔·马克思的丰满图像来看,Meta 的人工智能贴纸工具也能愉快地把一对乳房贴到……嗯,几乎任何东西上。甚至还有一张贴纸,描绘了一个女人正在给皮卡丘哺乳。

上周在 Meta 的 Connect 活动上宣布了人工智能生成的聊天贴纸,以及 Instagram 的新人工智能图像编辑器。由 Meta 的Llama 2 大语言模型(该公司的 ChatGPT 竞争对手)提供支持,人工智能生成的贴纸允许用户使用基于文本的提示“在几秒钟内创建多个独特的高质量贴纸”。人工智能生成的贴纸目前正在本月向 Facebook Stories、Instagram Stories 和 DM、Messenger 和 WhatsApp 的“精选英语用户”推出,因此目前尚不清楚有多少用户可以使用该功能。

某些单词似乎确实被阻止,在提示中使用它们会警告用户它们的描述可能违反 Meta 的社区准则。然而,其他 X 用户报告说,您仍然可以使用拼写错误或限制词的描述来生成不适当的内容。在某些情况下,像“世界贸易中心”这样的提示会生成有问题的图像,而根本没有任何附加描述符。

这种愚蠢的行为在人工智能工具的推出中很常见,这可能也是Meta 寻求有限推出人工智能生成贴纸功能的原因。这样,它就可以在虐待行为蔓延到大众之前解决并纠正虐待行为。我们已联系 Meta 征求意见,如果收到回复,我们将更新此报道。

相关推荐