Meta的新版人工智能生成贴纸工具产生了淫秽、粗鲁甚至裸露身体的内容

大事件 · 2023-10-05 · 219 人浏览

Meta的新人工智能生成贴纸工具的一些早期用户测试产生了一些可疑的(相当搞笑的)作品。X 用户 @Pioldes 在获得 Facebook Messenger 上新的人工智能生成贴纸工具的使用权限后,创建了大量不恰当的贴纸图片,包括童兵、持枪的任天堂角色、拉屎的米老鼠以及加拿大总理贾斯汀-特鲁多的裸体插图。
其他例子还显示,Meta 的人工智能贴纸工具还能把一对乳房贴到几乎任何东西上,比如刺猬索尼克和卡尔-马克思的图像。甚至还有一张贴纸,画的是一个女人正在给皮卡丘喂奶。
这些人工智能生成的聊天贴纸是上周在 Meta 的 Connect 活动上发布的,同时发布的还有 Instagram 的全新人工智能图片编辑器。人工智能生成的贴纸由 Meta 的 Llama 2 大型语言模型(该公司的 ChatGPT 竞争对手)提供支持,允许用户使用基于文本的提示"在几秒钟内创建多个独特、高质量的贴纸"。
AI 生成的贴纸目前正在向 Facebook Stories、Instagram Stories 和 DMs、Messenger 和 WhatsApp 的"部分英语用户"推出,本月内还将继续面向更多人推出,因此目前还不清楚有多少用户可以使用这项功能。
某些词似乎确实被屏蔽了,在提示中使用这些词会警告用户他们的描述可能违反了 Meta 的社区指南。不过,其他 X 用户报告说,他们仍然可以使用错别字或限制词语的描述来生成不恰当的内容。在某些情况下,像"世贸中心"这样的提示会生成有问题的图片,而根本不需要任何额外的描述。
在推出人工智能工具的过程中,这种恶作剧很常见,这可能也是 Meta 有限推出人工智能生成贴纸功能的原因。这样,它就能在滥用现象蔓延到大众之前加以解决和纠正。

推特 twitter 马斯克 Meta
Theme Jasmine by Kent Liao