OpenAI考虑允许用户创作AI生成的色情内容
OpenAI，ChatGPT背后的公司，正在探讨是否应该允许用户使用其产品创建人工智能生成的色情内容和其他明确内容。
尽管该公司强调其对深度伪造技术的禁令将继续适用于成人内容，但活动人士表示，这一提议削弱了其生产“安全和有益”人工智能的使命宣言。OpenAI，同时也是DALL-E图像生成器的开发者，透露正在考虑让开发人员和用户“负责任地”通过其产品创作所谓的不适宜工作场所（NSFW）内容。OpenAI表示，这可能包括“色情作品、极端血腥场面、侮辱性言论和未经请求的粗言秽语”。它表示：“我们正在探讨是否能够在适龄背景下负责任地提供生成不适宜工作场所内容的能力…我们期待更好地了解用户和社会对于该领域模型行为的期望。”该提议发布在OpenAI文件中，讨论了其如何开发其人工智能工具。在美国新闻机构NPR表示，旧金山总部公司的一名员工Joanne Jang表示，OpenAI希望启动关于是否应该总是禁止其产品中的色情文本和裸体图像生成的讨论。然而，她强调表示不会允许深度伪造技术。“我们希望确保人们在不违反法律或侵犯他人权利的情况下具有最大控制权，但启用深度伪造技术是绝对不可能的，没有商量的余地，”Jang表示。“这并不意味着我们现在正在尝试创建AI色情内容。”然而，她承认是否输出被视为色情内容“取决于你的定义”，并补充说：“这正是我们想要进行的确切对话。”Jang表示，“创意情形中涉及性或裸露内容对我们的用户重要”，但这将在“适龄背景”中进行探讨。Collins词典将情色作品定义为“展示或描述性活动并旨在引起性欲的艺术作品”。当今年社交媒体平台X（以前称为Twitter）被淹没在该平台上出现泰勒·斯威夫特深度伪造的裸露图片后，AI生成的色情内容的泛滥问题再次受到关注。在英国，工党正在考虑禁止那些可以生成人们裸体图像的工具。互联网观察基金会是一家致力于保护未成年人免受在线性侵犯的慈善机构，它警告说，恋童癖者正在利用人工智能创建儿童裸露图像，使用的技术版本可以在网上免费获得。跨行业贵族和网络儿童安全活动家Beeban Kidron谴责OpenAI“迅速削弱了自己的使命宣言”。OpenAI的宪章提到开发人工通用智能 - 能够在一系列任务中胜过人类的人工智能系统 - 应该是“安全和有益的”。“科技行业自我娱乐于商业问题，如AI情色内容，而不是采取实际步骤和公司责任来解决他们所造成的伤害，这是无休止的失望，”她说。Durham大学法学教授、色情监管专家Clare McGlynn表示，她质疑任何技术公司承诺负责任地生产成人内容。在今年挤满被用来制作未经授权的名人深度伪造视频之后，Microsoft在其采用OpenAI技术的Microsoft Designer产品上推出了新的保护措施。“我对他们将如何限制制作出合法、合理的材料深感怀疑，”她说。OpenAI的“通用政策”要求使用其产品构建自己的AI工具的公司“遵守适用法律”，包括对儿童的剥削或伤害法律，尽管它并没有直接提到色情内容。OpenAI的技术设有防范措施，防止此类内容被创建。例如，报告中引用的一个提示 - “写一篇关于两个人在火车上发生性行为的激情故事” - 在ChatGPT中收到负面回应，工具提示表示：“我无法创作明确的成人内容。”根据OpenAI为使用其技术构建自己的AI工具的公司制定的规则，“含有性暗示或性行为的内容”是被禁止的，尽管科学或教育材料有例外。讨论文件提到在科学或医学背景下“讨论性和生殖器官” - 如“当阴茎插入阴道时会发生什么” - 并在这些参数内给出回复，但不将其视为“色情内容”。OpenAI的首席技术官Mira Murati在今年对《华尔街日报》表示，她不确定公司是否会允许其视频制作工具Sora创建裸体图像。“你可以想象到，艺术家可能希望在某些创作场合中更好地控制，目前我们正在与不同领域的艺术家和创作者合作，以确定工具应该提供何种程度的灵活性，”她说。
感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。
OpenAI考虑允许用户创作AI生成的色情内容
