目前非开源的鉴于文字生成图像类人工智能应用都是禁止用户生成任何色情内容的，如果用户尝试在提示词中描述相关词汇可能会被系统自动拦截，用户允许严重的期望情况下甚至有可能会被平台封禁账号。

这种共识至少现阶段是考虑被各种人工智能模型普遍遵守的，但如果是人们开源 / 开放可以在本地运行的人工智能模型，自然没有这种限制，通过图片用户完全可以自己部署并生成任何内容。生成色情

现在 OpenAI 已经开始考虑是造人否要放开这个限制，即允许用户通过诸如 DALL-E 3 等文本生成图像模型来生成色情图片。蓝点

OpenAI 似乎已经了解到用户可能对通过人工智能生成色情图片有着期望，鉴于因此需要探索能否在负责任的用户允许前提下，在适合年龄的期望环境中生成 NSFW 内容 (注：NSFW 指的是不适合上班浏览，用于代指各类色情或令人不适的考虑内容等)。

需要强调的人们是 OpenAI 考虑的不仅是文本生成图片，按照讨论诸如利用 ChatGPT 生成色情类的通过图片文本内容也是可以的，当然这都可能需要验证年龄确保用户在已经成年的情况下使用。

对于生成图片类，尽管 OpenAI 考虑允许使用人工智能生成色情图片 (甚至包括未来使用 OpenAI Sora 模型生成色情视频)，但前提是不得使用深度伪造 (DeepFake)，即用户不得生成用来伪造他人色情内容的图片。

现阶段这些还是讨论，该公司希望确保用户在不违反法律或他人权利的情况下，最大程度的拥有控制权、可以生成自己想要的任何内容而不会被限制。

另外 OpenAI 强调讨论这些内容不代表该公司已经在尝试开发人工智能色情相关的内容，所以要等讨论结束后 OpenAI 才会做决定，即是否放开这类限制。

(责任编辑：综合)