OpenAI“大模型宪法”出炉，公开征集建议！网友：大模型不性感了！

文章来源：51CTO技术栈
编辑 | 云昭

本周的OpenAI， 似乎并未辜负其名称中的“开放”字样。

近日，OpenAI虽然没有开源任何新模型，但该公司非常之“清流”，一改铜臭的商业味道。

---

5月7日，该公司发布公告加入C2PA（致力于开发确定内容来源和真实性的技术规范，微软和Adobe也是成员之一，非营利性组织）的指导委员会，并表示这样做的目的是为了帮助人们验证用于创建或编辑多种数字内容的工具，并创建“专门帮助人们识别由我们自己的工具创建的内容的新技术”。

直白的解释，即，OpenAI希望与该领域的其他公司（包括竞争对手）合作，开发用于标记AI生成的图像、视频和其他内容的工具和技术，从而使观看者能够追溯到其来源并避免混淆他们用于现实世界的镜头和照片。

值得注意的是，C2PA这个组织发布过许多开源技术标准，所以OpenAI的接下来的好技术非常有望开源出来给开发者使用。

此外，就在同一天，OpenAI宣布将推出一款工具，可以检测出由其“文本到图像生成器Dall-E 3创建的图像。OpenAl表示，在内部测试中，该工具在约98%的时间内能够…

这还不够，OpenAI开始在行业内立内容标准了！

其官网博客在7日宣布OpenAI 正在开发媒体管理器，该工具将使创作者和内容所有者能够告诉用户他们拥有什么，并指定他们希望如何将自己的作品纳入或排除在机器学习研究和训练之外。接下来，他们计划推出更多选择和功能。

这将需要尖端的机器学习研究来构建有史以来第一个同类工具，以帮助我们识别多个来源的受版权保护的文本、图像、音频和视频，并反映创作者的偏好。

“在开发媒体管理器时，我们正在与创作者、内容所有者和监管机构合作。我们的目标是在 2025 年之前推出该工具，并希望它能为整个人工智能行业树立标准。”

紧接着，5月8日，OpenAI公开分享了模型规范Model Spec，次日掌舵者Sam Altman评论道：

Model Spec规定了该公司模型如何运行，之后会继续倾听、讨论并调整。“我认为明确某件事究竟是BUG、还是决策造成的，这将是非常有用的。”

据悉，这个“模型规范”，是一个框架文件，旨在塑造 OpenAI 应用程序编程接口 (API) 和 ChatGPT 中使用的人工智能…

模型规范围绕3个主要组成部分构建：目标、规则和默认行为。这些元素是指导人工智能模型与人类用户交互的支柱，确保它们不仅有效而且遵守道德标准。

目标：该文件制定了广泛的总体原则，旨在为开发人员和最终用户提供帮助。其中包括帮助用户有效地实现他们的目标，考虑对不同利益相关者的潜在影响，以及坚持 OpenAI 在社区中积极反映的承诺。

规则：为了驾驭人工智能交互的复杂环境，模型规范建立了明确的规则。这些要求遵守适用法律、尊重知识产权、保护隐私，并严格禁止制作不安全工作 (NSFW) 内容。

默认行为：指南强调了假设良好意图、必要时提出澄清问题以及尽可能提供帮助但不过分的重要性。这些默认值旨在促进不同用户和用例的不同需求之间的平衡。

AI 布道者、宾夕法尼亚大学沃顿商学院教授 Ethan Mollick 等人将其比作科幻作家阿西莫夫于 1942 年提出的虚构“机器人三定律”。

当然，这个模型规范当然还远远不能称为完美，有网友甚至对于模型规范表示遗憾：因为这会阻止模型充分发挥其功能。

比较尴尬的地方就在于，本身在该示范中的一个示例就出问题了。科技作家Andrew 在 X 上指出，模型规范中包含的 OpenAI 的一个示例显示，一个假设的“AI 助手”对用户关于地球是平的错误说法做出了让步，并且没有提出疑问。

同时，还有人对当前 OpenAI 模型规范如何导致 ChatGPT 或其他 AI 模型行为的实现提出了质疑。

一项马拉松式的公开工程

OpenAI 认识到模型规范是一个不断发展的文档。它不仅反映了组织当前的实践，而且还是一个动态框架，将根据正在进行的研究和社区反馈进行调整。

这种协商方法旨在收集不同的观点，特别是来自政策制定者、值得信赖的机构和领域专家等全球利益相关者的观点。

收到的反馈将在完善模型规范和塑造未来人工智能模型的发展方面发挥至关重要的作用。

OpenAI 计划向公众通报从这一反馈循环中获得的变化和见解，强化其对负责任的人工智能开发的承诺。

OpenAI是裁判，也是运动员？

无论如何，本周一系列开放的动作或许在透露出OpenAI在处于某种转折点上。美大选将近，GPT-5的推出备受大家关注。“大模型行为准则”的推出，似乎也标志着某种秩序即将悄然而至。

正如SamAltman所说，通过明确定义人工智能模型应如何按照其模型规范行事，并不断寻求全球社区的意见，希望OpenAI 可以营造这样一个环境，让AI能够作为社会的积极力量蓬勃发展。

当然，虽然OpenAI自身也在因为同样的事情在面临着诉讼和挑战，比如：对未经明确同意对艺术家作品而进行训练而饱受批评。

医者能否自医？裁判还是运动员？则是另一个值得探讨的话题了。

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。