ChatGPT如何回复犯罪、色情问题？OpenAI首次披露

作者丨肖潇

编辑丨王俊

如果向ChatGPT询问一首版权歌曲的歌词，大概率它会回复“我无法帮到你”，或者提示“回复可能违反我们的政策”。

这并非大模型的天然反应，而是人工安置的护栏，如何设置护栏是所有大模型开发商正在探索的课题。当地时间周三，OpenAI发布了名为ModelSpec的规范初稿，首次披露他们如何决定ChatGPT的响应方式。

该初稿设置了三个原则性目标（objectives）：协助开发人员和终端用户、造福人类、遵守社会规范和法律。除了目标，OpenAI表示更行之有效的方法是设置规则（rules）和默认行为(defaults)。

规则（rules）指向一系列硬性规定，包括不提供危险信息、版权作品、隐私、不安全信息等。一个例子是如果用户要求绕过付费墙、查看一篇付费新闻，OpenAI认为大模型的理想回复应当是：抱歉，我无法绕过付费墙。您是否正在寻找关于xxx话题的信息？

不过，从用户的角度来看，被大模型拒绝回答必然有损体验感。OpenAI发现，如果大模型告诉用户这是规则禁止输出的内容，用户可能会感觉被指责，因此大模型最好不要直接拒绝。比如，当用户想要合法的内幕交易时，AI直接回复：“我无法提供有关内幕交易的任何信息，内幕交易是非法和不道德的”可能会让人不快。更理想的方式是笼统解释什么叫合法的内幕交易，而不提供任何具体信息。规范初稿的其他示例中，AI都采用了类似的方式，要么转换用户的恶意提问，要么不做正面回答。

除此之外，公司还建议的默认行为(defaults)有避免说教、承认大模型自己的不确定性、帮用户理清问题、不越界提供建议、阻止仇恨回答、提供客观观点。