热门聊天机器人ChatGPT背后的公司OpenAI周二宣布，将向报告其人工智能系统漏洞的用户提供高达2万美元的资金。
“我们的奖励范围从低严重性发现的200美元到特殊发现的20，000美元，”OpenAI说。该计划通过漏洞奖励平台Bugcrowd进行。
但OpenAI不接受ChatGPT的越狱行为，也不接受旨在欺骗人工智能程序违反自身规则的文本提示。自从ChatGPT第一次出现，用户就找到了越狱的方法，让聊天机器人回复脏话，写一些被禁止的政治话题，甚至创建恶意软件。
漏洞赏金计划也不接受ChatGPT生成不正确事实的报告。OpenAI说:“模型安全问题不适合一个漏洞奖励方案，因为它们不是可以直接修复的个别和不连续的错误。解决这些问题往往需要大量的研究和更广泛的方法。”
根据OpenAI的说法，发现的大部分初始优先级将使用漏洞赏金平台Bugcrowd的漏洞评级分类。但漏洞优先级和奖励可以根据可能性或影响进行修改，具体由OpenAI决定。如果存在降级问题，安全研究人员会得到详细的解释。
