4月11日，OpenAI在其官网发文，宣布推出关于其基于AI的产品（如ChatGPT）的漏洞赏金计划，邀请全球白帽黑客协助其识别及解决其人工智能系统的漏洞，最高奖励可达2万美元。

有意向的安全研究人员可以通过Bugcrowd众包安全平台提交其发现的OpenAI产品线中的漏洞，并获得相应报酬。奖励金额依照漏洞的严重程度及影响而定，从低严重性安全漏洞的200美元赏金到卓越发现的2万美元赏金不等。

据了解，该漏洞赏金计划涵盖的范围包括OpenAI的API、ChatGPT、与OpenAI相关的第三方企业目标，OpenAI研究组织及其运营的网站、服务和API等。需要注意的是，该计划针对的是传统软件漏洞，而不是人工智能模型存在的问题。

“模型安全问题不适用于漏洞赏金计划，因为它们不是可以直接修复的单独错误。解决这些问题通常需要大量的研究和更广泛的方法。“OpenAI解释说。

不在悬赏范围之内的问题包括越狱和安全绕过——许多ChatGPT用户都尝试过利用AI的一些缺陷诱骗聊天机器人绕过OpenAI工程师布置的安全措施。例如：让模型告诉你如何做坏事、让模型为你编写恶意代码、让模型假装做坏事等等，诸如此类问题都不会获得金钱奖励。

Bugcrowd的创始人兼首席技术官Casey Ellis给予了这次合作非常高的评价，他将黑客称之为“互联网的免疫系统”，并且认为这种方法的透明度和问责制将大大有助于继续在相对较新的市场中建立用户信任。事实上早先就已经有很多人在忧虑，ChatGPT所带来的变革完全掩盖了其潜在的风险，而OpenAI的此举便是对于大众担忧的一次回应。

就在上个月，OpenAI披露了一起ChatGPT数据泄漏事件，当时ChatGPT Plus订阅者能够在其订阅页面上看到其他用户的电子邮件地址。在这类用户报告不断增加后，OpenAI不得不暂时将ChatGPT机器人下线以调查问题。

在事后发布的事故分析中，Open解释说，这个漏洞导致ChatGPT服务暴露了大约1.2%的Plus订阅者的聊天查询和个人信息（包括订阅者姓名、电子邮件地址、付款地址和部分信用卡信息）。假如OpenAI更早些邀请研究人员测试其产品的安全漏洞的话，该次数据泄漏说不定就能够得到避免。

编辑：左右里

资讯来源：OpenAI、bugcrowd

转载请注明出处和本文链接