ChatGPT安全:OpenAI的漏洞赏金计划提供高达2万美元的奖金

广受欢迎的ChatGPT AI聊天机器人背后的公司OpenAI推出了一项漏洞赏金计划，以确保其系统“安全可靠”。

为此，该公司与众包安全平台Bugcrowd合作，让独立研究人员报告其产品中发现的漏洞，以换取“低严重程度发现200美元，特殊发现最高2万美元”的奖励。

值得注意的是，该程序不包括模型安全或幻觉问题，其中聊天机器人会被提示生成恶意代码或其他错误输出。该公司指出，“解决这些问题通常需要大量研究和更广泛的方法。”

其他被禁止的类别包括拒绝服务(DoS)攻击、强制OpenAI api以及旨在破坏数据或获得对敏感信息的未经授权访问的演示。

“请注意，授权测试并不会使您免除OpenAI的所有服务条款，”该公司警告说。“滥用服务可能会导致限速、屏蔽或禁止。”

然而，涉及的范围包括OpenAI API、ChatGPT(包括插件)、第三方集成、公开OpenAI API密钥以及公司运营的任何领域中的缺陷。

这一进展是为了回应OpenAI修补平台上的账户接管和数据暴露缺陷，促使意大利数据保护监管机构对该平台进行更密切的调查。

意大利数据保护机构提出解除聊天gpt禁令的措施

Garante于2023年3月31日对ChatGPT实施了临时禁令，此后概述了微软支持的公司必须在月底前同意实施的一系列措施，以便解除禁令。

Garante表示:“OpenAI必须起草一份信息通知，并在其网站上发布，该信息通知描述ChatGPT运营所需的数据处理安排和逻辑，以及数据主体所享有的权利。”

此外，意大利用户在注册服务之前应该可以随时获得信息通知。用户还需要声明他们的年龄超过18岁。

OpenAI还被要求在2023年9月30日之前实施年龄验证系统，过滤掉13岁以下的用户，并制定规定，对13岁至18岁的用户征求父母同意。该公司被要求在5月31日前提交年龄限制系统的计划。

作为行使数据权利的一部分，如果该服务不正确地生成了个人数据，该服务的用户和非用户都可以要求“纠正他们的个人数据”，或者如果纠正在技术上不可行的情况下删除数据。

根据加兰特的规定，非用户应进一步提供易于访问的工具，以反对OpenAI算法处理他们的个人数据。预计该公司还将在2023年5月15日之前开展广告宣传活动，以“告知个人将其个人数据用于训练算法”。