非法阻止员工披露AI安全风险，OpenAI严厉「封口协议」再遭举报
机器之心报道
OpenAI 在人工智能领域的领头羊地位家喻户晓。其产品聊天机器人 ChatGPT 系列、文生图 DALL・E 系列、文生视频 Sora 等都被誉为生产力提升的超强助手
据透露，OpenAI 内部正在一个代号为「草莓（Strawberry）」的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过，而 OpenAI 正努力证明其提供的各类模型能够提供高级推理能力。不过 OpenAI 现在似乎正陷在另一场风波当中。
据《华盛顿邮报》报道，一位举报人向美国证券交易委员会（SCE，Securities and Exchange Commission）提出投诉，指控这家人工智能公司非法禁止其员工警告监管机构其技术可能对人类构成的严重风险，并要求进行调查。
代表匿名举报者的律师将这封信寄给了美国证券交易委员会主席 Gary Gensler。信中提到了一份单独的正式投诉，要求美国证券交易委员会调查 OpenAI 的离职、非贬损和保密协议。
这封信中谈道：「这些协议禁止并阻止员工和投资者就证券违规行为与 SEC 沟通，强迫员工放弃举报人奖励和补偿的权利，并要求员工将与政府监管机构的沟通情况通知公司。」
信中还称，SEC 已获得证据，证明 「OpenAI 之前的保密协议违反了法律，要求其员工签署非法的限制性合同，以获得雇佣、离职金和其他经济对价」。
在一份声明中，OpenAI 发言人 Hannah Wong 说：「我们的举报人政策保护员工进行受保护披露的权利。此外，我们认为对这项技术进行严格讨论至关重要，并且已经对我们的离职流程进行了重要修改，删除了非贬损条款。」
据 TechCrunch 报道，参议员 Grassley 表明：「监测和减轻人工智能带来的威胁是国会保护国家安全的宪法责任的一部分，而举报人对这项任务至关重要。」「OpenAI 的政策和做法似乎对举报人的权利造成了寒蝉效应，使他们无法畅所欲言，也无法因其受保护的信息披露而获得应有的补偿。」
他补充说，如果联邦政府要在人工智能领域保持「领先一步」，OpenAI 的保密协议必须改变。
今年早些时候，OpenAI 的员工离职协议已经饱受批评，因为据报道，如果前员工拒绝签署该文件或违反保密协议，他们的既得股权将被剥夺。首席执行官 Sam Altman 随后表示 「非常抱歉」，同时还声称公司 「从未收回任何东西」，并且 「已经在修正标准的离职文件」。
这些员工写道，由于人工智能受到的监管并不严格，因此责任只能由公司内部人员承担，他们呼吁公司解除保密协议，并为员工提供保护，允许他们匿名提出担忧。
此举正值 OpenAI 面临员工外流之际。许多批评人士认为，包括 OpenAI 联合创始人 Ilya Sutskever 和高级研究员 Jan Leike 在内的知名员工离职是对公司领导的斥责，一些员工认为，公司领导以牺牲 OpenAI 技术的安全性为代价来追逐利润。
参考链接：https://techcrunch.com/2024/07/13/whistleblowers-accuse-openai-of-illegally-restrictive-ndas/https://www.washingtonpost.com/documents/83df0e55-546c-498a-9efc-06fac591904e.pdf?itid=lk_inline_manual_4https://www.washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec/?continueFlag=7791616afbbc3fe3125af5b41149023fhttps://www.reuters.com/technology/openai-whistleblowers-ask-sec-investigate-restrictive-non-disclosure-agreements-2024-07-13/
编辑：大盘鸡
OpenAI 在人工智能领域的领头羊地位家喻户晓。其产品聊天机器人 ChatGPT 系列、文生图 DALL・E 系列、文生视频 Sora 等都被誉为生产力提升的超强助手
据透露，OpenAI 内部正在一个代号为「草莓（Strawberry）」的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过，而 OpenAI 正努力证明其提供的各类模型能够提供高级推理能力。不过 OpenAI 现在似乎正陷在另一场风波当中。
据《华盛顿邮报》报道，一位举报人向美国证券交易委员会（SCE，Securities and Exchange Commission）提出投诉，指控这家人工智能公司非法禁止其员工警告监管机构其技术可能对人类构成的严重风险，并要求进行调查。
《华盛顿邮报》相关报道
这封信由《华盛顿邮报》独家获得。查看地址：https://www.washingtonpost.com/documents/83df0e55-546c-498a-9efc-06fac591904e.pdf?itid=lk_inline_manual_4
代表匿名举报者的律师将这封信寄给了美国证券交易委员会主席 Gary Gensler。信中提到了一份单独的正式投诉，要求美国证券交易委员会调查 OpenAI 的离职、非贬损和保密协议。
这封信中谈道：「这些协议禁止并阻止员工和投资者就证券违规行为与 SEC 沟通，强迫员工放弃举报人奖励和补偿的权利，并要求员工将与政府监管机构的沟通情况通知公司。」
信中还称，SEC 已获得证据，证明 「OpenAI 之前的保密协议违反了法律，要求其员工签署非法的限制性合同，以获得雇佣、离职金和其他经济对价」。
在一份声明中，OpenAI 发言人 Hannah Wong 说：「我们的举报人政策保护员工进行受保护披露的权利。此外，我们认为对这项技术进行严格讨论至关重要，并且已经对我们的离职流程进行了重要修改，删除了非贬损条款。」
据 TechCrunch 报道，参议员 Grassley 表明：「监测和减轻人工智能带来的威胁是国会保护国家安全的宪法责任的一部分，而举报人对这项任务至关重要。」「OpenAI 的政策和做法似乎对举报人的权利造成了寒蝉效应，使他们无法畅所欲言，也无法因其受保护的信息披露而获得应有的补偿。」
他补充说，如果联邦政府要在人工智能领域保持「领先一步」，OpenAI 的保密协议必须改变。
今年早些时候，OpenAI 的员工离职协议已经饱受批评，因为据报道，如果前员工拒绝签署该文件或违反保密协议，他们的既得股权将被剥夺。首席执行官 Sam Altman 随后表示 「非常抱歉」，同时还声称公司 「从未收回任何东西」，并且 「已经在修正标准的离职文件」。
这些员工写道，由于人工智能受到的监管并不严格，因此责任只能由公司内部人员承担，他们呼吁公司解除保密协议，并为员工提供保护，允许他们匿名提出担忧。
此举正值 OpenAI 面临员工外流之际。许多批评人士认为，包括 OpenAI 联合创始人 Ilya Sutskever 和高级研究员 Jan Leike 在内的知名员工离职是对公司领导的斥责，一些员工认为，公司领导以牺牲 OpenAI 技术的安全性为代价来追逐利润。
Sam Altman、 Ilya Sutskever 和 Jan Leike
参考链接：https://techcrunch.com/2024/07/13/whistleblowers-accuse-openai-of-illegally-restrictive-ndas/https://www.washingtonpost.com/documents/83df0e55-546c-498a-9efc-06fac591904e.pdf?itid=lk_inline_manual_4https://www.washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec/?continueFlag=7791616afbbc3fe3125af5b41149023fhttps://www.reuters.com/technology/openai-whistleblowers-ask-sec-investigate-restrictive-non-disclosure-agreements-2024-07-13/
创意为王安全为先，AIGC的双线作战
7月17日，《AIGC体验派》第五期，邀请到火山引擎内容安全与风控负责人张建洋和NVIDIA企业级开发者社区高级经理何琨，一起聊聊AIGC在营销领域的创新与安全问题：如何避免大语言模型不再胡言乱语？
如何确保AIGC创作内容的质量与安全？
- 如何避免营销活动成为黑产的提款机？
识别海报二维码或点击阅读原文，立即报名直播。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：content@jiqizhixin.com