美国参议员调查 OpenAI 的安全和就业实践
五位著名的参议院民主党人致信OpenAI首席执行官 Sam Altman，寻求澄清该公司的安全和雇佣惯例。
这封信由参议员 Brian Schatz、Ben Ray Luján、Peter Welch、Mark R. Warner 和 Angus S. King, Jr. 签署，旨在回应最近的报道，这些报道质疑 OpenAI 对其安全和负责任的人工智能开发目标的承诺。
参议员们强调人工智能安全对国家经济竞争力和地缘政治地位的重要性。他们指出，OpenAI 与美国政府和国家安全机构合作开发网络安全工具，强调了安全人工智能系统的关键性。
信中指出：“国家和经济安全是美国政府最重要的职责之一，不安全或存在漏洞的人工智能系统是不可接受的。”
立法者要求在 2024 年 8 月 13 日之前提供有关几个关键领域的详细信息。其中包括：
OpenAI承诺将20%的计算资源用于人工智能安全研究。
公司对现任和前任员工的非贬损协议的立场。
员工提出网络安全和安全问题的程序。
防止人工智能模型、研究或知识产权被盗的安全协议。
OpenAI 遵守其自身的《供应商行为准则》中关于非报复政策和举报渠道的规定。
计划对 OpenAI 的系统进行预发布独立专家测试和评估。
致力于向美国政府机构提供未来的基础模型以供部署前测试。
发布后的监控实践和部署模型的经验教训。
计划公开发布已部署模型的回顾性影响评估。
有关履行对拜登-哈里斯政府的自愿安全承诺的文件。
参议员的调查涉及最近围绕 OpenAI 的争议，包括有关安全实践的内部纠纷和涉嫌网络安全漏洞的报道。他们特别询问 OpenAI 是否会“承诺从雇佣协议中删除任何其他可能用于惩罚公开表达对公司做法担忧的员工的条款”。
国会的此次审查正值人工智能监管和安全措施争议不断增加之际。这封信提到了去年领先的人工智能公司向白宫做出的自愿承诺，称这些承诺是“建立人工智能安全信任的重要一步”。
今年晚些时候大选后，卡马拉·哈里斯可能成为下一任美国总统。去年在英国举行的人工智能安全峰会上，哈里斯表示：“我们要明确一点，还有其他威胁需要我们采取行动。这些威胁目前正在造成伤害，对许多人来说，它们也存在存在感……当世界各地的人们因为大量人工智能带来的神话和虚假信息而无法辨别事实和虚构时。”
南苏丹特派团顾问切尔西·阿尔维斯 (Chelsea Alves)评论道：“卡马拉·哈里斯 (Kamala Harris) 对人工智能和大型科技监管的态度既及时又关键，因为她即将参加总统竞选。她的政策可能会为我们如何应对现代科技和个人隐私的复杂性树立新的标准。”
OpenAI 对这些询问的回应可能会对人工智能治理的未来以及科技公司和政府监督机构之间的关系产生重大影响。
相关文章
