前政策主管质疑OpenAI篡改AI安全历史

前 OpenAI 政策研究负责人批评公司改写 AI 安全部署历史

近日，前 OpenAI 政策研究负责人迈尔斯·布伦达奇（Miles Brundage）公开表达对其前雇主的不满，指责 OpenAI 在其最新发布的关于人工智能（AI）安全与对齐的官方文件中，修改了其早期针对潜在风险性AI系统的部署历史。布伦达奇的批评进一步引发了业界对 AI 安全与技术竞赛的讨论。

本周早些时候，OpenAI 发布了一份文件，概述了其当前的 AI 安全与对齐哲学，即通过“持续迭代”的方式开发和部署广义人工智能（AGI）。OpenAI 在文件中表示，公司认为 AGI 的发展是一个连续的过程，需要通过部署当前的 AI 技术并从中学习来确保未来更安全、有益的系统。然而，布伦达奇对此提出异议，称 OpenAI 目前的表述并未准确反映其早期的部署策略。

布伦达奇指出，2019 年 OpenAI 推出的 GPT-2 模型是他担任政策研究负责人期间典型“审慎部署”的例子。当时，考虑到 GPT-2 可能存在被恶意使用的风险，OpenAI 采取了逐步发布的策略：先向部分媒体提供有限的演示版本，大约六个月后才发布部分模型代码，随后才逐步完全公开。这一策略在当时得到了部分安全专家的赞扬，但也引来了某些业内人士的批评，他们认为 OpenAI 高估了 GPT-2 的潜在风险，并认为不应限制技术的公开和共享。一些媒体甚至发表公开信，要求 OpenAI 立即公开模型完整版本，以促进技术进步。

布伦达奇在社交媒体平台 X 上表示，GPT-2 的逐步发布正是基于审慎原则，而这种做法高度符合 OpenAI 今日宣称“迭代学习”的策略。他质疑 OpenAI 当前文件中对历史的重新叙述，直言：“我们在 GPT-2 部署时的所有决定都基于对现有信息的合理评估。过度审慎并非错误，而是负责任的表现。”

布伦达奇还对文件中透出的风向表示担忧。他认为，公司可能试图通过重新定义部署历史，为将来减少安全审查的行为奠定基础，即要求提出质疑的一方提供“压倒性证据”来证明 AI 存在即时危险。他警告，这种思维模式对于开发更高级的 AI 系统而言可能带来严重后果。

近年来，随着全球 AI 技术竞争加剧，安全问题逐渐成为争议的焦点。布伦达奇指出，OpenAI 一度因过于重视产品开发速度而遭到批评。去年，公司解散了 AGI 准备团队，并失去了一批优秀的安全和政策研究人员。与此同时，竞争对手的快速推进进一步加剧了市场压力。例如，DeepSeek 推出的公开模型迅速吸引了全球关注，部分性能已经可以媲美 OpenAI 的现有产品。对此，OpenAI 首席执行官萨姆·阿尔特曼（Sam Altman）曾公开承认，竞争对手的崛起缩小了技术领先优势，也迫使 OpenAI 修改产品发布节奏以应对市场竞争。

然而，产品发布周期的加快可能带来安全风险，尤其是在 AI 技术发展的早期阶段。作为曾经的内部人士，布伦达奇强调，在市场利益与安全考量之间取得平衡十分重要。他认为，人工智能的潜在风险并不应被市场竞争和短期利润所掩盖，“当高额资金和商业化压力充斥技术领域时，不平衡的决策可能会导致灾难性的后果。”

OpenAI 当前高度依赖商业化生存，其中 ChatGPT 等产品的巨大用户规模和收入潜力成为焦点。然而，随着公司预计亏损额可能在 2026 年达到 140 亿美元，回报周期的紧迫性似乎与 AI 安全的长期愿景形成矛盾。这种张力引发了布伦达奇与其他安全专家对行业未来发展的深切担忧：更快的创新是否会以安全为代价？行业能否在效率与责任之间找到正确的平衡？这些问题不仅是 OpenAI 的内部挑战，也正在成为整个技术领域共同面对的重要议题。

摘要
此次

[AI之星网出品] [AI安全部署] [OpenAI政策争议] [人工智能风险管理] [技术竞争与商业化压力] [机器姬][真机智能][机器洞察网][AI之星网][风投高科网][猛虎财经网][硅基科学网]