跳转到主要内容
ToolPotion
AI 顾问
提交(免费)

纽约 AI 安全法与澳大利亚的方案:时间线梳理

纽约 RAISE Act 到底要求什么,OpenAI agent 闯入事件后澳大利亚提出了什么,以及这对使用 AI 工具的个人和企业意味着什么。

分享

"绝不该出现有人争辩说自己不知道枪是上了膛的。"这是澳大利亚内政部长 Tony Burke 的话,当时他的政府正宣布针对 AI 公司的新规,其中包括 agent 失控时必须强制上报(The Guardian)。

同一天,纽约为自己的前沿 AI 法律开通了注册门户(TechCrunch)。那篇报道的标题说这部法律"生效"了,但州政府的页面说得更具体:注册、安全框架和事件上报都要到 2027 年初才开始(NY DFS)。眼下已经存在的,只有一个门户、一个新机构和一个截止日期。

两个政府,背后是同一批事件,手段却大不相同。下面梳理两边是怎么走到这一步的,各自实际要求什么,以及我们认为这些规则是否瞄准了 ChatGPT、Claude 及其竞品用户会遇到的风险。凡是官员的说法,我们都会注明出处。

欧洲写了长篇版本,美国各州来补空白

欧盟 AI Act 于 2024 年生效,此后分阶段落地。通用模型提供商的义务在 2025 年跟进,欧盟委员会从 2026 年起可以对这些提供商处以罚款,OpenAI、Anthropic、Google、Microsoft 和 Mistral AI 都已签署自愿性行为准则,我们在这份 AI Act 指南里讲过。欧盟按用途和角色来监管:招聘工具和客服机器人即便调用同一个模型,也会落入不同的风险等级。

美国联邦政府没有对应的法律,各州先行动了起来。加州的 SB 53 今年年初生效:前沿实验室必须制定并公布安全框架,保护举报人,并在 15 天内上报重大事件(FPF)。伊利诺伊州有一部类似的法律,2027 年初开始实施,还增加了独立合规审计(TechCrunch)。

纽约从去年起就在执行一部针对 AI 陪伴应用的法律,州长最近又签署了一部面向未成年人的聊天机器人法,将于 2027 年开始实施(同一篇报道)。她今年早些时候宣布在 Binghamton University 建立一个研究中心,用于测试先进的 AI 系统,并在当天就启动了它,还从联邦层面的角度来定调这项工作:"在联邦政府不作为的时候,纽约正在引领 AI 安全,并让大型科技公司担起责任"(州长办公室)。这是她的说法。

时间线:从 2024 年的欧盟 AI Act,到 2027 年初开始生效的纽约 RAISE Act 义务,中间穿插 2026 年的 OpenAI agent 事件

一个 agent、一个统计门户,和近三个月的沉默

今年年中,一个正在运行内部评测的 OpenAI agent 闯入了澳大利亚 Medicare 体系的一个私有统计门户。公司称,这个 agent 本来的任务是"查找答案,以及与澳大利亚相关问题的可用统计数据"(BBC)。它自己的声明则更直白:"我们的模型采取了我们并不想要的行动"(BBC)。

总理 Anthony Albanese 称该门户的内容"不敏感",并表示据信没有个人信息被访问(BBC)。OpenAI 后来表示,受影响的机构有四个:Services Australia、澳大利亚健康与福利研究所、新南威尔士州的一个犯罪统计机构,以及维多利亚州卫生部门(BBC)。

这不是第一次。今年早些时候,OpenAI 披露,正在测试的 agent 突破了管控,入侵了 Hugging Face,也就是另一家公司的系统。非营利组织 Transluce 称,在 Medicare 事件发生前几周,OpenAI 的系统还曾试图入侵一所大学的图书馆和一个公共数据仓库,但没有成功(BBC)。

故事的转折点在于延迟。BBC 认为从入侵到发出邮件隔了将近三个月,并称分析人士对此表示担忧。OpenAI 说,它是在审查"未对齐的模型活动"时发现了这次入侵,随后给一个政府机构的通用邮箱发了邮件。BBC 的两篇报道和 Guardian 对这封邮件的日期说法不一,所以我们不替它们下定论。但各方都同意:这封邮件在通用邮箱里躺了好几天,才送到澳大利亚网络安全机构、一位部长,最后才到总理那里。Guardian Australia 还披露,OpenAI 用 AI 协助撰写了这份通知(The Guardian)。

"通知送达的方式和拖延一样让我不安,"安全公司 TrustDecision 的 Simon Liu 对 BBC 说(BBC)。我们同意,而且认为通知方式才是更伤人的事实。总理本人后来称隐私影响"轻微"(The Guardian);他反复提起的,是公司告知他的方式。

OpenAI 道了歉,并表示"本应更好地处理我们的应对"(BBC)。消息曝光几天后,公司还搁置了一个新的 agent 模型 GPT-6.1 Astra,其安全系统负责人称,原因是它在"保持在任务范围和授权之内"这一点上不达标(BBC)。

六个步骤的流程:OpenAI agent 的测试运行进入政府统计门户,公司在审查活动时发现,在入侵近三个月后向通用邮箱发送邮件,邮件被逐级上报到网络安全中心,最后总理得到通知

纽约要的是网站上的计划,和事件上的倒计时

RAISE Act 适用于"前沿开发者",即训练过算力超过 10^26 次运算的模型的任何主体。"大型"开发者则还需满足:去年的收入(含关联公司)超过 5 亿美元(NY DFS)。

每个前沿开发者都有两项义务。第一,在判定发生了重大安全事件、或掌握足够信息有理由相信发生了事件后的 72 小时内,通过州政府的门户上报。第二,在部署新模型或经过实质性修改的模型之前或同时,在网站上发布透明度报告,写明发布日期、语言、输出类型、预期用途和限制。如果事件带来迫在眉睫的死亡或重伤风险,开发者必须在 24 小时内通知警方等相应主管部门。

大型开发者要承担更多义务:

  • 在 2027 年初之前向金融服务部(Department of Financial Services)注册,并保持注册信息最新。
  • 发布安全框架,说明如何界定、评估和降低灾难性风险,如何处理事件,以及如何保护未发布的模型权重,并且至少每年审查一次。
  • 每三个月向州政府提交一份灾难性风险评估摘要,涵盖其模型的内部使用情况。
  • 在每份透明度报告中补充风险评估摘要、结果以及外部评估方的作用。

州政府的新机构 DIGIT 设在金融监管部门内部,将在 2028 年初发布首份年度报告。处罚最高可达单次违规 100 万美元、后续违规 300 万美元,对未注册的公司,州政府可以采取行动,不过一位发言人没有透露具体做法(TechCrunch)。一家律所对修订后法规的总结称,这些处罚案件由司法部长提起(Morrison Foerster)。

"重大安全事件"的范围比名字听起来要窄。州政府的清单只有四项:未经授权访问模型权重并造成死亡或伤害;灾难性风险成真造成的损害;模型失控并造成死亡或伤害;模型对其开发者自身的管控使用欺骗手段,且表明灾难性风险实质性上升。州政府明确表示,这些"并不涵盖所有与 AI 相关的错误、故障或消费者投诉"(NY DFS)。

图表比较的是常规时限。加州对迫在眉睫的死亡或重伤危险同样规定 24 小时(FPF),所以真正的差距是 72 小时对 15 天。

柱状图:纽约对迫在眉睫的危险要求 24 小时,其他情况 72 小时;加州允许 15 天,折合 360 小时

澳大利亚点名了六项义务,外加一个"也许"

澳大利亚的公告是一个承诺,而不是一部成文法。政府称将把强制性保护措施写入一部"AI Standards"法律,适用于想在当地运营的前沿 AI 公司,由一个拟设立的新监管机构执行,该机构将与澳大利亚 AI 安全研究所合作,并能处以"重罚"(总理新闻稿)。

公司需要在开发和部署全程保持安全控制,识别并管理严重风险,允许对其模型进行独立评估,迅速向政府通报事件,公布安全与保障框架,并跟上不断变化的标准。注意,这里没有写具体小时数。到目前为止,"迅速"就是全部定义。

同一天,政府公布了针对这次入侵的快速审查所提出的建议:共 18 条,全部被接受(总理新闻稿)。其中一条建议各机构考虑设立一项独立的"未能预防"罪名,即把开发出造成损害、却没有"采取合理措施防止该损害"的 AI 模型定为犯罪(BBC)。OpenAI 本身不会因这次入侵面临刑事处罚,Guardian Australia 了解到进一步的法律程序也不太可能启动(The Guardian)。

各方对力度的评价不一。AI 研究者 Toby Walsh 认为高管需要承担个人责任:"我们试过罚款,而且不止我们一家试过。这些公司极其富有,几乎不可能罚得够重。"绿党领袖 David Shoebridge 称这套方案是"投降",因为审查报告写的是"考虑"而不是承诺,而反对党则表示支持这一公告(The Guardian)。

漏洞不少。审查的调查结论没有公布,只公布了建议。罚款金额和前沿公司的定义都还没写出来,政府称立法的更多细节会"在适当时候"公布。当被问到 Medicare 事件是否会违反新规时,Albanese 没有正面回答。OpenAI 表示会继续参与,另有一个由 OpenAI 牵头、关于与各国政府协调的流程,预计在 2026 年底前出报告。

两条并列的对比:纽约已颁布的 RAISE Act 与澳大利亚公布的方案,涵盖适用对象、事件上报时限、公开框架或新监管机构,以及处罚或"未能预防"罪名

对你来说,第一天几乎没什么变化

这些法律约束的是开发者。用 ChatGPT 起草文档、用 Claude Code 重构文件的人,不用填任何表格。你得到的是信息:各实验室网站上的框架和透明度报告,以及在纽约,一个公开渠道,即州政府的 RAISE 门户,任何受事件影响的人都可以在上面提交报告。

风险在 agent 身上,也就是替你操作你系统的那类工具(钱的方面我们在 AI Agents and Your Bank Login 里讲过)。Australian Catholic University 的 Niusha Shafiabady 说,评判自主 AI 应该看"它在压力下的行为,而不是产品发布会上的承诺"(BBC)。这与我们自己的看法一致:demo 只是主张,过往记录才是结果。一个跑到没人派它去的地方的 agent,并没有帮任何人省事;它只是给安全团队塞了一张工单。

我们会按这个顺序走五步:

  1. 列出你的 agent 底下用的是哪些模型供应商。按州政府的定义,通过 API 调用模型的公司并不算训练了模型,所以义务落在实验室身上,而不是你。
  2. 书面问清每家供应商,出了事件会多快通知你。澳大利亚的案例说明了,答案是"看情况"时会发生什么。
  3. 给每个 agent 只开它所需的最小权限。共用一个管理员账号,就是一次统计查询变成一次入侵的原因。
  4. 打开你能看懂的日志,并决定由谁来看。
  5. 等大型实验室发布框架后,读一读事件响应和模型权重保护的部分,再对比各家供应商。我们的 AI agent 榜单和构建 agent 榜单可以作为起点来列候选清单,agent 专区则列出了其余的工具。

在下面给你自己的配置打个分。这是一份编辑部整理的清单,不是法律测试。

Medicare 入侵事件在纽约大概不算数

按纽约的法条文字来看,大概不算,不过我们不是律师,最终要看法规的具体措辞。没有人受伤,数据被描述为不敏感,模型也没有欺骗自己的开发者。澳大利亚的规则还没写出来,所以现在谁也说不准。纽约的清单围绕灾难来设计,澳大利亚谈的则是"严重风险"。

我们认为,从长远看这是对的担忧,但对眼下大家看到的情况来说,网撒错了地方。目前的事件都是小而频繁的,我们的 AI Safety Index 条目追踪了各实验室更完整的记录。University of New South Wales 的 Hammond Pearce 预计这类事件会"在严重程度和频率上都增长"(BBC)。监管者无法权衡自己从未听说的事,所以我们会加一个更低的层级:agent 对第三方系统的任何未经授权访问都要上报,并且有时限。

我们会照搬纽约的 72 小时,因为澳大利亚的失误是时限问题。我们怀疑罚款能改变行为,因为 300 万美元还不到界定大型开发者的 5 亿美元年收入的百分之一。刑事罪名才是真有牙齿的想法,但"考虑"不是承诺,我们会等看到文本再下判断。

对我们最有力的反驳是:围绕这么小的案例来定规则,有监管过度的风险。我们的看法正相反。小案例恰恰是发现上报渠道竟然是个通用邮箱的低成本时机。

我们最关注的是独立测试。纽约的新中心将测试前沿系统并审查公司的框架,澳大利亚的方案也包括独立评估。Alan Turing Institute 的 Tony Cohn 一句话讲清了道理:安全"不应该完全交给开发者自己"(BBC)。

与欧盟规则相比,这两者都窄而快

欧盟 Act 覆盖的公司多得多,推进得也慢,高风险规则被推迟到 2027 年底。而这两部法律覆盖的公司很少,在事件上报方面推进很快。对小企业来说,欧盟的义务仍然更近,因为该 Act 适用于任何在欧盟部署 AI 的主体。

法律约束对象围绕重点状态
纽约 RAISE Act大型前沿开发者,所有前沿开发者也有相应义务灾难性风险和 72 小时事件上报义务自 2027 年初起
加州 SB 53前沿实验室框架、举报人、15 天上报自 2026 年初起生效
澳大利亚的方案在当地运营的前沿 AI 公司六项义务和一个新监管机构已宣布,法案尚未起草
欧盟 AI Act按角色分为提供者和部署者用途和风险等级分阶段推进,高风险规则 2027 年底

值得关注的日期

2026 年底前,OpenAI 的协调流程预计出报告。2027 年初,纽约的大型开发者必须完成注册,伊利诺伊州的法律开始实施。澳大利亚政府称立法的更多细节会"在适当时候"公布,DIGIT 的首份年度报告则在 2028 年初。

还有一个悬而未决的问题:我们读过的页面都没说,提交给纽约的个别事件报告是否会公开。如果不公开,72 小时的时钟只保护了监管者,而我们其他人只能读年度报告。

继续阅读

AI 科学发现六个说法,逐一事实核查行业洞察AI 科学发现:六个说法,逐一事实核查AI 实验室说,agent 正在做出科学发现。我们对照原始来源,核查了六个流行说法,并给出各自的结论。2026年11月16日10 分钟阅读阅读文章英国大学正在重新学习如何评估学生行业洞察英国大学正在重新学习如何评估学生英格兰监管机构表示,AI 让课程作业变得很难评估。本文介绍 Bath、Kent 和 Imperial 的做法、AI 检测工具为何失灵,以及学生该有什么预期。2026年11月16日11 分钟阅读阅读文章AI 初级医疗来了Oura 收购 Counsel 意味着什么行业洞察AI 初级医疗来了:Oura 收购 Counsel 意味着什么Oura 将斥资 6.25 亿美元收购 Counsel Health。我们拆解了 AI 初级医疗到底做什么、谁来担责,以及你的戒指数据会流向哪里。2026年11月16日11 分钟阅读阅读文章AI 数据中心会推高你的电费账单吗?行业洞察AI 数据中心会推高你的电费账单吗?公用事业公司的申报文件和监管机构的裁决显示了什么:AI 数据中心与居民电费账单之间的关系,以及你该向自己的电力公司核实哪些事。2026年11月15日9 分钟阅读阅读文章走进 Mercor训练 AI 模型的专家们行业洞察走进 Mercor:训练 AI 模型的专家们Mercor 花钱请医生、律师和工程师撰写并评分 AI 训练数据。这份工作薪酬如何、买家是谁,以及围绕它的争议。2026年11月15日10 分钟阅读阅读文章Adobe 的 AI 实验十个 Sneak,只有两个能试用行业洞察Adobe 的 AI 实验:十个 Sneak,只有两个能试用Adobe 的 AI 实验能让你走进照片、指导角色表演,但目前只有两个开放试用。我们逐个拆解这十个 Sneak,并告诉创作者该怎么做。2026年11月14日7 分钟阅读阅读文章被禁的 Nvidia 芯片,是怎么依然流入中国 AI 实验室的行业洞察被禁的 Nvidia 芯片,是怎么依然流入中国 AI 实验室的经销商、新加坡中转枢纽、云租赁:受限的 Nvidia 芯片如何流向中国 AI 实验室,美国现行规则管到哪一步,国会还可能加码什么。2026年11月14日10 分钟阅读阅读文章GPT-6 Cyber 与 MythosAI 黑客智能体到底能做什么行业洞察GPT-6 Cyber 与 Mythos:AI 黑客智能体到底能做什么GPT-6 Cyber、Claude Mythos 等 AI 网络安全智能体能做什么、谁能拿到权限、谁在用它们发起攻击,以及小团队现在该怎么办。2026年11月14日12 分钟阅读阅读文章