ToolNavs 发现实用AI工具
提交工具 登录
返回Ai合规
科罗拉多自动决策规则出修订稿:被拒者有权要求真人复核

科罗拉多自动决策规则出修订稿:被拒者有权要求真人复核

Ai合规 • Admin • • 16 次浏览

科罗拉多自动决策技术规则在 2026 年 10 月 6 日迎来关键修订:科罗拉多州司法部发布《自动决策技术与对话式人工智能服务规则》修订稿,为 2027 年 1 月 1 日生效的两部新法补上操作细节。企业用算法参与招聘、贷款、保险这类重大决定时,被拒绝的人将有权知道具体理由、更正自己的数据,并要求真人重新审查。

这套规则并非从零开始。2026 年 5 月,州长 Jared Polis 签署 SB 26-189《重大决定中的自动决策技术法》和 HB 26-1263《对话式人工智能服务法》,后者又被称为聊天机器人安全法;2024 年那部范围更宽的科罗拉多 AI 法(SB 24-205)同时被废止。司法部 8 月 11 日发布首版规则草案,编号 4 CCR 904-6;10 月 6 日的修订稿是公开听证前的最新版本。听证定于 10 月 26 日上午在丹佛举行,书面意见也在同日截止。

先划边界:什么才算“实质影响”

新法管的不是一切自动化,而是处理个人数据、生成预测、推荐、分类、排名或评分,并被用来做决定、出判断的技术。触发义务要同时满足两点:算法输出是决定中非微不足道的因素,并且实际影响了结果。偶然、琐碎或纯文书性的使用被排除在外。8 月草案曾就“实质影响”的判定标准公开征询并列出两种方案,修订稿给出了倾向性答案:采用的标准与加州消费者隐私法下的同类规则接近,但多了一层可反驳的推定,企业若认为自家工具没有达到门槛,需要拿出证据来推翻,而不是由消费者自证。

覆盖领域包括教育、就业、住宅房地产、金融与贷款、保险、医疗服务,以及基本政府服务和公共福利;受保护的不只是科罗拉多消费者,还包括该州的雇员和求职者。此前加州 SB 947 已要求处分与解雇不能只靠自动系统拍板,科罗拉多这次更进一步,把解释和复核的完整流程写进了规则。

被拒之后:通知、理由与真人复核

义务最重的是实际使用工具做决定的部署者。出现不利结果后,部署者一般要用两种方式(其中包括一种线上方式)发出书面通知,讲清决定本身、自动决策技术在其中起的作用、真人参与的程度、导致结果的主要理由、相关的评分或推断,以及当事人如何行使权利。个人可以要求查看决定所用的个人数据,部署者须在 45 天内答复;可以要求更正不准确的数据;还可以在商业上合理的范围内要求真人复核,部署者须在 10 天内确认受理、45 天内完成复核并答复。

复核的标准比很多人预想的严:复核者要独立于作出原决定的人,接受过相应培训,有权批准、修改或推翻原决定,并且复核过程本身不得再借助自动决策技术。也就是说,在算法结论下面补签一个真人名字,不算完成复核。

开发者与聊天机器人:文档往下传,年报往上报

开发者的核心义务是把文档交出来:预期用途和不当用途、已知风险与局限、训练与运行数据的类别、监测方法,以及理解输出所需的信息;拒绝提供的内容要指出法律依据。修订稿还引入“中游开发者”这一角色,把第三方自动决策技术集成进自家产品的一方,必须向上游索取文档,并继续传递给下游的开发者和部署者,信息不能在供应链中间断掉。

聊天机器人一侧的义务落在运营者身上:用商业上合理的方法估算用户年龄;对未成年用户反复提示对方是 AI 而非真人;不得用积分、奖励等手段诱导未成年人延长使用;采取措施防范面向未成年人的性明确内容和模拟情感依赖;提供隐私与账户管理工具。对所有用户,运营者都要执行针对自杀、自残提示的危机转介协议,并从 2027 年 7 月 1 日起每年向司法部报告协议的执行情况;同时不得明示或暗示聊天机器人的输出等同于持牌专业服务。两部法律的违规都按科罗拉多州消费者保护法下的欺骗性贸易行为处理,由总检察长执法。

现在该做什么,风险在哪里

时间表已经很紧。想影响最终文本的企业和机构,要在 10 月 26 日听证和意见截止前提交意见,这是规则定稿前最后的正式窗口。在科罗拉多用算法参与重大决定的企业,年底前应完成三件事:盘点系统并逐个判定是否达到“实质影响”门槛;向供应商索取新法规定的技术文档,把缺口写进合同;提前搭好不利结果通知、数据更正和真人复核的流程与时限跟踪。两部法律 2027 年 1 月 1 日生效,留给改造的时间不到三个月。

风险提示有两点。其一,xAI 诉科罗拉多州一案仍在联邦地区法院审理(案号 1:26-cv-01515),该诉讼原针对已被废止的旧法,新法是否会被申请禁止执行还没有定论,把诉讼当成推迟准备的理由并不稳妥。其二,司法部在随修订稿发布的信函中表示,生效初期执法会保持适当裁量,重点放在恶劣和故意的违规上;这释放了善意,但不是法定宽限期,通知模板、复核人员安排这类需要提前建设的事项,等到被问询时再补就来不及了。这套规则只适用于科罗拉多州范围内的决定和用户,不能直接套到其他州,但它和加州的规则正在共同抬高美国州级自动决策合规的实际门槛。

推荐工具

更多