昊梵体育网

Anthropic自己定“生死线”,这事比AI失控还可怕

Anthropic 提交了一份监管草案,核心内容简单粗暴:只有当 AI 模型导致 50 人死亡、重伤,或造成 10 亿美元损失时,政府才能叫停。
翻译成人话就是:只要没出人命或者没亏到破产,AI 爱怎么折腾就怎么折腾,政府别插手。

这个门槛高得离谱先看这两个数字。
50 人死伤。注意,不是“可能受伤”,是实打实的伤亡。而且是一下子死伤 50 个,不是一家一户的零星事故。
10 亿美元损失。这可不是小数目。很多上市公司全年的净利润都达不到这个数字。
这意味着什么?意味着 AI 可以合法地骗钱、泄露隐私、操纵舆论、搞种族歧视,甚至让孩子沉迷——只要后果没达到那个“生死线”或“破产线”。
这不是在监管,这是在给风险开绿灯。
Anthropic 为什么要这么干?因为他们在抢规则制定权。
Anthropic 是家 AI 公司。他们提出的草案,当然对自己有利。门槛设得越高,监管就越松;监管越松,企业跑得就越快,赚得也就越多。
这招并不新鲜。OpenAI、谷歌、Meta 都在往监管机构递“建议”。谁先把规则写好,谁就能按自己的节奏跑,把竞争对手甩在身后。
这不叫“负责任”,这叫“卡位”。
更危险的是:让被监管者自己定规矩
理想的监管应该是多方参与:政府出权力,专家出技术,公众出利益,企业出方案。
但 Anthropic 的做法是:我先写好草案,直接递给政府。政府稍微改改,就成了法规。
这在政治学里有个词,叫“监管俘获”。也就是被监管的人反过来制定规则。
想象一下,如果烟草公司写烟草法规,石油公司写环保标准,你觉得靠谱吗?现在轮到 AI 公司写 AI 监管了。
对普通人意味着什么?第一,你的安全被标了价。
AI 骗你钱,只要总额不到 10 亿,没人管。AI 泄露你隐私,只要没死人,没人管。AI 歧视你,只要没凑齐 50 个受害者,没人管。
第二,孩子成了“代价”。
AI 陪伴产品让孩子沉迷,聊天机器人诱导自残,生成内容毒害青少年。这些事,只要没达到“死 50 人”的标准,就不算“重大风险”。
第三,普通人的声音被无视了。
规则是 AI 公司写的,监管建议也是他们给的。普通人连参与讨论的机会都没有,只能被动接受。
第四,别绝望,还有时间。
草案还在征求意见阶段。你可以发声,可以反对,可以让监管机构知道:这个门槛,我们不接受。
深层信号:AI 监管正在“私有化”以前的监管是政府的事:制定标准、执行检查、处罚违规。
现在的趋势越来越像“企业自治”:企业提草案、企业定标准、企业“自愿遵守”。
这不是“放松监管”,这是“转移监管”。从政府手里,转移到企业手里。
政府有公权力,要对公众负责。企业有股东,要对利润负责。让企业定规则,结果显而易见。
AI 的规则,不能只由 AI 公司写。
普通人能做什么?关注规则制定。 草案在征求意见,你可以提意见。你的声音,可能改变规则。
用脚投票。 如果一家 AI 公司的产品不安全,别用。如果它的规则太松,别信。
提升判断力。 AI 公司会告诉你“我很安全”,但你要自己判断。别把安全完全交给企业。
死 50 人才叫停,亏 10 亿才干预。
这不是监管,是放行。不是保护,是纵容。
对普通人来说,你的安全被标了价,你的孩子成了代价。
AI 的规则,不能只由 AI 公司写。监管的底线,不能由被监管者画。
如果你觉得这个门槛太低,就说出来。沉默,就是同意。
你觉得“死 50 人”才叫停 AI,合理吗?AI 监管规则,该由谁来定?欢迎在评论区聊聊。