题图：社会发展和就业部长路易丝·厄普斯顿。照片/马克·米切尔
广告 | Advertisement
在澳纽网做广告 ｜ Advertise with us
新西兰政府为了在2029年前削减24亿纽币的公共服务开支，终于把大刀砍向了福利审批系统。上周五，国会在“紧急状态（Urgency）”下连夜飙车，强行三读通过了《社会保障（现代化）修正案》。该法案赋予了社会发展部（MSD）极其广泛的立法授权——允许利用自动化电子系统来代替人工，进行福利发放、资格审查甚至下达决定。这一没有经过任何公众咨询的“偷渡”法案，让新西兰顶级人工智能与隐私专家大呼“目瞪口呆（Gobsmacked）”。海外因自动化审批导致无辜平民自杀、政府倒台的血淋淋教训犹在眼前，新西兰真的准备好迎接这场“机器治国”的试验了吗？
（《澳纽网》综合编译报道）新西兰国会上周五利用紧急程序，在未经广泛公众咨询的情况下，强行通过了《社会保障（现代化）修正案》（Social Security (Modernisation) Amendment Bill）。该法案允许社会发展部（MSD）“批准由指定人员使用自动化电子系统，在具备适当保护措施的情况下，做出任何决定、行使任何权力、履行任何义务或采取任何其他相关行动”。这一举动瞬间将国家党联合政府推上了舆论的风口浪尖。
一、 专家惊呼目瞪口呆：海外血案历历在目
新西兰顶级隐私与 AI 评估工具包起草专家、Simply Privacy 合伙人 Frith Tweedie 对此表达了极大的震怒与担忧。
“一个可能造成如此巨大社会伤害的法律修改，竟然在紧急状态下被强行推过，且完全没有进行任何公众咨询，这简直令人难以置信。我们需要从国际上众多失败的福利自动化案例中吸取教训，而不是在没有适当审查的情况下盲目推进。” —— 隐私专家 Frith Tweedie
Tweedie 教授列举了两起轰动全球的“机器杀人”跨国丑闻：
-
澳大利亚 Robodebt（机器人催收）惨剧： 澳洲曾使用自动化系统发放福利债务通知，导致超过 40万名无辜平民 被错误指控欠款。该系统引发了大规模的财务困境、严重的心理焦虑乃至自杀惨剧。该计划最终被裁定违法，导致澳洲政府支付了超过 20亿澳元（约合24.2亿纽币） 的天价和解金，最后一波赔偿于今年年初刚刚结清。
-
荷兰托儿津贴冤案： 荷兰税务机关曾利用算法预测托儿津贴欺诈，导致 2万多个家庭 被无辜扣上欺诈帽子，期间伴随着严重的人权和隐私侵害。至少 11,000 人仅仅因为族裔或双重国籍就遭到了算法的“特殊针对”。这场冤案导致数名受害者自杀身亡，上千名儿童被强制送往寄养家庭，直接引发了荷兰政府在2021年集体引咎辞职。
二、 总理与部长紧急灭火：别慌！这不是生成式AI，是工党先做的
面对潮水般的批评，总理 Christopher Luxon 与社会发展部长 Louise Upston 随即展开了危机公关，极力淡化 AI 在该体制中的角色，试图挽回公众的信任。
联合政府的辩护逻辑主要围绕以下三点：
-
绝非生成式AI： 社会发展部长 Louise Upston 明确强调：“自动化决策系统绝对不是 ChatGPT 那样的生成式 AI（Generative AI）。”
-
仅用于简单场景： 总理 Luxon 举例称，如果一名福利领取者完成了 26 周的医疗检查，且其身体状况没有任何变化，系统就会自动帮其展期福利。“这种事根本不需要深度的人工介入。” Luxon 还将此比作他掌舵新西兰航空（Air NZ）时，将机场人工值机柜台升级为手机 App 和自助服务机，认为这能把员工从低级琐事中解放出来，去从事更高层级的工作。
-
甩锅前朝： 部长发言人指出，新西兰的自动化标准在开发时已经吸取了海外教训，且这一模式最早是由上一届工党政府在《2023年儿童支持（传递）法案》中首次引入立法的。
三、 智库坚称“规矩更严了”，但专家泼冷水：阿姆斯特丹试了5年都失败了
新西兰知名科技智库 Brainbox 研究所所长 Tom Barraclough 则给出了相对中立的观察。他指出，类似的“自动化电子决策系统”其实在新西兰的多项法令中已经存在了至少五年。
从积极的角度来看，上周通过的新修正案实际上强化了对这些系统的监管与治理控制：
-
强制引入人权把关： 新法案首次做出了强制性规定，要求在发布自动化决策标准前，必须正式咨询人权事务专员（Human Rights Commissioner）。
-
反歧视条款： 首次将应对歧视和确保“人工监督（Human oversight）”的审查标准确立为法定义务。
然而，Barraclough 也警告称，自动化决策的最大弊端在于“坏事传千里”——由于是电脑操作，一旦算法出错，在错误被发现之前，可能已经有成百上千个错误的决定被砸向了平民。
对于政府宣称的“人工监督保障”，专家 Tweedie 更是直接浇了一盆冷水。她指出，想要建立一个既能捕捉欺诈又“绝对公平”的福利自动化系统在现实中犹如天方夜谭。
荷兰丑闻发生后，欧洲数字先锋城市阿姆斯特丹耗时 5 年时间、砸下 53.5万欧元，试图打造一个“完美公平”的福利欺诈检测系统。他们做对了一切——使用完全透明的算法、广泛的偏差测试、社区咨询和严苛的伦理审查。但最终结果表明，该系统依然产生了歧视性的输出结果，且其工作效率并不比一个普通的人工个案经理高。
四、 新西兰政府部门的 AI 潜行版图曝光
尽管财政部长 Nicola Willis 此前痛批新西兰公务员系统“思想还停留在1980年代”，但根据新西兰《商业财经（BusinessDesk）》利用《官方信息法》（OIA）对政府各部委 AI 使用现状的最新大起底，各大底层机构早已悄然完成了自动化部署：
| 政府部门 | 当前 AI 与自动化技术应用现状 |
| ACC (意外赔偿局) | 在其索赔流水线中已经深度嵌入了 4 个 AI 工具。不过官方强调，最终的索赔决定依然由人工员工拍板。 |
| 司法部 (Ministry of Justice) | 正在利用 AI 系统大范围扫描过往车辆的车牌，以精准识别那些逾期未交罚款的“老赖”；同时利用 AI 在海量的法庭诉讼案卷中进行文件自动检索。 |
| 新西兰卫生局 (Health NZ) | 正在全国公立医院系统内全面推广 Heidi AI 医疗电子速记员系统。 |
| 儿童部 (Oranga Tamariki) | 态度最为保守。目前已在其员工设备上全面封锁了 ChatGPT 等外部 AI 工具，且公开承诺绝不在涉及儿童和家庭的核心业务中采购任何 AI 系统。 |
主编点评：
这是一场典型的“用技术手段去解决底层政治与社会问题”的危险尝试。财长 Nicola Willis 在上周的预算案中誓言要用 AI 和数字化对公共服务系统“抽脂”以省下24亿纽币，而社会发展部（MSD）的这次火速立法，正是这一战略的排头兵。然而，联合政府显然“低估了新西兰人对 AI 的抗拒与恐惧”——民调显示三分之二的 Kiwi 对这项技术深感不安。
正如专家所言，技术本身不会犯错，但统治技术的官僚阶层会。当政府为了省钱而将关乎底层弱势群体生计的福利审批权让渡给冷冰冰的代码，且在“紧急状态”下剥夺了公众的知情权与辩论权时，它透支的是极其宝贵的社会信任。在燃油危机、通胀高企的 2026 年，一旦这套自动化系统出现类似澳洲的算法漏洞，砸向新西兰平民的将不是高科技的便利，而是一场冷酷无情的行政灾难。
© 澳纽网原创/编译 | 欢迎分享转发，禁止未经授权的复制及使用。侵权必究。业务及授权联系：info@ausnz.net
分类： 澳纽资讯
(即时多来源) 新西兰英语新闻 New Zealand English News
👉 [点击此处查看全部最新文章]
请小编喝咖啡☕️ ------------------------------------
广告 | Advertisement
在澳纽网做广告 ｜ Advertise with us
