自动追债系统的集体错误 (Robo-debt)：用系统自动追讨福利欠款，为什么最后要退还几亿澳元？
把「平均」当作「事实」，算法就会把不确定变成确定的债务
自动追债系统的集体错误 (Robo-debt)：巅峰期澳大利亚福利部门上线的自动债务核算与追讨系统，用数据自动比对收入并生成应还金额，大幅提高了追讨效率；终局是系统用平均法推算收入而忽略了实际工作周数，导致数十万人被错误追讨债务，法院认定部分做法违法，政府取消并退还大部分款项。
公开报道整理 待核查 Figures as of 2020 1 sources What do these mean?
How to read this bar
This bar states plainly what we know and what we have checked, so you can judge it yourself.
· Review status: “pending” means no editor has checked it against the sources yet; “checked” means key facts match the sources.
· Figures as of: the year the numbers are current to; later changes are out of scope.
· Sources: listed one by one at the bottom of the page. “Primary” means official filings, annual reports or regulator documents.
· Corrections: every change and its basis is published — nothing is edited silently.
Editorial policy → Editorial policy: the full inclusion rules, verification process, AI disclosure and correction promise.
澳大利亚福利部门上线的自动债务核算与追讨系统，用数据自动比对收入并生成应还金额，大幅提高了追讨效率
系统用平均法推算收入而忽略了实际工作周数，导致数十万人被错误追讨债务，法院认定部分做法违法，政府取消并退还大部分款项
5,059 votes cast
1 plans · 1 insights
投稿会先进入待审，通过后才进入公开目录和站点地图。
Root Causes Consensus Poll
Vote for the primary fatal error that caused this enterprise to collapse.
算法假设与实际收入模式不符
按年平均推算收入，忽略了工作的周期性
举证责任被转移到个人
被追讨者需要自行证明清白，成本与难度都由弱势方承担
效率目标压过正确性验证
系统上线时未做充分的抽样验证与小范围测试
退款与赔偿造成巨额支出
取消债务、退款与赔偿的总额达数亿澳元，还伴随调查成本
Timeline: peak to collapse
追债系统上线
福利部门启用自动比对与追讨系统，债务核算效率明显提高，追讨金额迅速上升
大量错误追讨
大量领取者收到错误通知，举证责任由个人承担，公众与媒体质疑增加
法院认定部分违法
联邦法院在相关案件中认定部分追讨方式缺乏法律依据，政府暂停并逐步取消相关债务
退款与全国调查
政府退还数亿澳元并推进赔偿，全国性调查批评系统设计与举证责任分配，制度被重构
Four-Dimensional Retrospective Breakdown
Background & Golden Era
福利部门希望提高债务核实的效率，用系统把税务数据与福利记录自动比对，并按年收入平均到各个两周周期，推算是否存在超发；这套方法在少数有疑点的案件中有效，但它默认收入在周期内均匀分布，而实际工作中并非如此巅峰期的成绩单是：澳大利亚福利部门上线的自动债务核算与追讨系统，用数据自动比对收入并生成应还金额，大幅提高了追讨效率。此时的它拥有渠道、品牌与资本的合力，看起来没有任何理由会输。
Fatal Turning Point Miscalculation
大量领取者被系统判定为多领福利并收到追讨通知，举证责任被转移到个人（需要自行提交工作记录证明）；数十万人受影响，部分人被迫还款甚至承受精神压力，法院最终认定其中部分追讨方式违法，政府取消相关债务并退还数亿澳元，随后接受全国性调查内部政治与部门利益盖过了客户价值，跨部门协作要靠人情推动，任何一个需要多方配合的战略动作都会在流程里被磨平。
Internal Culture & Bureaucratic Hubris
报喜不报忧成为默认规则，坏消息在层层汇报中被过滤，高层长期在失真的信息环境里做决策。
The Collapse & Aftermath
系统用平均法推算收入而忽略了实际工作周数，导致数十万人被错误追讨债务，法院认定部分做法违法，政府取消并退还大部分款项。自动追债系统的集体错误 (Robo-debt)的结局不是某一次意外，而是上面这些判断在数年里不断叠加、又始终没有被纠正的必然结果。
Battle-Tested Actionable Survival Rules
Distilled practical DOs and DONTs forged from costly corporate catastrophes.
自动化决策要在上线前问「误判的比例有多高」
把误判率与申诉成功率当作系统上线的前置指标。
- •上线前做抽样验证并测量误判率
- •把举证责任留在数据持有方一侧
- •不要让效率目标替代正确性验证
- •不要把可能误判的结果直接变成追讨通知
Revival Simulation: If you were the CEO at the inflection point, how would you save it?
History cannot be rewritten, but executive decision-making can be honed. Propose decisive divestitures and strategic bets, and let entrepreneurs & VCs vote on feasibility.
先暂停追讨、复核算法，再谈债务清收
Critical intervention point：2018 年前后大量错误追讨引发公众质疑、诉讼开始出现时
- •停止在被追讨者举证前认定债务成立
- •停止用平均法直接生成债务结论
- •停止以追讨金额作为绩效指标
- •暂停自动追讨并复核已生成的债务
- •把举证所需数据由数据持有方直接提供
- •对已收款项目主动退款并公开处置进展
涉及数十万人与公共财政，处置需与法院和监管同步。
错误债务被清理，退款完成，制度以更可靠的核算方式重建。
Expert Post-Mortem Insights
Firsthand diagnostic analyses from entrepreneurs, VCs, alumni, and analysts.
薪资数据的口径是按会计期汇总，而福利资格是按周期判断，两者之间需要一个映射。他们选择的映射方式是平均化——简单、自动化程度高，但对短期工作、季节工作、临时工作是错的。更关键的是流程设计：系统生成的债务被视为成立，被追讨者如果想要反驳，需要自己去补交工资单、工时记录等材料。这种举证责任的分配，把系统误判的成本完全转移给了收入最低、议价能力最弱的一群人。法院后来否定了做法的部分合法性，政府退款并赔偿，而调查报告的重点也落在「谁有权决定，谁承担后果」上。
自动化最危险的地方，是它让错误的成本落在最没有能力反驳的人身上。
Sources
1 sourcesThese are the references used to compile this case; the numbers match the [1][2] marks in the timeline. Primary sources come first, and archive links are kept where possible.
1 of these are overseas sites (Wikipedia, the Internet Archive, etc.) that may be unreachable from mainland China, so domestic sources (Baidu Baike, mainstream financial media, exchange filings) have been added wherever possible.
-
[1]
Business Post-Mortem Memo · 自动追债系统的集体错误 (Robo-debt)
用系统自动追讨福利欠款，为什么最后要退还几亿澳元？
# Business Post-Mortem Memo：自动追债系统的集体错误 (Robo-debt) > 用系统自动追讨福利欠款，为什么最后要退还几亿澳元？ > Period: 2016 - 2020 | Industry: Enterprise SaaS > Peak: 澳大利亚福利部门上线的自动债务核算与追讨系统，用数据自动比对收入并生成应还金额，大幅提高了追讨效率 > Final: 系统用平均法推算收入而忽略了实际工作周数，导致数十万人被错误追讨债务，法院认定部分做法违法，政府取消并退还大部分款项 ## Overview 把「平均」当作「事实」，算法就会把不确定变成确定的债务。巅峰期澳大利亚福利部门上线的自动债务核算与追讨系统，用数据自动比对收入并生成应还金额，大幅提高了追讨效率；终局是系统用平均法推算收入而忽略了实际工作周数，导致数十万人被错误追讨债务，法院认定部分做法违法，政府取消并退还大部分款项。 ## Top-voted root causes 1. [Product & Tech] 算法假设与实际收入模式不符 (1,664 votes) 2. [Legal & Compliance] 举证责任被转移到个人 (1,398 votes) 3. [Org & Culture] 效率目标压过正确性验证 (1,132 votes) ## Actionable lessons ### 自动化决策要在上线前问「误判的比例有多高」 > 把误判率与申诉成功率当作系统上线的前置指标。 - ✅ DOs: - 上线前做抽样验证并测量误判率 - 把举证责任留在数据持有方一侧 - ❌ DON'Ts: - 不要让效率目标替代正确性验证 - 不要把可能误判的结果直接变成追讨通知 ## Revival plans ### 先暂停追讨、复核算法，再谈债务清收 — 良略编辑部 Intervention: 2018 年前后大量错误追讨引发公众质疑、诉讼开始出现时 - Must cut: - 停止在被追讨者举证前认定债务成立 - 停止用平均法直接生成债务结论 - 停止以追讨金额作为绩效指标 - Breakthrough moves: - 暂停自动追讨并复核已生成的债务 - 把举证所需数据由数据持有方直接提供 - 对已收款项目主动退款并公开处置进展 - Expected outcome: 错误债务被清理，退款完成，制度以更可靠的核算方式重建。 ## Community insights ### 从算法角度看，这个做法的问题在一句话里就能说清：它把全年的收入平均到每个两周，而人不是这么挣钱的。 — 良略编辑部 (工程师) 薪资数据的口径是按会计期汇总，而福利资格是按周期判断，两者之间需要一个映射。他们选择的映射方式是平均化——简单、自动化程度高，但对短期工作、季节工作、临时工作是错的。更关键的是流程设计：系统生成的债务被视为成立，被追讨者如果想要反驳，需要自己去补交工资单、工时记录等材料。这种举证责任的分配，把系统误判的成本完全转移给了收入最低、议价能力最弱的一群人。法院后来否定了做法的部分合法性，政府退款并赔偿，而调查报告的重点也落在「谁有权决定，谁承担后果」上。 - Alternative Move if Replayed 自动化最危险的地方，是它让错误的成本落在最没有能力反驳的人身上。 --- Source: 良略 · https://www.lianglue.com/c/robo-debt