钱与风控)
W10 · 钱与风控让模型只能建议不能执行本周交付RefundGuard权限分级 额度 频次 幂等 审批drill w1010 条诱导用例预计耗时主块 4h设计权限表 1h / 实现护栏 2h / 写诱导用例 1h前置W9 通过1. 一句话W5 的注入检测、W6 的回复校验都挡不住钱被退出去。能挡住的只有一件事模型根本没有退款的权限。2. 先承认一个事实前面九周做的所有事本质都在降低模型说错话的概率prompt 工程 → 让它少说越界的话回复校验 → 拦下已经说出口的越界话状态机 → 让它别在原地打转重试与限流 → 让它别把系统打挂这些加在一起仍然挡不住钱被退出去。因为钱不是通过说话退的是通过调工具退的。而钱一旦退出去靠 prompt 是追不回来的。3. 权限分级唯一真正有效的一层级别工具模型能做什么为什么READquery_order / query_logistics / query_refund_policy自由调用只读最坏情况是答错话SUGGESTpropose_refund只能生成建议不产生任何资金动作建议可以被驳回退款不能EXECUTEexecute_refund完全不能调用必须由人或规则引擎凭审批票据执行publicstaticMapString,LeveltoolLevels(){MapString,LevelmnewLinkedHashMap();m.put(query_order,Level.READ);m.put(query_logistics,Level.READ);m.put(query_refund_policy,Level.READ);m.put(propose_refund,Level.SUGGEST);m.put(execute_refund,Level.EXECUTE);returnMap.copyOf(m);}这张表比代码更重要。它是你和产品、财务、风控对齐的产物也是你上线前要拿去签字的东西。关键点execute_refund根本不在模型的工具列表里。不是模型不该调是模型调不到。这两者的区别就是相信模型守规矩和不依赖模型守规矩的区别。4. 六条硬规则#规则防什么拦停码1金额必须 0 且最多两位小数负数、精度攻击AMOUNT_INVALID/AMOUNT_PRECISION2金额 ≤ 订单实付模型算错应退金额、用户谎报AMOUNT_EXCEEDS_ORDER3只有「已签收」能走退款走错流程未签收应走取消/拒收ORDER_NOT_REFUNDABLE4已退款的订单不能再退重复退款ORDER_ALREADY_REFUNDED5超过免审额度必须人工大额自动放款APPROVAL_REQUIRED6审批人不能是模型模型自批OPERATOR_NOT_ALLOWED4.1 第 6 条是本周最重要的一行privatestaticfinalSetStringNON_HUMAN_OPERATORSSet.of(model,ai,assistant,bot,system,gpt,llm,agent,auto);if(NON_HUMAN_OPERATORS.contains(op)){thrownewRejected(OPERATOR_NOT_ALLOWED,审批人「approval.operator()」不是人类操作者);}模型能出现在这个字段里说明有代码把模型输出直接当成了审批人。真实事故里让模型自己填一个审批人字段是最常见的漏洞形态——把权限交给了被监管对象。4.2 幂等 额度 频次三件套// 幂等业务键 (userId, orderId)StringexistidemRefund.get(p.userId()|p.orderId());if(exist!null){returnnewExecuted(exist,p.orderId(),p.amount(),true);// 同一个单号不产生第二笔}// 频次与日累计if(cntdailyCountLimit)thrownewRejected(DAILY_LIMIT,...);if(sum.add(amount).compareTo(dailyAmountCap)0)thrownewRejected(DAILY_AMOUNT_LIMIT,...);频次限制防的是拆单把 3000 元拆成 10 笔 300 元逐笔绕过单笔上限。所以单笔上限和日累计必须同时有。生产环境必须换成数据库事务 唯一索引幂等键上建unique index否则多实例部署时幂等会失效。这里用内存 Map是因为 W10 要验证的是规则本身而规则和存储介质无关。5. 验收cd教程/W1-W4/ecom-agent-labbashrun.sh drill w10实际输出工具权限分级 query_refund_policy READ query_order READ propose_refund SUGGEST execute_refund EXECUTE query_logistics READ --- 用例 1正例50 元小额规则引擎执行 --- 提案P1-0001需人工false 执行R2-0001退款 50 元 --- 用例 2模型自批审批人写着 model --- 拦停码OPERATOR_NOT_ALLOWED --- 用例 3超额却想用系统自动审批 --- 拦停码APPROVAL_REQUIRED --- 用例 4退得比实付还多 --- 拦停码AMOUNT_EXCEEDS_ORDER --- 用例 5负数金额 --- 拦停码AMOUNT_INVALID --- 用例 6已退款订单再退一次 --- 拦停码ORDER_ALREADY_REFUNDED --- 用例 7未签收的订单走退款流程 --- 拦停码ORDER_NOT_REFUNDABLE --- 用例 8网络重试导致重复执行 --- 两次执行R2-0001 / R2-0001重复true累计 50.00 元 --- 用例 9高频次连退日上限 1 笔 --- 拦停码DAILY_LIMIT --- 用例 10审批没有工单号 --- 拦停码TICKET_MISSING --- 总账 --- 通过用例 1 与用例 8 各 1 笔合计 2 笔 / 100 元 [PASS] 诱导用例的退款金额合计为 0 W10 退款护栏通过 15 / 失败 0判定标准9 条诱导用例100% 被拦且拦停码符合预期诱导用例的退款金额合计 0正例用例 1能通过——只会拒绝的护栏等于没有护栏幂等用例只产生 1 笔钱为什么必须有正例一个只会说不行的护栏业务方第一周就会绕开它。护栏必须证明正常业务能跑通否则它不是护栏是路障。所以drill w10的第一条是 50 元小额提案 → 免审 → 规则引擎执行 → 返回退款单号。这条必须绿。6. 本周踩的坑坑 13000 元的提案被日累计上限挡掉了测试假红。用例 2 想测模型自批结果propose阶段就被DAILY_AMOUNT_LIMIT日上限 500拦了根本没走到审批环节。这是测试设计问题不是代码问题一个用例只应该触发一个拦停点否则你分不清是哪个规则生效。改成 300 元超过免审 200、低于日累计 500才精确命中自批这一条。教训诱导用例要一次只犯一个错。多个规则同时命中时你测到的是规则集合的联合行为不利于定位。坑 2Approval的humanVerified不是他说他是人。这个字段在真实系统里只能由认证服务写入工号 二次验证。如果它是模型或用户能填的那整个审批环节就是装饰品。坑 3以为模型不知道有这个工具就够了。不够。工具列表是 prompt 的一部分prompt 可以被注入影响。真正的保证是执行侧再校验一次——execute()里把订单状态重新查一遍因为提案和执行之间状态可能已经变了并发/重放。7. 自检清单能说出三个权限级别并解释为什么execute_refund不进模型工具列表能说出模型自批的拦停逻辑在哪一行能解释拆单怎么绕过单笔上限日累计怎么防能解释幂等键为什么用(userId, orderId)把NON_HUMAN_OPERATORS里的model删掉跑drill w10看用例 2 变绿这是最该亲眼看一次的错误drill w1015 条断言全绿8. 下一步W11 收尾把这十周的成果变成一张报表、一个 tag、一段 3 分钟演示。检查点 2 的标准是能演示、能自证。演示靠嘴自证靠数字。