# 7 个绝不让 AI 碰的地方
## 唯一红绿灯
> **AI 写错了，上线之前你查得出来吗？**
>
> 查得出，就大胆用。查不出，就别让它碰。
说白了：**AI 用在开发期，不用在运行期。**
开发期出错，有测试、有评审、有并行比对兜底，错误是不花钱的。
运行期出错，那是资金差错、客户投诉和监管罚单，而且它错得不可复现，你连查出是哪儿错的都做不到。
这 7 条的共同点：**错误无法在上线前花小钱就能验证出来，且错了赔不回来。**
## 1. 资金交易的最终记账逻辑
**为什么不能碰**
记账错误不会报错，只会让账平不了。而账不平是往前追一整天的批量，不是改一行代码。
**那该怎么做**
让 AI 写这段逻辑的**测试用例**和**对账校验脚本**，用它来验证人写的记账代码。
识别关键词：记账 / 入账 / 分录 / 总账 / 科目 / 借贷 / 过账 / 账务处理 / 资金划转 / 转账逻辑
---
## 2. 利息、费率的最终计算口径
**为什么不能碰**
少算一分钱，乘以百万账户就是监管问题。而口径对不对，测试用例测不出来——它取决于合同和监管文件怎么写。
**那该怎么做**
口径由人从制度文件里定，AI 负责把定好的口径翻译成代码，再写边界测试。
识别关键词：计息 / 利息 / 利率 / 费率 / 手续费 / 罚息 / 复利 / 年化 / 计费 / 结息
---
## 3. 生产数据的直接读取和处理
**为什么不能碰**
把生产数据贴进对话框那一刻，它就离开了你的机构。这不是技术问题，是数据出境和信息安全事件。
**那该怎么做**
让 AI 写脱敏工具，用脱敏后的数据做开发。工具本身可以让 AI 写，数据不能给它看。
识别关键词：生产数据 / 生产库 / 真实数据 / 客户信息 / 身份证 / 客户号 / 生产环境 / 线上数据 / 客户敏感
---
## 4. 运行期的自动决策
**为什么不能碰**
开发期 AI 出错有测试兜底，运行期 AI 出错直接是客户投诉、资金损失和监管问询。而且它错得不可复现，你连是哪儿错的都查不出来。
**那该怎么做**
AI 用在开发期。运行期用写死的规则引擎，规则本身可以让 AI 帮你整理。
识别关键词：自动审批 / 自动放款 / 自动决策 / 实时风控 / 自动拒绝 / 智能审批 / 自动授信 / 在线决策
---
## 5. 监管报送的最终数据出口
**为什么不能碰**
报送数字错了是要被通报和罚款的，而且报出去就撤不回。取数逻辑对不对，只有懂制度的人能判断。
**那该怎么做**
让 AI 生成取数 SQL 的初稿和跨表校验逻辑，最终口径必须人对着监管制度逐项核。
识别关键词：监管报送 / 1104 / 报送 / 监管报表 / 人民银行 / 监管数据 / 统计报表 / 报送口径 / 监管指标
---
## 6. 加密、密钥和认证的实现
**为什么不能碰**
这类代码「跑通了」和「安全」是两件完全不同的事。AI 写出来能跑，但它可能用了不该用的模式或写死了随机数种子，而这些漏洞测试全绿。
**那该怎么做**
用机构已有的、经过审计的安全组件。AI 只负责调用它，不负责实现它。
识别关键词：加密 / 密钥 / 加签 / 验签 / 证书 / 认证 / 口令 / password / token / 国密 / 报文加密
---
## 7. 生产变更的直接执行
**为什么不能碰**
AI 生成一条 update 少写一个 where，等着你的是恢复备份加一次生产事故报告。这类操作没有「撤销」。
**那该怎么做**
AI 可以帮你写脚本并解释它做了什么，但执行前必须人读一遍、先在影子库跑、且带回滚方案。
识别关键词：数据修复 / 改数据 / 订正 / 跑批调度 / 生产变更 / 补数据 / 刷数据 / 执行脚本 / 上线操作 / 紧急修复
---
## 怎么用这份清单
拿到一个需求，先问一句：**这活错了，我能在上线前发现吗？**
- 能，而且验证成本低 → 放手让 AI 干
- 能，但要靠人判断业务含义 → AI 写初稿，人签字
- 不能 → 上面这 7 条
红绿灯只有一条，剩下的都是它的说白了。
---
*本文来自 shede.site — 20 年银行核心系统从业者的 AI AI 编程红绿灯。*
*所有代码示例均使用虚构银行与虚构数据从零编写，不含任何机构的真实实现。*