任务 08

企业数据通道:从 ERP 到数据集

智能体要在企业里做事,先要读到准确、新鲜的业务数据。这些数据在 ERP、MES 和各种老系统里:表多、量大、常常没有可靠的修改时间,源系统也不能被压。这个任务做好平台的数据通道:从源系统增量同步成数据集,再加工成业务对象。规模变大,也稳、也省。

¥30K–60K / 月

按里程碑验收付款 · 交付越好,报酬越高

AI 面试
¥30K–60K月度报酬 · 人民币,税前
1 个月 · 3 个月 · 1–2 年周期
Builder · Optimizer需要的类型
远程 + 客户现场(按需)工作方式
01

为什么做

这个任务要解决的问题。

业务数字错一次,业务方就不再相信智能体。数据通道是整套系统的地基。

源系统受客户保护:只能只读、限速地接入,不能给它加负担。所以同一张表只同步一次,所有人都从数据集读。

02

现在的问题

我们走到了哪里、卡在哪里。都是真实的数字。

  1. 一家客户已经有 90 个数据集、约 578 万行,来自 81 个表导入;但只有 8 个业务对象类型直接由数据集供数,其余还在走旧的路径。
  2. 第一次全量同步曾经让生产数据库的连接池耗尽:几十个写入同时排队等同一把锁,登录和普通页面都返回错误。现在靠人工每次放 10 张表来避开。
  3. 很多 ERP 表没有可靠的修改时间,只能整表重读;一张大表失败后重试,会重传全部的行。
  4. 还缺三项平台能力:在数据集上直接跑 SQL、业务对象直接由数据集供数、表导入分段续读。
03

为什么难

这些问题要靠人的判断,不是照着步骤做。

  1. 正确比快更重要,但两者都要。增量判断错一次,就有一个数字悄悄地错下去。同步要能自己核对。
  2. 并发与一致性:变化的序号必须单调递增,自动化不能漏掉一条变化,也不能重复处理;大批写入不能卡住别的请求。
  3. 每家企业的 ERP 都不一样:要在混乱的真实表结构里找到业务的粒度,判断哪些要同步、哪些要加工、哪些不该搬。
  4. AI 可以帮你写转换脚本、做核对。但设计数据架构、在一致性和成本之间取舍、为数字的正确负责,要靠人。
04

交付物

完成时交出的东西。

  1. 增量同步:按表选择变化检测的方法(修改时间、序号、校验和或日志);失败后从断点续读,不重传。
  2. 写入排队与隔离:大批同步不影响交互请求;同一命名空间的写入按顺序进行。
  3. 数据集上的 SQL 与加工;业务对象直接由数据集供数。
  4. 自动对账:每次同步后核对行数和关键汇总,异常就告警。
  5. 接入手册:下一个 ERP 可以照着接。
05

里程碑

每个阶段验收后付款。

1 个月 · 试做

一家客户的全部表导入改成增量同步;第一次全量不再影响生产;每次同步自动对账。

3 个月 · 交付

三项平台能力上线:数据集 SQL、对象由数据集供数、分段续读;一家客户的核心业务对象全部切到数据集。

1–2 年 · 长期

推广到全部客户;单表千万行级的同步稳定运行;接入一个新 ERP 缩短到一周以内。

06

KPI

怎么判断交付得好。具体数值写进任务协议。

  1. 同步后自动对账的一致率。
  2. 数据新鲜度:按约定周期准时到达的比例。
  3. 同步期间交互请求的错误:0 次。
  4. 每百万行同步的计算与存储成本。
07

会用到的技术

不要求全会,要能很快学会。

SQLPostgreSQLParquet / DuckDBS3变更数据捕获(CDC)SAP / ERP 数据结构Python / TypeScriptAIDC 数据接入与数据集
08

背景要求

我们希望你已经具备的。

  1. 4 年以上数据工程或数据平台经验。
  2. 负责过千万行级、增量同步的生产数据管道。
  3. 熟悉数据库的事务、锁与并发,处理过由此引起的生产事故。
  4. 加分:接过 SAP 或其他 ERP 的数据。
09

用什么证明

上传这类文件,匹配度更准。

  1. 你设计的数据管道:规模、增量的方法、怎样核对。
  2. 一次数据事故的复盘:原因、修复、怎样防止再发生。
  3. 你接入过的 ERP 或业务系统。

上传一份文件,Adis 给出你和这个任务的匹配度。