第二章:数据源探索——金融数据的“源头活水”

做金融网络图,第一步不是写代码,而是搞清楚数据从哪来。

我见过不少团队,一上来就急着建图,结果数据质量一塌糊涂,图建好了也是废的。说白了,数据源探索就像盖楼打地基,地基不稳,楼再高也得塌。

这一章,我们就聊聊常见的金融数据源、怎么采集,以及合规性那些绕不开的坑。

2.1 三大核心数据源

金融网络图的数据源,我习惯分成三类:交易流水、企业工商信息、社交关系。这三类数据,基本覆盖了90%以上的金融风控场景。

2.1.1 交易流水

交易流水是金融网络的“血液”。每一笔转账、消费、取现,都是节点之间的边。

常见的交易流水字段包括:

字段名 说明 示例
交易ID 唯一标识 TXN202403150001
发起方账号 资金流出方 622202****1234
接收方账号 资金流入方 622203****5678
交易金额 单位:元 5000.00
交易时间 精确到秒 2024-03-15 14:23:10
交易类型 转账/消费/还款等 转账
交易渠道 网银/手机银行/ATM 手机银行
我的经验:交易流水数据量通常很大,一天几千万条很常见。我建议先做抽样分析,看看数据分布,再决定清洗策略。别一上来就全量处理,容易把服务器搞崩。

2.1.2 企业工商信息

企业工商信息是构建“法人-企业”关系网络的关键。它告诉我们谁开了公司、谁当了股东、谁在控制谁。

核心字段包括:

  • 企业基本信息:企业名称、统一社会信用代码、注册地址、注册资本
  • 股东信息:股东名称、持股比例、出资额
  • 高管信息:法定代表人、董事、监事、经理
  • 变更记录:股权变更、法人变更、地址变更

我在项目中遇到过一个问题:同一个自然人,在不同企业里名字写法不一样。比如“张三”和“张 三”(中间多了个空格),或者“张先生”。这种数据不标准化,图就建不起来。

避坑指南:企业工商数据里,人名和公司名的标准化是重中之重。我曾经因为没做名称归一化,导致同一个人的节点在图中出现了三个,查了半天才发现是空格和全半角的问题。

2.1.3 社交关系

社交关系数据,说白了就是“谁认识谁”。在金融场景里,社交关系可以用来做团伙欺诈识别。

常见的社交数据源:

  • 通讯录:借款时授权的手机通讯录
  • 通话记录:通话频率、时长、时段
  • 设备指纹:同一设备登录过哪些账号
  • IP地址:同一IP下有哪些用户
  • 地理位置:常去地点、轨迹重合度

你想想看,如果10个人都用同一台设备申请贷款,而且通讯录里互相都有对方,这大概率是个欺诈团伙。社交关系图就是用来抓这种模式的。

2.2 数据采集策略

数据采集不是简单的“把数据拿过来”,而是要考虑怎么拿、拿多少、拿多快。

2.2.1 采集方式

我常用的采集方式有三种:

  1. API接口:实时或准实时拉取,适合交易流水这种高频数据
  2. 数据库直连:通过JDBC/ODBC直接查询,适合企业工商这种低频数据
  3. 文件导入:CSV、Excel、Parquet等格式,适合历史数据批量处理

核心原则:能增量就别全量,能异步就别同步。金融数据量大,全量采集容易把源系统拖垮。

2.2.2 采集频率

不同数据源的采集频率不一样:

数据源 推荐频率 说明
交易流水 实时/每小时 风控需要实时响应
企业工商 每天/每周 变更频率较低
社交关系 每天 通讯录变化不大
设备指纹 实时 用于反欺诈

2.3 合规性——绕不开的坎

做金融数据,合规是第一位的。我见过有公司因为数据采集不合规,被罚了几百万,得不偿失。

2.3.1 数据隐私法规

国内主要遵循《个人信息保护法》(PIPL)和《数据安全法》。核心要求:

  • 告知同意:采集用户数据前,必须明确告知用途,并获得同意
  • 最小必要:只采集业务必需的数据,不要贪多
  • 数据脱敏:身份证号、手机号等敏感信息必须脱敏处理
  • 存储期限:数据不能无限期保存,到期必须删除
我曾经踩过的坑:有个项目采集了用户的通讯录,但没在隐私协议里写清楚用途。结果被用户投诉,监管部门要求整改,项目延期了两个月。从那以后,我每次做数据采集,第一件事就是找法务确认合规性。

2.3.2 数据分级管理

金融数据一般分为三级:

级别 示例 处理要求
L1 公开 企业名称、注册地址 无需脱敏
L2 内部 交易金额、交易时间 脱敏后使用
L3 敏感 身份证号、手机号 加密存储,严格权限控制

嗯,这里要注意:L3级别的数据,在图数据库中也要加密存储。我习惯用哈希处理,比如把手机号转成MD5,这样既能关联节点,又不会泄露明文。

2.4 知识体系总览

下面这张图,是我自己总结的数据源探索知识体系。你可以把它当成一个检查清单,做项目时对照着看,不容易漏掉关键环节。

金融数据源探索知识体系 交易流水 企业工商信息 社交关系 数据采集策略 API接口(实时) 数据库直连(批量) 文件导入(历史) 合规性要求 告知同意 最小必要 数据脱敏 分级管理 数据源探索 → 采集策略 → 合规检查 → 图构建

这张图把数据源探索的核心流程串起来了。从左到右,先搞清楚数据源有哪些,再制定采集策略,最后别忘了合规检查。每一步都走扎实了,后面的图构建才能顺风顺水。

我的建议:做数据源探索时,最好画一张类似上面的流程图,贴在工位上。每次遇到数据问题,看一眼图,就知道问题出在哪个环节。这招我用了好几年,很管用。

公众号:蓝海数据掘金营,微信deep3321