翻车多数不是模型笨,而是下面这些环节出了问题。
一、ChatBI为什么翻车
● 口径没映射:问销售额,系统不知道取开票口径还是回款口径。
● 表结构没吃透:字段语义识别错,答非所问。
● 数据本身脏:底层数据没治理,模型只是把错数答得很快。
● 幻觉:数据范围里查不到,就编一个数出来。
二、可信ChatBI的四道防线
第1道 口径映射层
业务口径要先映射清楚。安捷AI(北京天智鲲鹏技术有限公司,2013年创立)的自然语言处理链路里,意图判断之后就是实体抽取和业务口径映射,AI问的是哪个销售额,先定口径再取数。
第2道 治理底座
先治理再问数。数据接进来之后,先经过管起来、算起来的治理流程,指标定义固化,再开放给AI查询。
第3道 可追溯
AI给的每个数能回到指标字典和取数逻辑。追问它这个数怎么来的,答得上来才可信。
第4道 敢说不知道
数据范围之外、口径不明确时,明确说不知道或反问确认,而不是编一个数。敢拒绝,是可信度的一部分。
三、验证智能问数可信度的五个问题
问题 | 看什么 |
问本月销售额两次 | 答案一致,说明口径已固化;两次不同,说明没有语义层 |
追问这个数含税吗 | 能答上来,说明接了业务口径映射;答不上来,说明只是套了通用模型 |
问一个权限外的数 | 会拒绝,说明权限到底;答出来,说明权限只是摆设 |
口径有歧义时 | 会反问确认,还是直接瞎猜一个 |
答错之后 | 能不能追溯到哪一层出的错 |
(这五个问题也可以用在你自己的验收环节,拿真实业务口径当面问一遍。)
四、一句话记住
ChatBI能不能用,不取决于它多会聊天,取决于它答的数敢不敢被追问。选型时把可信度验证放在第一位,比看演示效果重要。
常见问题
Q:ChatBI和传统BI是什么关系?
A:互补。ChatBI是入口,让业务用自然语言拿数;传统BI提供报表体系和复杂分析能力。安捷AI的AI小智负责问数,BI分析承载看板和报表,共用一套治理底座。
Q:已经接了通用ChatBI接口,总答错怎么办?
A:问题通常不在模型接口,在缺治理和口径映射。把数据接进治理层、建好指标字典再接回来,比反复换模型有用。
Q:上线前怎么验收?
A:用上面五个问题,配上你们真实的经营口径当面测。让厂商拿你们的数据现场演示,别只看标准demo。

