当前位置:首页 > 百科

数据挖掘是什么

数据挖掘不是数据从数据里挖出什么现成的东西——数据里本来没有“知识”这种实体,它更像是挖掘在一堆看似无关的数字和记录中,找出那些你原本没意识到的数据规律。我见过最直观的挖掘例子,是数据某连锁便利店分析销售流水时发现,尿布和啤酒经常出现在同一张小票上。挖掘这不是数据因为买尿布的人突然想喝酒,而是挖掘年轻爸爸们晚上被派出来买尿布时,顺手带两罐啤酒犒劳自己。数据这个规律没有任何人提前写在报告里,挖掘是数据算法从几百万条交易记录里“看”出来的。

那数据挖掘具体怎么干?挖掘它跟传统统计有个关键区别:统计通常先有假设,再验证;数据挖掘是数据先扔进算法,让机器自己找模式。挖掘比如你有一份银行客户数据,数据想知道谁可能违约。传统做法是假设收入低的人容易违约,然后做检验。数据挖掘的做法是把年龄、职业、还款记录、甚至手机号归属地全喂给模型,让它自己判断哪些因素组合起来最危险。结果可能告诉你,某个特定邮编区域、且最近三个月查询过征信超过5次的人,违约率是普通人的8倍。这个组合条件,人脑很难凭空想出来。

常用手段就那么几类。聚类是把相似的东西归堆,比如电商把用户分成“只买打折品”“新品必追”“深夜下单”几类,每类推送不同广告。分类是给新数据贴标签,像垃圾邮件过滤,模型看过几万封邮件后,能判断新邮件是不是垃圾。关联规则就是前面尿布啤酒那种,找“买了A也常买B”的搭配。还有回归,用来预测数值,比如根据房屋面积、地段、房龄估算房价。这些方法本身不新鲜,新鲜的是数据量大了之后,它们能捕捉到非常细微的交互效应。

我观察到一个现象:很多人把数据挖掘和机器学习混着用,其实边界模糊。但数据挖掘更强调“从数据到洞察”的完整流程,包括数据清洗、特征构造、模型评估、结果解释。机器学习偏重算法本身。实际上,一个数据挖掘项目里,70%的时间花在清洗数据上——处理缺失值、纠正错别字、统一日期格式。我见过一个零售数据集,同一个商品名有“可口可乐”“可口可乐 ”“可乐 可口”三种写法,不清理干净,关联规则会得出荒谬结论。

它也有失灵的时候。数据挖掘找的是相关性,不是因果。冰淇淋销量和溺水人数高度相关,但吃冰淇淋不会导致溺水,只是夏天到了。如果直接拿这个相关性去制定政策,比如夏天禁售冰淇淋来减少溺水,那就闹笑话了。另一个坑是过拟合:模型在历史数据上准得吓人,一到新数据就废了。就像背答案的学生,考题一变就露馅。所以实际应用中,必须留一部分数据做测试,不能全用来训练。

最后说个真实细节。某电信公司想预测客户流失,挖了半年数据,发现最重要的指标是“客户拨打客服电话的次数”。但进一步看,不是次数越多越容易流失——打1到2次的人流失率反而低于从不打电话的人。真正危险的是打3次以上且问题没解决的。这个细微差别,不深入看数据根本发现不了。数据挖掘的价值就在这儿:它不给你标准答案,但能帮你提出更准的问题。

分享到: