腾讯宣布开源分布式数据科学组件项目 Fast-Causal-Inference。这是由腾讯微信研发,采用SQL交互的,基于分布式向量化的统计分析、因果推断计算库;目前已在微信视频号、微信搜一搜等微信内部多个业务进行了应用。
根据介绍,该项目旨在解决已有统计模型库(R/Python)在大数据下的性能瓶颈,提供百亿级数据秒级执行的Causal inference能力。同时通过SQL语言降低统计模型使用门槛,易用于生产环境中。
1、提供海量数据秒级执行的Causal inference能力
基于向量化OLAP执行引擎ClickHouse/StarRocks,速度上更益于极致化用户体验
2、极简的SQL使用方式
SQLGateway WebServer通过SQL语言降低统计模型使用门槛,并在上层提供极简的SQL使用方式,透明做引擎相关的SQL展开和优化
3、提供基础算子、高阶算子的因果推断能力, 及上层的应用封装
支持 ttest, OLS, Lasso, Tree-based model, matching, bootstrap, DML等
基础因果推断工具
进阶因果推断工具