活动回顾 | 矩阵起源 CEO 王龙：与大数据结合，是大模型成熟的必经之路

大模型是一个利用 transformer 架构来预测、推断和决策的概率系统，而基于检索的传统大数据会带来既可控又准确的结果，大部分情况下概率系统和精确系统的结合是有必要的。矩阵起源团队很早就开始思考大模型与大数据的结合点，DB for AI、AI for DB、AI in DB、AI with DB, 存在多种合作模式，数据库智能运维，用户交互，知识库与智能问答，训练和推理都是一些可行的方向。用户可以使用大模型运用预处理的日志进行数据库的故障诊断；使用大模型按照场景写出所需要的 SQL 语句；运用大模型帮助企业建立知识库与BOT，但这些落地也都有各自的挑战。例如在构建企业知识库时，有可能回答出现产生10,000条数据时期中1条数据是错误的情况，糟糕的是用户并不知道错误的是哪条，也不知道到底什么时候出错。矩阵起源的一个思路是使用 RAG 模式或者使用大模型给出直接答案的时候，对输入和输出进行评估，如果需要精确实时信息而大模型自身又无法判断的时候，我们就会重定向到知识图谱或是结构化数据库中寻找精准的答案，即一个能实现大模型诊断的数据管理系统。这个技术难度非常高，但者也是大模型在行业落地中最关键的难题之一。