每日文献雷达:2026-07-10

今日 slides:research-radar-2026-07-10

每日文献雷达:2026-07-10

你有没有想过一个问题:当 LLM 已经能写 SQL 了,为什么企业里的数据分析师还在手动写?

答案不是”模型不够强”。今天的五篇论文从不同角度指向同一个结论——问题不在生成能力,而在系统性差距:基准测不准、Schema 会变化、文件之间有依赖、数据本身是脏的、候选答案选不对。

今天入选的五篇论文正好构成了一条链路:从数据清洗到 Schema 适应,从 SQL 生成到结果选择,再到整个工作区的文件依赖推理。我把它们画成了一张图。


flowchart LR
    subgraph L1["数据层:准备与清洗"]
        A["LLMs Clean Up
Your Mess?
数据清洗综述"] end subgraph L2["Schema 层:适应演化"] B["EvoSchema
Schema 演化
鲁棒性基准"] end subgraph L3["生成层:NL2SQL"] C["NL2SQLBench
模块化评估
框架"] D["DivSkill-SQL
残差技能优化
集成选择"] end subgraph L4["工作区层:文件依赖"] E["Workspace-Bench
多文件依赖
Agent 基准"] end L1 --> L2 --> L3 --> L4 style A fill:#fff3cd,stroke:#f0ad4e style B fill:#d1ecf1,stroke:#0c5460 style C fill:#d4edda,stroke:#155724 style D fill:#d4edda,stroke:#155724 style E fill:#e2d9f3,stroke:#6f42c1

上图从左到右,就是一条数据从”脏”到”能被 Agent 理解和操作”的完整链路。今天的五篇论文恰好覆盖了每一层。


NL2SQLBench:你测的模型,可能根本没测对

作者:Shizheng Hou, Wenqi Pei, Nuo Chen, Quang-Trung Ta, Peng Lu, Beng Chin Ooi · 发表:VLDB · 代码github.com/neurdb/NL2SQLBench

想象一下你去医院体检,但体检报告只告诉你”身体还行”,不告诉你哪个器官有问题。这就是当前 NL2SQL 评估的现状——只看端到端准确率,不看每个模块到底哪里出了问题。

NL2SQLBench 把 NL2SQL 管线拆成了三个模块,每个模块独立打分:

模块 做什么 核心指标 发现的问题
Schema Selection 从几十张表中选出相关的表/列 Precision/Recall/F1 过度选择——选了太多无关表
Candidate Generation 生成候选 SQL Correct Rate / Error Rate 语义错配远多于执行错误
Query Revision 修正错误 SQL Correctness Improvement Rate 最高改进率仅 26.32%

最惊人的发现是:用 Gold Schema 后,C3-SQL 准确率从 37.94% 跳到 45.63%(+20.27%)。这意味着 Schema Selection 是整个管线的最大瓶颈,而不是 SQL 生成本身。

他们还发现 BIRD 数据集里存在大量不准确的 Gold SQL 标注——你用来训练模型的标准答案,可能本身就是错的。这就像考试的标准答案有误,学生还怎么考高分?


Workspace-Bench:你的 Agent 还看不懂你的文件夹

作者:Zirui Tang, Xuanhe Zhou, Yumou Liu 等 · 代码github.com/OpenDataBox/Workspace-Bench

你打开一个数据分析师的桌面,会看到什么?Excel 表格、Python 脚本、CSV 数据、PDF 报告、JSON 配置文件……这些文件之间不是孤立的——一个 Python 脚本读取一个 CSV,输出一个 Excel,Excel 又被另一个脚本引用。

这就是 Workspace-Bench 要测的东西:Agent 能不能理解文件之间的依赖关系?

这个基准的规模让人印象深刻:5 个角色工作区(运营经理、物流经理、产品经理、后端开发、研究员),20,476 个文件,74 种文件类型,388 个任务,每个任务都标注了文件依赖图。

结果呢?最佳 Agent 只有 60% pass rate,而人类+工具是 80.7%。差距最大的不是”找不到文件”,而是”理解文件之间的关系”——Edge F1 显著低于 Node F1。翻译成人话:Agent 知道文件在哪,但不知道文件之间怎么互相影响。


Can LLMs Clean Up Your Mess?:数据不干净,后面的都白搭

作者:Wei Zhou, Jun Zhou, Haoyu Wang 等 19 人 · 代码github.com/weAIDB/awesome-data-llm

这篇综述的标题就很直白——“LLM 能帮你收拾烂摊子吗?” 它调研了数百篇文献,把 LLM 时代的数据准备归纳为三个核心任务:


flowchart TB
    subgraph DC["数据清洗 Data Cleaning"]
        S1["标准化
Standardization"] S2["错误处理
Error Processing"] S3["缺失补全
Imputation"] end subgraph DI["数据集成 Data Integration"] S4["实体匹配
Entity Matching"] S5["Schema 匹配
Schema Matching"] end subgraph DE["数据增强 Data Enrichment"] S6["数据标注
Annotation"] S7["数据画像
Profiling"] end DC --> DI --> DE style DC fill:#fff3cd,stroke:#f0ad4e style DI fill:#d1ecf1,stroke:#0c5460 style DE fill:#d4edda,stroke:#155724

核心洞察是:从规则驱动到 prompt 驱动的范式转变。以前的数据清洗是写死规则(正则表达式、if-else 逻辑),现在 LLM 可以理解”这个字段应该是电话号码格式”的语义。但代价也很明显——幻觉和规模化成本。在百万行数据上用 LLM 逐行清洗?你会破产的。


EvoSchema:你以为训练好的模型,上线就废了

作者:Tianshu Zhang, Kun Qian, Siddhartha Sahai 等(Adobe + Ohio State) · 发表:VLDB · 代码github.com/zhangtianshu/EvoSchema

数据库 Schema 是会变的——今天加一列,明天改个表名,后天合并两个表。你的 NL2SQL 模型在静态测试集上拿了 90% 准确率,一上线就掉到 60%。

EvoSchema 定义了 10 种 Schema 演化扰动类型,分列级别和表级别:

扰动级别 示例 影响程度
列级别 重命名列、添加列、删除列、修改列类型 中等
表级别 重命名表、拆分表、合并表、添加表、删除表 严重

关键发现:表级别变动的性能影响远大于列级别变动。而且,在演化后的 Schema 上训练,模型会学会”区分 Schema 差异”而不是”记住表面的列名映射”——这比在单一静态 Schema 上训练出来的模型鲁棒得多。


DivSkill-SQL:不是生成更多候选,而是生成互补的候选

作者:Jiongli Zhu, Haoquan Guan 等(UCSD + Snowflake)

Text-to-SQL 的常见做法是生成 K 个候选 SQL,然后选一个最好的。但问题是:如果 K 个候选都在同一个地方犯错呢?

这就是 DivSkill-SQL 的核心洞察:当前的集成方法靠随机解码或 prompt 变体来制造多样性,但候选之间高度相关,导致”集体翻车”。

他们的做法很优雅:残差技能优化。每训练一个新技能,只优化当前集成还做不对的样本。这保证了每个新技能都提供”边际贡献”,而不是重复已有的能力。

效果:Spider2-Lite 上 Snowflake +11.1 分,BigQuery +8.3 分。更重要的是,跨 SQL 方言迁移不需要重新训练——Snowflake 上优化的技能,迁移到 SQLite 和 BIRD-Critic 依然有效。幻觉引用减少了 3 倍。


今天五篇论文的交叉点

回头看看开篇那张图——五篇论文正好覆盖了从”脏数据”到”Agent 能操作”的完整链路。它们共同指向一个结论:

Data Analysis Agent 的瓶颈不在模型能力,在系统设计。 数据清洗、Schema 适应、模块化评估、文件依赖推理、互补候选生成——这些不是独立的子问题,而是一条链路上的连环关卡。任何一个环节掉链子,整条链路就断了。

真正好的 Data Analysis Agent,不是最强的 LLM,而是最诚实的系统。

检索说明

  • 检索层:arXiv(deepxiv)+ Semantic Scholar + Google Scholar,每日查询轮换,保证论文多样性。
  • 阅读层:优先获取 arXiv HTML 全文,使用结构化三元组 + 公众号 storytelling 风格拆解论文逻辑。
  • 深度阅读方法论参考 /readpaper 技能。
  • 自动分析用于雷达筛选,重要论文仍需人工复核。

每日文献雷达:2026-07-10
http://zkkk123.cn/2026/07/10/research-radar/2026-07-10-daily-research-radar/
Author
Ke Zhang
Posted on
July 10, 2026
Licensed under