归档

全部文章

共 10 篇文章

云资源选型

LoRA 训练和 vLLM 要单卡 GPU

这条线的机器要求来自 vLLM 部署，不是估算。 项 文章里的要求 系统 Linux。Mac 可以做训练验证，不能 vllm serve GPU V100-32GB、4090、A10-24GB 这一档 磁盘 基座约 8.7GB，加上 vLLM 缓存，可用空间建议不少于 15GB 权重形态 基座和...

阅读全文 →
云资源选型

Milvus 与数据库要按内存选 ECS

向量库和数据库吃的是内存和磁盘，不是显卡。配置以下面两篇已经写过的数字为准，不另估一套。 RAG 管道 Docker 部署 的硬件表：CPU 最低 4 核、推荐 8 核以上；内存最低 16GB、推荐 32GB 以上；磁盘最低 20GB 可用、推荐 50GB 以上。PaddleOCR-VL 加载约 4–6GB。纯推理可...

阅读全文 →
云资源选型

轻量服务器只适合跑通 CPU 服务

轻量应用服务器适合「文章里的服务是 CPU、依赖已经写进镜像、你只想有一台公网机器把它跑起来」。 对照这篇：AI 项目 Docker 部署。镜像里是前端构建、CPU 版 PyTorch 和中文字体，没有 GPU 推理，也没有 Milvus。 这种场景买什么先选 2 核 4G 的轻量服务器，预付费按月或按年。镜像构建时如...

阅读全文 →
云资源选型

只调用模型时不必买服务器

本站有一批文章的运行时依赖是「一个能调用的模型接口」，不是一台机器。 对照这两篇： FastAPI + LangChain 统一 LLM 调用：ChatOpenAI 指向兼容接口，换供应商是改配置。 LLM 统一网关：LiteLLM 把多家模型收成一个入口，网关进程可以跑在你已经有的电脑或现有服务器上。 这种场景买...

阅读全文 →
Data Agent 数据智能体

Data Agent 运营闭环：bi_metric_gap 口径缺口与用户反馈治理

上线只是起点Data Agent 上线后，真实用户会问出测试集从未覆盖的问法： 「销售收入和新增客户数能放一张图吗」 「华北区留存率为什么和上周报表不一致」 「有没有按产品线拆的收入」（元数据未配置） 若只靠一次性交付，系统会静态腐烂。需要运营闭环：发现缺口 → 分类工单 → 更新元数据/知识 → 验证回...

阅读全文 →
Data Agent 数据智能体

Data Agent 上线验证：演示数据 seed、指标对齐与 Text-to-SQL 测试

上线验证的目标演示不是「能跑就行」，而要证明三件事： 数据可信：宽表与元数据口径一致，过滤条件正确 链路可复现：同一问法多次返回相同 SQL 与结果 异常可解释：失败时有排障路径，而非沉默报错 本篇给出虚构企业场景的完整验证 playbook。 测试数据 Seed 流程12345678910111213flowch...

阅读全文 →
Data Agent 数据智能体

Data Agent SQL 安全：注入防护、表白名单与空结果兜底

Data Agent 的安全风险把自然语言接到数据库，等于把部分数据访问能力暴露给终端用户。典型风险： 风险 攻击示例 后果 SQL 注入 '; DROP TABLE bi_metric; -- 数据破坏 越权读表 拼接未授权表名 敏感数据泄露 全表扫描 无 LIMIT 的大结果集 DB 负...

阅读全文 →
Data Agent 数据智能体

Data Agent 多轮对话：追问澄清与 needs_clarification 设计

单轮问数的局限用户很少一次把问题说全。典型不完整问法： 用户输入 缺失信息 系统应有行为 销售收入多少 时间周期、区域 追问周期，默认全国 华东区留存率 时间周期、指标确认 追问 Q1 还是全年 对比一下 对比对象、指标 追问哪两个区域、哪个指标 和上次一样 依赖会话上下文 读取上一轮参数...

阅读全文 →
Data Agent 数据智能体

Data Agent RAG 实战：企业指标知识库与 bge-m3 向量检索

为什么 Data Agent 需要 RAGText-to-SQL 管道解决的是「命中指标 → 拼 SQL → 执行」的确定性路径。但企业问数场景里还有大量半结构化知识： 知识类型 示例 适合载体 指标定义 销售收入 = 已确认订单含税金额 MySQL bi_metric 取数逻辑 宽表 dws...

阅读全文 →