1209马云

猜你喜欢

RAG作者：部署企业RAG系统的10个经验教训｜2025.04.11

https://www.youtube.com/watch?v=kPL-6-9MVyA RAG 作者 Douwe Kiela 近期演讲，讲述了他在部署企业 RAG 系统中获得的 10 个经验教训。他表示，现在存在 AI Context 悖论：LLM 在复杂推理、综合信息、代码生成、数学计算等方面表现惊人（对人类“难”），但在理解和应用特定上下文信息 (Context) 方面却很困难，而这恰恰是人类凭直觉和专业知识能轻松做到的。企业要实现从 AI 中获得差异化价值和业务转型（而不仅仅是便利性或效率提升），就必须依赖于深度、准确的企业上下文信息。目前大多数应用还停留在低上下文信息需求的“便利性”阶段。 10个经验教训： 1.更好的 LLM 不是（唯一）答案： LLM 只是整个 AI 系统（特别是 RAG 系统，包括提取、检索、生成、联合优化）的一小部分（约 20%）。一个优秀的 RAG 系统配合普通的 LLM，效果可能优于一个顶尖 LLM 配合糟糕的 RAG 系统。关键是关注系统而非孤立的模型。 2.专业知识是你的燃料：企业内部积累的专业知识和机构知识（通常存在于文档和数据中）是驱动 AI 产生价值的核心燃料。必须设法解锁这些专业知识。 3.企业规模是你的护城河：企业的核心竞争力在于其独特的数据。真正的挑战在于大规模地利用这些数据，让 AI 能够处理大规模、甚至“嘈杂”的真实数据。成功做到这一点，就能构建竞争壁垒。 4.试点与生产之间的鸿沟总是比预想的要大：建立小规模试点相对容易（少量文档、用户、单一场景、低风险），但将其扩展到生产环境则面临巨大挑战（海量文档、大量用户、多场景、高安全风险、SLA 要求等）。 5.速度比完美更重要：不要追求一开始就完美。应尽早将（哪怕不完美的）系统交给真实用户使用，获取反馈并快速迭代。通过迭代“爬山”达到目标，而不是试图一次性设计出完美方案。 6.工程师在“无聊”的事情上花费大量时间：工程师本应专注于构建流程、提升精度、扩展应用等创造业务价值的工作，但现实中却常常耗费时间在数据分块 (chunking) 策略、文本清洗、构建连接器、配置向量数据库、调整提示、管理基础设施等相对基础且耗时的工作上。应设法将这些工作自动化或平台化。 7.让 AI 易于消费：即使 AI 系统已部署到生产环境，如果没有被用户方便地使用，也无法产生价值。很多时候系统使用率为零。关键在于将 AI 集成到用户现有的工作流中。企业数据 + AI + 集成 = 成功。 8.让你的用户“惊叹”(Wow)：要让 AI 应用产生粘性，需要尽快让用户体验到“惊艳”时刻。例如，帮助用户找到一个他们自己都不知道存在的、埋藏多年的重要文档并回答了关键问题。用户体验设计应围绕创造这种早期价值。 9. 可观测性比准确率更重要：达到 100% 准确率几乎不可能，90-95% 也许可以。但企业更关心的是那无法避免的 5-10% 的错误会带来什么影响以及如何处理。因此，可观测性，包括理解系统为何给出某个答案、提供溯源依据、建立审计追踪等，比单纯追求更高的准确率更重要，尤其是在受监管行业。 10.要有雄心壮志：很多 AI 项目失败往往不是因为目标太高，而是因为目标太低。不要满足于解决“401k 供应商是谁”这类简单问题，要敢于挑战能带来真正业务转型的难题。

立即观看

RAG作者：部署企业RAG系统的10个经验教训｜2025.04.11
我设计了几种新的开屏广告，大家看完之后都要找我拼命

梦到我成为世界上最伟大的设计师了（不是

立即观看

我设计了几种新的开屏广告，大家看完之后都要找我拼命
从零开始带你吃透一个完整的项目框架，逐行手敲深度学习模型训练、推理代码！并在调试部分实时修改报错

从0构建完整的深度学习模型训练、推理流程，搭建自己的项目框架，并在调试部分实时修改报错，模型可使用上一节的simplecnn或者换为其它，在model实例化部分更改即可，无需基础也可跟着上手开敲！视频讲解：DT算法工程师前钰

立即观看

从零开始带你吃透一个完整的项目框架，逐行手敲深度学习模型训练、推理代码！并在调试部分实时修改报错
AI自动建模 DIY实体手办｜把自己做成盲盒是什么体验！

用Meshy AI建模了一个自己的Q版人物模型

立即观看

AI自动建模 DIY实体手办｜把自己做成盲盒是什么体验！
【中文音声】(小刀/百合向)已逝爱人的人格模拟AI程序

“亲爱的，别哭了” 台本：@净尘菩提 CV：@Ciel千千山

立即观看

【中文音声】(小刀/百合向)已逝爱人的人格模拟AI程序
【原理】如何构造微调数据集？对话数据、指令数据、Function call数据、思考链数据构造方法详解

如何构造大模型微调数据集，一站式详解对话数据、指令数据、Function call数据、思考链数据构造方法，深度剖析大模型微调数据集底层结构，从此彻底看懂微调背后数据集逻辑！ ✅置顶评论扫码加入【赋范大模型技术社区】，领【本课程完整课件】，以及更多【大模型Agent智能体开发硬核技术干货】内容+无门槛技术交流，期待你的加入！

立即观看

【原理】如何构造微调数据集？对话数据、指令数据、Function call数据、思考链数据构造方法详解
如何利用AI学习任何复杂知识，帮助你构建属于自己的知识体系

本视频以《算法导论》为例，展示了如何通过AI和Obsidian来更有效率的学习，构建属于自己的知识库 Obsidian: https://obsidian.md/

立即观看

如何利用AI学习任何复杂知识，帮助你构建属于自己的知识体系
青岛地铁"数字工程师"上线！带你“秒”懂"秒级时代"智慧城轨

青岛地铁"数字工程师"上线！带你“秒”懂"秒级时代"智慧城轨

立即观看

青岛地铁"数字工程师"上线！带你“秒”懂"秒级时代"智慧城轨
安永ESG大学生创新挑战赛——绿色智慧：ESG与AI赋能现代农业可持续发展

ESG，它的全称是环境(Environment)、社会(Social)和公司治理(Governance)的缩写，这是一种用于评估企业可持续性和社会影响的标准。而人工智能技术的迅猛发展，正在为各行各业带来革命性变革。今天，我们将探讨ESG与AI如何在现代农业领域深度融合，共同推动农业绿色可持续发展。

立即观看

安永ESG大学生创新挑战赛——绿色智慧：ESG与AI赋能现代农业可持续发展
彻底发挥AI优势，Markdown写作全面教程

这期视频，我会通过对效率写作工具Markdown以及结合AI的全面讲解，带你快速地提升文档创作效率。无论你身处什么样的职业，这套内容都适用。

立即观看

彻底发挥AI优势，Markdown写作全面教程

1209马云

RAG作者：部署企业RAG系统的10个经验教训｜2025.04.11

我设计了几种新的开屏广告，大家看完之后都要找我拼命

从零开始带你吃透一个完整的项目框架，逐行手敲深度学习模型训练、推理代码！并在调试部分实时修改报错

AI自动建模 DIY实体手办｜把自己做成盲盒是什么体验！

【中文音声】(小刀/百合向)已逝爱人的人格模拟AI程序

【原理】如何构造微调数据集？对话数据、指令数据、Function call数据、思考链数据构造方法详解

如何利用AI学习任何复杂知识，帮助你构建属于自己的知识体系

青岛地铁"数字工程师"上线！带你“秒”懂"秒级时代"智慧城轨

安永ESG大学生创新挑战赛——绿色智慧：ESG与AI赋能现代农业可持续发展

彻底发挥AI优势，Markdown写作全面教程

相关视频

8-上语堂 AI绘画课程设计【商业应用实战】

1-上语堂 AI绘画课程设计【商业应用实战】

OpenAI深夜炸场，o1正式版登场，Pro会员贵到离谱

【全500集】禁止自学走弯路！回归算法、聚类算法、决策树、随机森林、神经网络、贝叶斯算法、支持向量机等十大机器学习算法一口气学完！

OpenAI连续12天发布会 Day 1:ChatGPT中的o1和o1正式版,号称世界上最智能的模型!

什么，鹅仔开着跑车上路了？

【OpenAI 的12天活动】第1天： ChatGPT 中的 OpenAI o1 和 o1 专业模式

1209马云

RAG作者：部署企业RAG系统的10个经验教训｜2025.04.11

我设计了几种新的开屏广告，大家看完之后都要找我拼命

从零开始带你吃透一个完整的项目框架，逐行手敲深度学习模型训练、推理代码！ 并在调试部分实时修改报错

AI自动建模 DIY实体手办｜把自己做成盲盒是什么体验！

【中文音声】(小刀/百合向)已逝爱人的人格模拟AI程序

【原理】如何构造微调数据集？对话数据、指令数据、Function call数据、思考链数据构造方法详解

如何利用AI学习任何复杂知识，帮助你构建属于自己的知识体系

青岛地铁"数字工程师"上线！带你“秒”懂"秒级时代"智慧城轨

安永ESG大学生创新挑战赛——绿色智慧：ESG与AI赋能现代农业可持续发展

彻底发挥AI优势，Markdown写作全面教程

相关视频

8-上语堂 AI绘画课程设计【商业应用实战】

1-上语堂 AI绘画课程设计【商业应用实战】

OpenAI深夜炸场，o1正式版登场，Pro会员贵到离谱

【全500集】禁止自学走弯路！回归算法、聚类算法、决策树、随机森林、神经网络、贝叶斯算法、支持向量机等十大机器学习算法一口气学完！

OpenAI连续12天发布会 Day 1:ChatGPT中的o1和o1正式版,号称世界上最智能的模型!

什么，鹅仔开着跑车上路了？

【OpenAI 的12天活动】第1天 ： ChatGPT 中的 OpenAI o1 和 o1 专业模式

从零开始带你吃透一个完整的项目框架，逐行手敲深度学习模型训练、推理代码！并在调试部分实时修改报错

【OpenAI 的12天活动】第1天： ChatGPT 中的 OpenAI o1 和 o1 专业模式