Skip to main content
AI EducademyAIEducademy
🌳

AI基础

🌱
AI 种子

面向现实世界的 AI 素养

🌿
AI 萌芽

智能系统背后的基础

🌳
AI 枝干

用当今的 AI 能力去构建

🏕️
AI 树冠

打造可靠的生成式 AI 系统

🌲
AI 森林

负责任地交付 AI 产品

🔨

AI精通

✏️
AI 草图

AI 构建者的工程基础

🪨
AI 雕刻

攻克更难问题的模式

⚒️
AI 匠心

设计可扩展 AI 的系统

💎
AI 打磨

在 AI 时代沟通与引领

🏆
AI 杰作

你的生产级 AI 毕业项目

🚀

职业准备

🚀
面试发射台

驾驭 AI 工程求职市场

🌟
行为面试精通

讲好你创造影响力的故事

💻
技术面试

在压力下解题、设计与沟通

🤖
AI与ML面试

备战现代 ML 与生成式 AI 面试

🏆
Offer与未来

做出自信而明智的下一步

查看所有学习计划→

实验室

已加载 7 个实验
🧠神经网络游乐场🤖AI 还是人类?💬提示实验室🎨图像生成器😊情感分析器💡聊天机器人构建器⚖️伦理模拟器
🎯模拟面试进入实验室→
学习旅程博客
🎯
关于

让AI教育触达每一个人、每一个角落

❓
常见问题

常见问题解答

🧰
AI 工具

我们使用并推荐的精选工具

✉️
联系

与我们取得联系

⭐
开源

在 GitHub 上公开构建

定价
立即开始
AI EducademyAIEducademy

© 2026 AI Educademy. 保留所有权利。

学习

  • 学习计划
  • 课程
  • 实验室
  • AI 入门工具包
  • 定价

社区

  • GitHub
  • 参与贡献
  • 行为准则
  • 关于
  • 常见问题

支持

  • 请我喝杯咖啡 ☕
  • 服务条款
  • 隐私政策
  • 联系我们
  • Sitemap
AI & 工程学习计划›🌲 AI 森林›课程›构建人工智能产品 - 从原型到生产
🚀
AI 森林 • 高级⏱️ 20 分钟阅读

构建人工智能产品 - 从原型到生产

🤖

本课程由机器自动翻译成中文,尚未经过人工校对。如果读起来有些奇怪,请以英文原文为准。

构建人工智能产品

大多数人工智能项目从未投入生产。工作笔记本和可靠产品之间的差距是巨大的 - 涵盖基础设施、监控、团队流程和成本管理。本课程涵盖了成功弥合这一差距所需的一切。

人工智能是正确的解决方案吗?

在写一行代码之前,先问一下AI产品开发中最重要的问题:这个问题真的需要AI吗?答案是“不”,比你想象的更常见。

人工智能在以下情况下是正确的选择:

  • 问题涉及大规模模式识别(欺诈检测、图像分类)
  • 规则太复杂或太多而无法手动编码
  • 数据可用、高质量且代表现实世界的情况
  • 概率答案(90% 置信度)是可以接受的
  • 自动化的价值大大超过了构建和维护系统的成本

在以下情况下,人工智能是错误的选择:

  • 简单的规则或启发式方法可靠地解决问题
  • 你缺乏足够的训练数据
  • 决策需要 100% 的准确性和充分的可解释性(某些监管环境)
  • 机器学习系统的维护成本超过了收益
💡

10 倍规则: 如果人工智能在速度、准确性或成本方面不能比非人工智能替代方案提供至少 10 倍的改进,那么维护机器学习系统的操作复杂性就很少值得。

选择正确的模型

并非每个问题都需要大型语言模型。选择错误的模型类型是人工智能产品开发中最昂贵的错误之一。将工具与任务相匹配:

|问题类型 |最佳方法|示例| |---|---|---| |表格预测 |梯度提升树(XGBoost、LightGBM)|客户流失预测、定价 | |图像任务| CNN 或视觉转换器 |质量检验、OCR | |文本分类 |微调 BERT 或更小的法学硕士 |情感分析、路由 | |生成文本 | LLMs(GPT、Claude、Llama)|聊天机器人,内容生成 | |时间序列| Prophet、N-BEATS 或时间 CNN |需求预测|

🧠小测验

对于具有 50,000 行结构化数据的表格流失预测任务,哪种方法通常最有效?

快速原型制作:3 天冲刺

迭代的速度每次都超越完美。团队花费数月时间进行构建,然后根据假设验证浪费资源。使用此框架快速验证想法:

第 1 天 - 范围和数据。 定义重要的单一指标。这是没有商量余地的 - 如果没有明确的成功指标,你就无法评估任何东西。收集或模拟最小可行数据集。不要完美地清洁它 - 足以使用即可。

第 2 天 - 构建和测试。 使用现有模型或 API。将其包装在一个最小的界面(Streamlit、Gradio 或简单的 API)中。获取人类可以互动的东西。

第 3 天 - 验证。 将其放在真正的用户或利益相关者面前 - 不是有礼貌的同事,而是真正愿意为解决方案付费的人。根据您的成功指标进行衡量。决定:杀戮、转向或投资。

🤔
Think about it:

想想你最近参与的人工智能项目。将第一个版本提供给用户需要多长时间?三天的冲刺能否更快地验证核心思想?

MLOps 要点

生产机器学习需要严格的操作实践,而大多数数据科学家在学术环境中从未学习过这些实践。核心原则看似简单:**对所有内容进行版本控制,自动化所有内容。**然而,执行需要纪律和正确的工具。

版本内容:

  • 代码 - 标准 Git 工作流程
  • 数据 - 使用 DVC、Delta Lake 或类似工具来跟踪数据集版本
  • 模型 - 使用元数据(超参数、训练数据哈希、评估指标和沿袭)存储模型工件
  • 配置 - 环境变量、功能标志、模型参数和服务配置

管道自动化:

10 的 1 课已完成 0%
←返回学习计划
继续:开源人工智能生态系统 - 工具、模型和社区→

讨论

登录 后参与讨论

建议修改本课内容
  • 按计划触发再训练或数据漂移检测
  • 针对保留的测试集进行自动评估
  • 根据性能阈值控制部署
  • 使用蓝绿或金丝雀部署进行模型部署
  • 🤯

    Google 的研究发现,现实世界中的 ML 系统代码中只有约 5% 是实际模型。剩下的 95% 是数据管道、服务基础设施、监控和配置管理。

    MLOps 生命周期显示数据、训练、部署和监控阶段
    MLOps 生命周期 - 持续改进,而不是一次性部署

    监控:在用户发现问题之前发现问题

    部署模型不是终点线,而是起跑线。如果没有适当的监控,模型会悄然退化,当有人注意到时,损害已经造成。

    数据漂移 - 输入数据分布随时间变化。根据大流行前的购物数据训练的模型将无法适应大流行后的模式。使用柯尔莫哥洛夫-斯米尔诺夫测试或群体稳定性指数等测试连续监控特征分布,并对统计上显着的变化发出警报。

    模型退化 - 即使没有数据漂移,模型性能也会随着现实世界的变化而下降。用户行为不断变化,竞争对手改变市场,季节性模式改变结果。持续跟踪预测置信度、错误率和业务指标。

    关键监控实践:

    • 记录所有预测的输入、输出和置信度分数
    • 设置准确性低于定义阈值的自动警报
    • 在滚动窗口上将实时性能与基准模型进行比较
    • 安排定期对边缘情况和低置信度预测进行人工审查
    • 跟踪业务指标和模型指标 - 如果转化率下降,准确性就毫无意义
    🧠小测验

    生产机器学习系统中的”数据漂移”是什么?

    成本优化策略

    人工智能推理成本可能会迅速上升。明智的架构决策使它们易于管理。

    实用策略:

    1. 按复杂性进行路由 - 使用廉价、快速的模型进行简单查询,仅在需要时升级到昂贵的模型。仅此一项就可以削减 60-80% 的成本。
    2. 积极缓存 - 如果重复出现相同或相似的查询,则缓存响应。语义缓存(按含义匹配,而不是精确文本)特别有效。
    3. 批量推理 - 在非高峰时段批量处理非紧急请求,以最大化 GPU 利用率。
    4. 量化模型 - 4 位或 8 位量化可以将成本降低 50-75%,并且对于大多数应用而言质量损失最小。
    5. 合适规模的基础设施 - 使用现货实例进行训练,使用预留实例进行服务,并根据需求自动扩展。
    🧠小测验

    哪种成本优化策略涉及根据查询复杂性使用不同的模型?

    🤔
    Think about it:

    如果给你每月 10,000 英镑的人工智能推理预算,你会如何分配?考虑系统的哪些部分需要实时响应而不是批处理,以及缓存可以消除冗余计算。

    要点

    构建人工智能产品从根本上来说是一项产品和工程挑战,而不仅仅是机器学习挑战。牢记这些原则:

    • 在构建之前验证人工智能确实是正确的解决方案
    • 将模型类型与问题相匹配 - LLM 并不总是答案
    • 使用现有模型和简单的界面,只需几天而不是几个月即可制作原型
    • 对所有内容进行版本控制:代码、数据、模型和配置
    • 在生产中持续监控数据漂移和模型退化
    • 通过路由、缓存、批处理和量化来优化成本

    最好的人工智能产品是由深入了解技术和业务问题的团队构建的。缺乏产品思维的卓越技术会导致令人印象深刻的演示,但无人使用。