English version available: /posts/ai-enterprise-deployment-what-bosses-what-programmers-do/ai-enterprise-deployment-what-bosses-what-programmers-do-en
English version available: /posts/ai-enterprise-deployment-what-bosses-what-programmers-do/ai-enterprise-deployment-en
最近在 BOSS 直聘上跟很多老板和技术负责人聊过,聊的都是同一个主题:企业 AI 落地方向的职位机会。聊的多了,发现两拨人关注的问题截然不同,甚至可以说在讨论两件完全不同的事。
有意思的是,这两件事背后的逻辑是相通的。这篇文章想把它们串起来,讲清楚AI 到底在企业里落什么地,程序员到底在做什么。
一、两类人,两种期待
老板在想什么?
跟老板聊,话题基本绕不开两点:
- AI 能不能代替原来的人工,或者把外包的工作接过来——核心是省钱和提效
- 怎么保质保量,AI 必须给我看到高质量的结果——要求你给他做实际案例,给他看具体输出
总结成一句话:让 AI 高质量干活,他要的是结果。
这类要求本身没有问题,但它隐含了一个假设:AI 是可以直接拿来用的工具,接入 ChatGPT 就能看到效果。这是很多老板对 AI 的第一反应,也是整个认知断层开始的地方。
技术负责人在想什么?
跟技术负责人聊,他们基本都是真正在落地 AI 的大厂技术人员。他们关心的东西要具体得多,基本上围绕三个维度:
- 业务分析理解能力:怎么设计业务,让 AI 接管哪些环节,边界在哪里
- Coding 能力:AI 写代码已经是很常见的事了,但他们真正想考察的是:你够不够细心,有没有查错纠错的能力,技术深度够不够,技术栈够不够广
- 合作能力:表达和思维是否清晰,能不能跟现有团队良好配合
这三件事看起来不同,其实指向同一个本质:落地 AI 不是写代码那么简单,它是复杂的系统工程。
二、企业落地 AI 到底是什么?
老板的误区:接入即完成
很多老板的第一反应是”接个 ChatGPT 或 DeepSeek 进去就行”。这个思路理解起来很容易:API 有文档,调用很简单,试几个 prompt 看起来输出不错,似乎就够了。
但问题是,企业场景不是个人使用。企业内部有复杂的业务流程,有信息孤岛,有数据格式不统一,有权限分层,有历史系统,有组织惯性。AI 进入这样的环境,不是接上 API 就完事。
真正要做的事情
真正的企业 AI 落地,大致要经历以下阶段:
第一阶段:需求调研与业务流程梳理
这是最容易被忽略、也最容易被低估的部分。你需要搞清楚:企业的业务流程是什么,各个环节分别卡在哪里,哪些环节适合用 AI 替代,哪些环节人是必须参与的,替代以后会产生什么副作用。这一步没有捷径,也没有通用模板,每一家企业的情况都不同。
第二阶段:找到卡点,逐个点攻破
有了清晰的业务流程图和问题清单,接下来是挑优先级。哪些是高频痛点,哪些是单点问题可以快速出成果,哪些是系统性问题需要整体设计。快速出成果的事可以先做,积累信任,也验证技术可行性;系统性问题要设计长期方案。
第三阶段:接入 AI,搭建执行框架
到了这一步才真正开始写代码。但写代码只是其中一部分。更核心的工作是:
- 拆解执行流程:把业务流程拆成 AI 能理解和执行的步骤
- 业务建模:把业务规则和约束转成 AI 可操作的输入
- AI Harness 设计:构建 AI 与业务系统之间的中间层,负责 prompt 管理、上下文传递、结果解析、错误处理
- 搭建 AI 运行框架:不只是调用一次 API,而是要考虑调用频率控制、Token 成本管理、超时处理、降级策略
第四阶段:构建企业级基础设施
随着 AI 应用的增多,单点接入变成体系化建设:
- 企业内 AI 调度平台:统一管理多个 AI 任务,分配资源,控制优先级
- 监控体系:AI 输出的质量如何监控,错误率多少,用户满意度如何,成本如何
- 自反馈优化体系:AI 的结果需要被收集、评估,反过来优化 prompt 和模型选择,形成闭环
这四阶段加起来,才是完整的企业 AI 落地路径。每一个阶段都有大量的工程工作、业务理解和组织协调。
三、程序员到底在落地什么?
如果你是在做或者想要做 AI 落地的程序员,上面那套流程意味着什么?
你不是在”用 AI”,你是在把 AI 系统化地融入一个复杂的生产环境。
具体来说,你需要的能力分层大概是这样:
基础层:工程能力
- API 调用和集成,这反而是最基础的部分
- 错误处理、重试机制、降级策略
- Token 和成本管理
- 性能优化和延迟控制
核心层:AI 工程能力
- Prompt 工程和 prompt 管理系统的设计
- RAG(检索增强生成)系统的搭建
- Agent 框架的使用和定制
- 模型选型、评估和切换
- 上下文管理和窗口优化
系统层:架构能力
- AI Harness 的设计和实现
- 业务系统和 AI 系统之间的接口设计
- 数据管道的建设(数据清洗、特征工程、向量化)
- 监控和可观测性体系
顶层:业务理解能力
- 能够理解业务需求,识别适合 AI 介入的场景
- 能够跟非技术人员沟通,把技术方案翻译成业务语言
- 能够从业务反馈中提炼出改进方向
这四项能力,每一层都重要,但决定你能不能走得远的是顶层——对业务的深刻理解。
四、未来的两类程序员
未来做 AI 落地的程序员,会分化成两个方向。
方向一:业务分析工程师
这一类人的核心能力是把业务问题翻译成 AI 能解决的问题。你需要:
- 深度理解企业的业务流程
- 能够诊断出哪些环节适合 AI 介入
- 能够设计介入方案,评估 ROI
- 能够跟老板和技术团队沟通,推动方案落地
这一类人不一定需要很强的 Coding 能力,但必须有极强的业务理解能力和逻辑思维。他们更像是”业务架构师”和”AI 产品经理”的结合体。
方向二:Agent 工程师
这一类人的核心能力是把 AI 解决方案变成可运行、可维护的系统。你需要:
- 深入理解 AI 框架和工具(LangChain、LlamaIndex、各种 Agent 框架)
- 掌握 prompt 工程、RAG 系统设计、AI 应用架构
- 能够处理复杂的工程问题:并发、错误处理、成本控制
- 持续跟进 AI 领域的新工具和新方法
这一类人是技术深度要求最高的方向,也是目前最稀缺的人才类型。
如何选择?
我的建议是:先选一个方向深入,然后补另一个方向的基本功。
如果你偏业务,就去刻意训练自己拆解业务流程的能力,学习 prompt 工程的基础,了解 AI 能做什么不能做什么。如果你偏技术,就去深度理解一个或几个业务领域,让自己不仅是”调 API 的人”,而是”知道为谁调 API”的人。
两个方向都很重要,也都还有很大的缺口。企业现在最缺的不是能调 ChatGPT API 的人,而是能在一个真实业务场景里把 AI 落地落地再落地的人。
五、怎么给老板讲清楚 AI 落地
给老板讲 AI 落地,最忌讳的是从技术细节开始讲。老板关心的是结果,不是过程。
实用的讲法大概是这样的:
第一步:让他看到实际案例
不要讲原理,直接展示一个类似他业务场景的成功案例。最好是同行业的,让他看到别人怎么做的,效果怎么样。案例比任何说明都有说服力。
第二步:拆解落地需要的资源
落地 AI 不是请一个人就能做完的。你需要让他理解:需求调研需要时间、业务流程梳理需要业务部门配合、系统接入需要技术资源、后续优化需要持续投入。这不是一个”招一个 AI 工程师”就能解决的事。
第三步:给出分阶段计划
不要试图一次解决所有问题。给出一个三阶段的计划:第一阶段做什么,预期产出是什么;第二阶段做什么,预期产出是什么;第三阶段做什么。让老板看到路径,而不是只看到一个模糊的”上 AI”的目标。
第四步:把成本讲清楚
AI 不是免费的。API 调用有成本,token 消耗有成本,开发有人力成本,运维有持续成本。把这些数字化、可视化,让老板对投入有预期。这也帮你建立信任——你知道自己在说什么。
六、写在最后
在 BOSS 直聘上聊了这么多,我最大的感受是:企业 AI 落地这个领域,正在从”有没有”的阶段,进入”做的好不好”的阶段。
“有没有”的问题是接入一个模型,调用一次 API,做一个 demo。“做的好不好”的问题是:能不能稳定地产出高质量结果,能不能控制成本,能不能在企业内部规模化,能不能持续优化。
后者需要的不是一个人,是一个体系。而这个体系的搭建者,就是现在和未来最需要的人。
如果你正在考虑往这个方向走,我的建议是:选一个方向深入下去,同时保持对另一端的基本理解。 业务分析工程师需要懂一点工程,Agent 工程师需要懂一点业务。两条腿走路,才能走得稳。