演讲者: Harrison Chase (LangChain CEO)
LangChain始于一个开源项目(2022年10月),诞生在ChatGPT发布前一个月。它源于与AI开发者的交流,旨在解决他们构建LLM应用的普遍痛点,并随着ChatGPT的引爆而迅速发展。
构建一个LLM应用原型相对容易,能快速获得惊艳效果。但将其转化为一个稳定、可靠、可用于生产环境的应用则极其困难。这正是 LangChain 公司成立并致力解决的核心挑战。
LangChain公司的使命是"让智能体(Intelligent Agents)无处不在"。为实现这一目标,他们识别并服务于一个新兴角色:智能体工程师 (Agent Engineer)。
智能体工程师需要融合四个领域的技能:提示(Prompting)、工程(Engineering)、产品(Product) 和 机器学习(Machine Learning)。LangChain致力于为这类工程师提供全方位支持。
LangChain基于对行业发展的6个核心信念来构建产品。点击卡片展开详情:
观点: 智能体将依赖多种不同的LLM,因为不同模型在成本、速度、推理能力上各有优势。
产品/事实: LangChain(开源库)已成为模型集成的标准,提供跨模型的可移植性。其Python月度下载量(超7000万)已超过OpenAI SDK。
观点: 可靠的智能体始于正确的上下文。构建高质量的Prompt至关重要。
产品/事实: LangGraph。一个低阶、无主见的智能体编排框架,让开发者能完全控制应用的认知架构,从而构建正确的上下文。
观点: 构建智能体是一项涉及多种角色的团队运动(产品、工程、ML等)。
产品/事实: LangSmith。一个协作平台,整合了可观测性、评估(Evals)和提示工程,让团队能共同工作。
观点: AI的可观测性不同于传统软件,因为它处理的是大型、非结构化、多模态的数据,且用户是智能体工程师,而非传统SRE。
产品/事实: LangSmith中推出新的智能体指标(Agent Metrics),如工具调用(Tool Calls)和轨迹(Trajectory)分析,专为AI应用设计。
观点: 未来,每个人,包括非开发者,都将成为智能体构建者。
产品/事实: 推出开源的LangGraph Prebuilts和Open Agent Platform,提供智能体模板,支持低代码/无代码构建,赋能更广泛的用户群体。
观点: 智能体因其长时运行、突发性和高状态性的特点,部署是下一个重大挑战。
产品/事实: LangGraph Platform正式发布(GA)。它是一个专为智能体设计的部署和管理平台,支持SaaS、混合云和完全自托管部署。