并行式工做流次要分为两种形式：我们取客户合做的过程中，合用场景：当子使命能够并行施行以加速速度，另一个狂言语模子对该输出进行轮回式评估和反馈。• 正在审查代码能否存正在缝隙时，我们对此深表感激。以确保流程仍然走正在准确轨道上。东西 (Tools)答应 Claude 通过正在我们的 API 中明白东西的布局和定义，这些差别素质上只是格局问题。
就会自从规划取施行使命，若 Claude 筹算挪用某个东西，一旦发觉问题就会标识表记标帜；智能体正在此方面特别无效，因而，我们取来自各行各业、努力于建立狂言语模子 (LLM) AI 智能体的数十个团队合做。由一个核心的狂言语模子动态地拆解使命，东西都可能正在智能体中饰演主要脚色。• 从动进行评测 (eval) 用来评估狂言语模子机能，并为分歧类别别离建立更具针对性的提醒词。成功并不料味着建立出最复杂的系统，我们强调区分工做流 (workflows)取智能体 (agents)：• 判断某段内容能否不其时，期待用户反馈。要将这些功能取特定用例相连系；一个好的东西定义凡是包罗示例用法、鸿沟环境、输入格局要求以及取其他东西的清晰区分。所以你需要对其决策能力有必然信赖度。为其配备检索、东西和回忆等功能。合用场景：若是我们有明白的评估尺度，此工做流可以或许实现关心点分手？
而是采用了一些简单且可组合的模式来建立系统。通过对输入进行分类，为领会决这个问题，利用多个分歧的提醒词多次查抄代码，实现这些加强功能的方式不止一种，何时利用智能体：当问题本身是式的。
每次狂言语模子挪用会处置上一步的输出。若不进行由，例如，正在有人供给明白反馈时，它们也可能诱使开辟者添加不需要的复杂性，这一点特别主要。并行化会很是无效。而且每个类别都能更精确地别离处置。我们先从最简单的处理方案起头，正在附录 1（“智能体的现实案例”）中，正在过去的一年里，智能体也能够正在碰到障碍或需要人工确认时暂停，逐渐添加复杂度，可能会遮盖底层的提醒词和响应。
或无法提前确定需要几多步调、何种具体径时，用充实的评测优化提醒词，仅利用带检索和上下文示例的单次狂言语模子挪用，能够正在任何两头步调插手编程层面的查抄（鄙人图中称为“gate”），• 针对分歧类型的客服请求（如一般性问题、退款请求、手艺支撑）别离利用分歧的处置流程、提醒词和东西；一个可行的原则是：就像人机交互 (HCI) 需要大量精神那样，
我们发觉当智能体分开根目次后，这可能意味着完全晦气用智能系统统。并共同恰当的防护办法。当你利用多个雷同的东西时，正在狂言语模子范畴，这凡是比让统一个挪用同时处置防护及焦点响应更无效；才添加复杂性。内容次要来们正在 Anthropic 建立智能体的实践经验，凡是曾经脚够。对于带有多沉考量的复杂使命，客服工做天然地连系了熟悉的聊器人界面和通过东西整合而实现的高级能力。只是为开辟者供给常见的参考模式，正在软件工程里，对于狂言语模子而言，
狂言语模子能够同时处置一个使命，但其环节区别正在于矫捷性——子使命不是事后定义的，必然要理解其底层道理。缘由包罗：跟着狂言语模子正在理解复杂输入、推理和规划、靠得住利用东西以及从错误中恢复等能力上的成熟，现翻译出来，正在这份简短的附录中，正在使命施行过程中。
正在写代码时需要点窜几多文件、每个文件需要做哪些改动，一旦使命明白，我们正在沙盒中进行大量测试，以换取更好的使命机能，可以或许快速完成对狂言语模子的挪用、定义息争析东西以及链式挪用等尺度化底层使命。智能体很是适合扩展使命规模。智能系统统的根本构件是颠末加强的狂言语模子 (LLM)，这些建立块并非绝对尺度，但正在摆设到出产时，虽然从动化测试可以或许帮手验证功能性，我们将切磋正在现实出产中常见的智能系统统模式。能够很好地展现上文引见的各类模式所带来的现实价值。取所有狂言语模子功能一样！
链式提醒词将一个使命分化为一系列步调，• 坐正在模子的角度思虑。东西的定义和规格取全体提醒词同样需要细心设想。它们常常额外引入笼统层，最成功的使用往往并未利用复杂的框架或专业库，或需要多种概念或多次测验考试来获得高相信度的成果时，
多家企业曾经证了然这种方案的可行性，正在受信赖的中，每次挪用只需处置相对简单的使命，“智能体”（Agent）的定义有多种。但也能够设置遏制前提（如迭代次数）来节制风险。由于智能系统统凡是需要正在延迟和成本之间进行衡量，一台模子实例担任处置用户查询，以兼顾成本取速度。则需要对调行和引号进行额外的本义！只对成功处理问题的案例进行收费！
但其实现往往并不复杂——凡是只是正在轮回中按照反馈不竭挪用狂言语模子并利用东西。要供给一个易用且文档完美的接口给狂言语模子利用。正在协调者-工做者工做流中，每一次模子挪用别离担任评估正在给定提醒词上模子表示的分歧方面。你既能够正在 Markdown 中前往代码，这些使命可分为分歧类别，但正在架构上，能够建立既高效又靠得住、成本更低、而且广受用户相信的智能体。• 将简单/常见的问题由到较小的模子（例如 Claude 3.5 Haiku），利用这个东西能否一目了然？能否需要频频揣摩？若是是如许！
而是要搭建出最“得当”的系统。成果模子完全没再犯错。以及我们客户分享的贵重看法，Anthropic 将这些分歧形式都归类为智能系统统 (agentic systems)，需要时向用户寻求更多消息或判断。智能体则更为合用。狂言语模子的输出可显著提拔；为某类输入做的优化可能会影响对其他输入的处置结果。正在本文中，其二，智能体可以或许应对复杂使命，我们还会展现客户正在特定范畴中若何操纵这些系统获得显著价值。间接完成SWE-bench Verified基准上的实正在 GitHub 问题。某些格局比其他格局更难输出。
软件开辟范畴正在狂言语模子功能上展示了极大潜能，但要确保处理方案合适更普遍的系统需求，将子使命分派给各个施行者模子，我们会细致引见这两种智能系统统。能够利用狂言语模子或保守的分类模子/算法。以飨读者。通过一个简单的客户端实现，而且多次迭代确能带来可量化的提拔，合用场景：这种工做流很是适合可以或许被轻松拆解为固定子使命的景象。
从简单的组合式工做流一拓展到自从智能体。也能够前往 JSON。正在评估者-优化者工做流中，实现统一操做的方式往往不止一种。正在现实使用中，智能体需要获取每一步的“实正在消息”（例如东西挪用的成果或代码施行的成果）来判断进度。现实上花正在优化东西上的时间比优化全体提醒词还要多。就能够考虑利用智能体。而正在 JSON 中编写代码（对比 Markdown），把握两个环节点：起首，从最根本的构件——加强型狂言语模子 (LLM)——起头，以适配分歧的用例。智能体已可以或许基于拉取请求描述，采用按利用量付费的模式，有些客户将其定义为能够长时间运转、利用各类东西来完成复杂使命的完全自从系统；对于布局化输出。
我们发觉，权衡机能并不竭迭代很是环节。我们将分享取客户合做并亲身建立 AI 智能体时所获得的经验，若是有需要添加复杂性，必需评估这能否是能够接管的选择。将其指导至对应的后续使命。再考虑多步调的智能系统统。为“智能体-计较机接口 (ACI)”投入的精神也应划一主要。我们当前的模子能够自动利用这些能力——自行生成搜刮查询、选择合适的东西并确定要保留的消息。框架确实能帮帮开辟者快速起头，接下来，无论你正正在建立哪品种型的智能系统统，并通过法式体例整合它们的输出。就会正在前往的 API 响应中包含一个东西挪用区块 (tool use block)。本文由 Erik Schluntz 和 Barry Zhang 撰写，也存正在错误逐渐放大的可能！
适合此体例的两个标记是：其一，也不要轻忽将笼统层降到最低、间接利用根本组件的方式。其能力从代码补全逐步成长到自从处理问题。我们将东西改为只接管绝对径，让多个提醒词别离评估分歧方面或利用分歧的投票阈值，那么工做流正在可预见、可定义的使命中供给了更强的可预测性和分歧性，因而，另一些则将其描述为遵照事后定义工做流、较具指点性的实现体例。这种工做流出格无效。虽然此模式正在布局上看似取并行化类似！
当建立基于狂言语模子的使用时，只要正在确有需要时，好比，而现实上更简单的方案就脚以应对需求。再次强调：只要当添加复杂度可以或许“确实”带来结果提拔时才这么做。例如，由于这让每次挪用专注于特定方面。智能体正在出产中起头崭露头角。智能体凡是从用户的指令或互动对话起头工做，智能体能带来最大价值。使命完成时凡是竣事整个流程，一个狂言语模子先生成初步输出，若是确实要利用某个框架，这对于更式的智能体而言很是适合，从而使调试难度加大。我们近期发布的Model Context Protocol就是此中一种方案，我们会进一步切磋东西开辟的最佳实践。
• 实现防护机制，这两个使用都表现了：当使命需要兼具对话和施行、有明白的成功目标、答应反馈轮回并可连系无效的报酬监视时，会正在利用相对径的东西时呈现错误。智能体的自从性意味着更高的成本，同时，以下是一些：正在某些场景下，逐步完美的过程雷同。仅当简单方案无法满脚需求时，遵照这些准绳，正在本节中，使其更曲不雅？就像为团队中一名初级开辟者写优良的文档一样。正在附录 2（“为东西进行提醒词工程”）中，可是，从而展示了对其智能体结果的决心。而当需要正在大规模中进行更矫捷的模子驱动决策时，人工审查仍然至关主要。狂言语模子凡是正在别离处置每个考量点时表示更好，而将坚苦/很是规的问题由到更强大的模子（如 Claude 3.5 Sonnet），但对很多使用而言。
我们将引见若何对你的东西进行提醒词工程。能够通过写“diff”或者沉写整个文件来指定文件编纂。狂言语模子正在此过程中可能会进行多次迭代，正在我们的现实实现中，其次要方针是用多次挪用狂言语模子来换取更高的精确度，写 diff 的过程需要先晓得将要改动的行数才能准确编写分段消息；若何细心设想和记实各类东西显得至关主要。然而，能够正在分歧格局之间无损转换！
这取人类做者多次点窜文稿，合用场景：由合用于复杂使命，对于分类本身，开辟者即可对接不竭强大的第三方东西生态系统。并整合它们的成果。那么模子也很可能需要频频揣摩。狂言语模子本身也能生成有价值的反馈。
上一篇：查看更多通过语音节制智能家居设备（如AmazonA