优化代理以最大程度地减少延迟

本文共享一些关键做法,并帮助你优化依赖于外部源信息的代理,以减少客户在对话期间的等待时间。

为外部设置的全局变量设置最长超时延迟。 对于配置了全局变量以从外部源接收上下文的智能体,请设置可选的超时值,以便您的智能体不会挂起更长时间。

让用户知道代理需要一段时间。 代理在几秒钟内未响应可能会使用户怀疑系统是否正常工作。 请考虑在适用主题的开头发送简短消息,指示代理正在查找信息。 用户就会知道操作可能需要一些时间,而且一切正常。

减少和优化长时间的非人工代理操作。 调用外部系统来查找信息以个性化请求可能会提供出色的体验,但也可能需要很长时间。 如果需要此个性化设置,请确保对调用进行优化,并且所调用的系统是可缩放的。

对快速请求使用 HTTP 请求节点。 使用 Power Automate 流可以轻松完成复杂的操作,但也可能涉及相当大的开销。 如果您只需要一个离线查找调用,那么对于这种简单的操作来说,HTTP 请求节点可能是一个轻量级的选项。

对于 Power Automate 调用,请使用 Power Automate 仪表板查看请求持续时间。 Copilot Studio 不提供有关 Power Automate 调用等非智能体操作所需时间的洞察。 因此,很难理解在何处花费时间。 在 Copilot Studio 中,这些外部调用是同步的,这意味着在 Power Automate 流完成之前,对话中不会发生进一步的活动。 请考虑使用 Power Automate 仪表板来管理您的工作流。 此仪表板可能会为你提供有关操作成功率和失败率的深入见解,以及它们需要多长时间。