AI 系统不仅包括技术,还包括使用它的人员、受其影响的人员以及部署它的环境。 Microsoft 负责任的 AI 常见问题解答旨在帮助您了解 AI 技术的工作原理、系统负责人和用户可以做出的影响系统性能和行为的选择,以及考虑整个系统(包括技术、人员和环境)的重要性。 您可以使用负责的 AI 常见问题解答来更好地了解 Microsoft 开发的特定 AI 系统和功能。
负责任 AI 常见问题解答是将 Microsoft 的 AI 原则付诸实践所做的诸多工作之一。 若要了解详细信息,请参阅 Microsoft AI 原则。
什么是 Microsoft Agent 365?
Agent 365 是 Microsoft 在整个企业中启用、管理和扩展 AI 代理的战略计划。
代理 365 可以做什么?
通过将用于管理人员的基础结构扩展到代理,代理 365 为代理提供相同的应用和保护,专为代理需求定制,从而节省 IT 时间和精力,将代理集成到业务流程中。 Agent 365 包括领先的微软安全性和生产力解决方案:Defender、Entra 和 Purview,用于保护和治理代理,Microsoft 365 应用和 Work IQ 以提高其生产力,以及 Microsoft 365 管理中心用于管理代理。
注册表:获取组织中所有代理的完整视图,包括具有代理 ID 的代理、自行注册的代理和影子代理。
访问控制:使代理受到管理,并限制其仅访问所需的资源。 通过基于风险的条件访问策略防止智能体遭到入侵。
可视化效果:探索代理、人员和数据之间的连接,并实时监视代理行为和性能,以评估他们对组织的影响。
互作:为任何代理提供应用和数据,以简化人工代理工作流。 将它们连接到 Work IQ,提供工作上下文以加入业务流程。
安全性:保护代理免受威胁和漏洞的影响,检测、调查和修正针对代理的攻击。 保护代理创建和使用的数据,防止过度共享、泄漏和有风险的代理行为。
代理 365 的预期用途是什么?
企业员工可以将 AI 代理用作能够跨企业工作流执行、协作和交付结果的自治实体。
CTO 和 IT 管理员需负责推动组织走向前沿,同时确保安全,并保持对智能体的管控。
如何对 Agent 365 进行了评估? 使用哪些指标来度量性能?
我们通过多种评估活动(包括 AI 红队攻击和评估)对 XPIA 及其潜在风险进行了评估,并识别(如有)及分析了缺陷率。
Agent 365的限制有哪些? 用户在使用系统时如何最大限度地减少Agent 365局限性的影响?
未来将解决的已知限制包括人机交互环节(HITL)、敏感度标签和共享权限。 在各种接触点上都注意到了这一点:添加此代理时,可以汇总你共享的任何文件或聊天,并将其包含在代理对任何用户的响应中,即使是无权访问文件或聊天的用户,也不管敏感度标签如何。
哪些操作因素和设置允许有效和负责任地使用Agent 365?
- 若要管理 Microsoft Teams 中代理的外部协作设置,管理员必须在 Teams 管理中心配置 租户策略。
如何提供有关 Agent 365 的反馈?
针对 Agent 365 的任何反馈均应在实际使用界面中提供,包括但不限于 Microsoft 365 管理中心、Teams 管理中心、Teams 商店、智能体商店、Copilot、Purview 和 Defender。