Amazon Bedrock Flows 现在正式推出,具备增强的安全性和可追溯性 机器学习博客

Amazon Bedrock Flows正式发布,提升安全性和可追溯性

by Amit Lulla 和 Huong Nguyen 于2024年11月22日在 , , , 分享

今天,我们非常高兴地宣布 (之前称为Prompt Flows)正式发布。借助Bedrock Flows,您可以快速构建和执行复杂的 工作流,而无需编写代码。其主要优点包括:

  1. 直观的可视化界面简化生成性AI工作流开发。
  2. 与最新基础模型(FMs)、提示、代理、知识库、保护措施以及其他AWS服务的无缝集成。
  3. 根据业务逻辑定义工作流的灵活性。
  4. 通过SDK API和无服务器基础设施减少测试和部署AI工作流所需的时间和精力。

Bedrock Flows使开发者和企业更容易利用生成性AI的力量,帮助您为客户创造更复杂和高效的AI驱动解决方案。

“Thomson Reuters企业AI平台的使命是使我们的主题专家、工程师和AI研究人员共同创造生成性AI能力,将尖端、值得信赖的技术带给客户,塑造专业人士的工作方式。使用Amazon Bedrock Flows,我们能够创建复杂、灵活的多提示工作流,可以轻松评估、比较和版本化。我们还可以快速将工作流与我们的应用程序集成,使用SDK API进行无服务器流执行——无需浪费时间在部署和基础设施管理上。我们对使用Bedrock Flows加速生成性AI应用开发的潜在生产力提升充满期待。”
— Laura Skylaki,Thomson Reuters商业智能和数据平台的人工智能副总裁

关键要点

  • Amazon Bedrock Flows正式发布,增强了安全性和可追溯性。
  • 提供无代码构建生成性AI工作流的工具,易于使用和集成。
  • 新增的安全和追踪能力帮助客户构建更安全的AI应用。
  • 包括与示例和测试流程的辅助功能,提升开发者的工作效率。

Amazon Bedrock Flows的新功能

利用生成性AI的组织需要强大安全控制和清晰的AI工作流可视化。今天,我们宣布Amazon BedrockFlows的两个新功能,帮助客户构建更安全、更可追溯的AI应用:

  1. 增强的安全性 :能够过滤有害内容和不当话题,提供由 提供支持的提示和知识库节点的内容保护。Guardrails现在支持两种类型的节点:
  2. 提示节点 :定义和执行对您的FM交互的控制。
  3. 知识库节点 :对从知识库生成的响应应用保护措施。
  4. 增强的可追溯性 :能够快速验证和调试工作流,提供输入和输出的可追溯性及在线验证。全面了解工作流的执行,迅速定位错误,通过以下功能实现:
  5. 输入和输出节点的详细可追溯性支持。
  6. 显示每个节点的输入、输出、执行时间和错误的完整执行路径信息。
  7. 可视化构建器中节点的在线验证状态。

考虑到ACME Corp,这是一家虚构的电子商务公司,正在使用Amazon Bedrock Flows构建一个客户服务聊天机器人。他们在实施中面临若干挑战:

  • 他们的聊天机器人有时会生成包含敏感客户信息的响应。
  • 他们难以在不同客户互动中保持一致的响应质量和语调。
  • 他们在排查应用问题上花费了很多时间和精力。
  • 他们无法确保响应符合公司政策和法规要求。
  • 他们缺乏对影响客户体验的性能瓶颈的可见性。

我们来看看Amazon Bedrock Flows的新功能是如何解决这些挑战的,并帮助ACME Corp构建一个更安全、更高效和更透明的客户服务解决方案。

实施新功能的前提条件

在实施新功能之前,请确保您具备以下条件:

  1. 一个AWS账户
  2. 在Amazon Bedrock中:
  3. 以进行客户服务互动。
  4. ,包括相关的客户服务文档、常见问题和产品信息。
  5. 配置您客户服务工作流所需的任何辅助AWS服务(例如,Amazon DynamoDB用于订单历史记录)。
  6. 在Amazon Bedrock Guardrails中:
  7. (例如,CustomerServiceGuardrail-001),包括:
    • 不当语言和有害内容的内容过滤器
    • 对客户数据的个人身份信息(PII)检测和屏蔽规则
    • 自定义单词过滤器,用于特定于公司的术语
    • 确保信息准确的上下文基础检查
    • 测试和验证您的保护措施配置。
    • 发布您的保护措施的工作版本。
  8. 所需的IAM权限:
  9. 适当访问任何集成的AWS服务

在这些组件到位后,您就可以继续在客户服务工作流中实施新功能。

在Flows中启用增强的安全性

对于ACME Corp的客户服务聊天机器人,实施保护措施有助于确保安全、合规和一致的客户互动。

以下是在提示节点和知识库节点中启用保护措施的方法:

  1. 在AWS管理控制台中打开Amazon Bedrock,选择要添加保护措施的客户服务流中的提示节点或知识库节点。如果需要的话,可以创建一个新流。

![Node删除)

  1. 在节点配置面板中,找到保护措施 部分。

![Protection删除)

  1. 从下拉菜单中选择一个现有的保护措施。例如,CustomerServiceGuardrail-001

![Choose删除)

  1. 在此实例中,CustomerServiceGuardrail-001被配置为:
  2. 屏蔽客户个人身份信息(姓名和电子邮件)。
  3. 阻止不当语言和有害内容。
  4. 使响应符合公司政策。
  5. 保持响应的专业语调。
  6. 选择您的保护措施的适当版本。例如,工作草案

![Guardrail删除)

  1. 输入客户服务场景的提示信息。例如,回应客户询问
  2. 将您的提示节点连接到流的输入和输出节点。

![Connect删除)

  1. 通过在测试流中输入提示来测试实施了保护措施的流。例如,嗨,我的名字是约翰·史密斯,电子邮件——。我该如何开始设置ACME Corp账户?

![Test删除)

  1. 在右侧界面的测试流 中,您可以看到模型响应如何处理敏感信息。例如:
  2. 原始响应:“亲爱的约翰·史密斯先生……”
  3. 保护措施响应:“亲爱的先生……”。

![Response删除)

借助Flows Trace View增强可追溯性

新的流追踪能力现在提供了对流执行的详细可见性,并通过追踪视图和在线验证增强调试能力。此综合监控解决方案帮助开发者更有效地监控、调试和优化他们的AI工作流。

增强可追溯性的主要优点包括:

  • 通过追踪视图提供完整的执行路径可见性
  • 每个节点的详细输入/输出追踪
  • 每个节点的错误、警告与执行时间
  • 快速识别瓶颈与问题
  • 更快的错误根本原因分析

对于ACME Corp的客户服务团队,新的流追踪能力提供了对其聊天机器人性能和行为的关键洞察。这帮助他们:

  • 监控客户互动的响应时间
  • 识别导致延迟的客户查询模式
  • 调试对话流中的问题
  • 优化客户体验

要使用追踪视图:

  1. 在Amazon Bedrock控制台中打开您的流,并使用示例查询进行测试。

![Flow删除)

  1. 运行流后,选择显示追踪 以分析互动。

![Show删除)

  1. 查看流追踪窗口,显示:
  2. 客户互动的每个步骤的响应时间
  3. 客户输入是如何处理的
  4. 保护措施应用的位置
  5. 性能瓶颈

![Flow删除)

  1. 分析执行细节,包括:
  2. 客户查询处理步骤
  3. 响应生成与验证
  4. 每步所花费的时间
  5. 错误细节和原因分析

![Execution删除)

在线验证状态

Flows可视化构建器和SDK现在包括直观的节点验证功能:

可视化构建器:

  • 绿色背景表示有效的节点配置。

![Valid删除)

  • 红色背景表示需要注意的无效节点配置。

![Invalid删除)

  • 黄色背景表示节点配置有警告。

![Warning删除)

这些验证功能帮助开发者迅速识别和解决其流中可能存在的问题,通过在可视化和编程开发过程中提供实时验证反馈。

结论

Bedrock Guardrails与BedrockFlows中增强的可追溯性的集成,代表了生成性AI开发的重大进步。这些功能使开发者能够创建更安全、透明和高效的AI驱动解决方案,解决快速发展的AI应用开发领域中的关键挑战。

拥有新功能的Bedrock Flows现在在所有可以使用AmazonBedrock的区域正式发布,GovCloud除外。从2025年2月1日起,您还将根据操作工作流所需的节点转换次数收取BedrockFlows的使用费,费用为每千次节点转换$0.035。我们邀请您探索这些新功能,并亲身体验它们如何改善您的生成性AI开发过程。要开始使用,请打开AmazonBedrock控制台,今天就开始构建具有增强安全性和可见性的流。欲了解更多信息,请参见AWS用户指南中的 和 。有关定价信息,请访问 。

我们期待看到您利用这些新功能构建的创新应用。与往常一样,我们欢迎您通过 反馈有关Amazon Bedrock的信息,或通过您通常的AWS联系人进行反馈。加入 生成性AI构建者社区,分享您的经验并向他人学习。


关于作者

![](https://d2908q01vomqb2.cloudfront.net/f1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59/2024/11/19/Amit- 删除) Amit Lulla 是AWS的首席解决方案架构师,负责为软件公司架构企业级生成性AI和机器学习解决方案。拥有超过15年的软件开发和架构经验,他热衷于将复杂的AI挑战转化为实用的解决方案,为企业创造实际价值。非工作时间,他常在壁球场上锻炼、练习瑜伽或计划下一次旅行冒险。他还保持每日冥想的习惯,认为它能够帮助他在快速发展的AI创新中保持中心感。

删除) Huong Nguyen 是AWS的首席产品经理,领导Amazon BedrockFlows,拥有18年构建以客户为中心和数据驱动产品的经验。她热衷于普及负责任的机器学习和生成性AI,以促进客户体验和业务创新。在工作之外,她喜欢与家人和朋友共度时光,听有声书、旅行和园艺。

Leave a Reply

Required fields are marked *