生成式 AI 驱动的技术运营

作者：Raman Pujani Rachanee Singprasong 和 Vijay Sivaji 日期：2024 年 9 月 11 日发布于 Amazon Aurora、Amazon Bedrock、Amazon Q、Amazon QuickSight、Amazon Transcribe、生成式 AI、生成式 BI。永久链接

关键要点

技术运营TechOps是指管理和维护组织IT基础设施和服务的一系列过程与活动。在管理信息技术运营时，会使用多个术语，包括ITOps、SRE、AIOps、DevOps和SysOps。在本文的上下文中，我们将这些术语统称为TechOps。这些工作包括管理服务器、网络、数据库和应用程序，以维持IT系统的可靠性、性能和安全性。然而，一些任务仍需手动和重复操作，例如事件检测和响应、分析来自不同服务提供商的请求、寻找已知和未知问题的标准操作程序，以及管理支持案例的解决。近年来，TechOps已经开始使用被称为AIOps的人工智能能力，进行运营数据的收集、聚合和关联，以生成可操作的见解，识别根本原因等。

本文描述了如何利用AWS生成式AI解决方案包括Amazon Bedrock、Amazon Q Developer和Amazon Q Business进一步提升TechOps的生产力、减少问题解决时间、提升客户体验、标准化操作流程及增强知识库。生成式AI技术能够依据细致的案例解读复杂情况，解决其他方法包括传统的人工智能和机器学习AI/ML基于模式匹配无法处理的挑战。以下表格展示了一些AWS生成式AI服务如何支持日常TechOps活动的实例。

TechOps团队的一天通常包括问题解决、根本原因分析、维护活动以及更新知识库，以提供积极的客户体验。在接下来的部分中，我们将讨论这些领域以及生成式AI如何助力TechOps的提升。

事件管理

通过监测系统并分析性能数据的模式，人工智能模型可以在问题导致停机或服务降级之前进行预测。当事件发生时，生成式AI模型可以生成事件的初步文档，包括受到影响的系统、潜在的根本原因和故障排除步骤。这使得工程师能够迅速了解新事件并加快响应效率。

生成式AI还可以生成过去事件的摘要报告，帮助团队识别重复性问题和预防措施的机会。此外，还可以将来自不同服务提供商的入站维护通知格式化为标准格式，加快对即将进行的维护影响的理解。同样，生成式AI还可以在检测到异常时自动生成外发案例给服务提供商。

通过接管基本的文档和预测任务，生成式AI可以帮助基础设施团队减少重复工作的时间，将更多精力放在问题解决上，以提高系统的整体可靠性。

如果想了解如何使用Amazon Bedrock进行摘要任务，请参考使用Amazon Bedrock和Amazon Transcribe生成录音摘要。想了解Wiz如何利用Amazon Bedrock解决安全风险，请查看Wiz如何利用Amazon Bedrock加速安全风险处理。请查阅HappyFox如何在Amazon Bedrock中使用Anthropic Claude，提升工单解决率40。

知识库管理

生成式AI有潜力帮助工程师自动创建操作文档，如标准操作程序SOP及其他补充文档，例如服务器加固、安全策略和操作系统修补等。

利用在大量现有SOP和类似内容数据集上训练的自然语言模型，生成式AI系统能够理解这些文档常用的结构和语言。工程师可以为新的程序提供高层次的要求或参数，生成式AI则可以自动生成格式合适、内容完整的草稿文档。这使得工程师能将更多时间专注于其他工程任务，而不是文档编写。AI生成的初稿还为工程师提供了良好的起点，便于进一步优化。

总体而言，生成式AI为工程师提供了一种更加高效的方式，在规模上开发标准化的程序内容。

如需了解如何使用Amazon Bedrock生成产品描述，请查看使用Amazon Bedrock实现产品描述生成的自动化。此外，参见Skyflow如何在几天内使用Amazon Bedrock创建技术内容以了解Skyflow Inc如何使用Amazon Bedrock来简化技术内容的创建，将这一过程从数周缩短到数天，同时保持高标准的数据隐私和安全性。

自动化

生成式AI可以帮助工程师自动化某些本应手动完成的任务。其中一个可以帮助的领域是生成重复性自动化过程的脚本代码。通过在现有代码示例如文件操作或系统配置的大型数据集上训练AI模型，生成式模型可以学习到模式和语法。

Amazon Q自定义是一组元素，使Amazon Q能够根据公司的代码库提供建议。工程师可以向系统提供自动化需求的高层次描述或规范，例如“生成一个脚本以备份和归档该目录中超过30天的文件”。AI模型能够根据其训练自动输出有效的代码，以完成这一任务。这将节省工程师相当多的时间来编写和测试日常工作所需的脚本，使他们能够专注于更具创造性和挑战性的工作。随着生成式AI技术的进步，可能实现更复杂的工程自动化。

想了解有关Amazon Q代码转换功能的信息，请参见使用Amazon Q代码转换升级您的Java应用程序。此外，请查阅使用Amazon Bedrock代理交互式生成基础设施作为代码以了解如何配置Amazon Bedrock代理来生成基础设施代码。最后请参见TymeX通过在AWS上实施生成式AI将清洁编码加快了40，了解TymeX是如何利用AWS的生成式AI的。

客户体验

生成式AI能够分析大量客户服务数据，如通话记录和支持工单，识别客户经常报告的问题模式。通过这些见解，运营团队能够主动解决常见问题，以避免对客户造成严重影响。生成式AI助手还可以自动化许多例行服务任务，让人类代理能够专注于需要个性化的复杂查询。在AI助手的帮助下，当发生停机时，基础设施服务能够更快恢复。这确保了运营更高效、透明，直接提升了基础设施团队旨在支持的客户体验。

Amazon Q Business提供了带有生成式提示和任务的对话体验，可以充当前线支持工程师，高效解答客户问题并解决已知问题。该功能可以利用来自企业系统的数据提供准确及时的响应，减轻人类工程师的负担，改善客户满意度。

借助Amazon Bedrock，您可以进行情感分析，帮助手动工程师分析客户情绪，并提供背景，帮助他们提供更好的支持，提升客户忠诚度、保留率和增长。

有关开发生成式AI聊天助手的一种方法，请参考使用RAG和ReAct提示开发先进的生成式AI聊天助手。有关DoorDash如何使用AWS服务构建生成式AI联系中心解决方案的信息，请查看DoorDash使用Amazon Bedrock、Amazon Connect和Anthropic的Claude构建生成式AI联系中心解决方案。想了解PGA TOUR如何构建生成式AI虚拟助手，请参见从构思到开发再到原型，PGA TOUR的生成式AI虚拟助手之旅。

员工生产力

全天候的基础设施运营团队在夜间和办公时间外保持员工工作产出面临挑战，因为这段时间的支持请求量较少。生成式AI助手可以帮助改善这些期间的员工生产力，并简化班次交接过程。

该助手可以通过历史支持对话进行训练，从而独立理解和解决大量常规查询。它可以通过消息平台与客户沟通，提供即时帮助。助手能够处理的简单请求使团队能够专注于需要人类专业知识的复杂问题。AI系统可以将无法独立解决的任何查询升级给值班员工。这使得夜班和周末班可以在更少的中断下工作。他们可以更加高效地处理任务，因为他们知道助手正在独立处理基本的支持需求。生成式AI驱动的联系中心解决方案可以提高代理与客户的互动能力，加快问题解决速度，从而提高整体生产力。

想了解如何自动化文档和数据检索以帮助AI助手，请查看使用Amazon Bedrock代理和知识库自动化文档和数据检索的聊天机器人。参见LeadSquared如何使用Amazon Bedrock和Amazon Aurora PostgreSQL加速聊天机器人部署了解LeadSquared如何在其Converse平台上利用Amazon Bedrock和Amazon Aurora PostgreSQLCompatible Edition部署生成式AI助手，根据客户特定的培训数据个性化互动。该整合降低了客户入驻成本，减少人工工作，提高聊天机器人响应，迅速并相关地提供协助，改变了客户支持和参与的方式。

报告

生成式AI有潜力帮助基础设施运营团队简化报告流程。通过利用在过去报告示例上训练的机器学习算法，生成式AI系统可以根据来自监控系统和其他运营工具的数据自动生成草稿报告。这可以节省团队大量编制信息为标准化报告格式的时间。AI生成的报告可能包括摘要数据可视化、描述性分析和针对每位接收者的建议。

团队仍需在最终发布报告之前审查草稿以确保准确性。然而，自动生成初始版本可以减少例行报告任务，使工程师有更多时间进行高价值的问题解决和战略规划。AI的使用可以帮助基础设施团队更高效地满足其报告义务。

Amazon Q in QuickSight是您生成式AI助手，可以轻松构建和消费见解。欲了解更多信息，请查看Amazon Q现已在Amazon QuickSight中正式发布，为整个组织带来生成式BI能力。并参见Anthology如何利用Amazon QuickSight提供嵌入式分析，民主化高等教育决策了解Anthology如何在QuickSight中使用Amazon Q，以提供独立服务选项，满足未被中央仪表板直接解决的分析需求。

您可以在生成式AI客户案例中探索更多客户故事和案例研究，以了解客户如何使用AWS生成式AI服务。请参阅通过Amazon Q Business从AWS导出有意义且可操作的运营洞察了解如何结合AWS支持案例、AWS信任顾问及AWS健康数据使用AWS生成式AI服务，导出基于常见模式、问题和解决方案的可操作洞察，同时利用支持数据实现AWS的建议和最佳实践。

结论

将生成式AI融入TechOps标志着IT基础设施和服务管理与优化的转型飞跃。通过使用AWS生成式AI解决方案，如Amazon Bedrock、Amazon Q Developer和Amazon Q Business，组织可以显著提高生产力、减少问题解决所需时间，并改善整体客户体验。生成式AI在预测和预防停机、自动化文档生成、以及从运营数据中生成可操作的洞察方面的复杂能力，使其成为现代TechOps团队的重要工具。

您可以通过使用AWS生成式AI创新中心计划释放无限潜力，该计划将您与在AI/ML和生成式AI技术方面拥有深厚经验的AWS科学与战略专家配对。若要开始，请联系您的AWS客户经理。如果您没有AWS客户经理，请联系AWS销售。

关于作者

Raman Pujani是亚马逊网络服务公司的解决方案架构师，帮助客户加速其业务转型之旅。他利用创新技术为复杂的商业问题构建简化且可持续的解决方案。Raman拥有超过25年的IT转型经验。工作之外，他喜欢和家人一起度过时光，去山上度假，以及听音乐。

Rachanee Singprasong是亚马逊网络服务公司战略客户的首席客户解决方案经理。她的角色专注于帮助客户进行云迁移和数字转型。她持有运营研究博士学位，热衷于用创意解决方案来解决复杂的客户挑战。

Vijay Sivaji是亚马逊网络服务公司战略客户的高级技术账户经理。他帮助客户解决架构、运营和成本优化挑战。空闲时间他喜欢打网球。