用于 Amazon CloudFormation 为语义搜索设置远程推理 - 亚马逊 OpenSearch 服务
可用 Amazon CloudFormation 模板先决条件语义突出显示模板的远程推理
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

用于 Amazon CloudFormation 为语义搜索设置远程推理

从 2.9 OpenSearch 版开始，您可以使用带有语义搜索的远程推理来托管自己的机器学习 (ML) 模型。远程推理使用 ML 共享资源插件。

借助远程推理，您可以在 Amazon A SageMaker I 和 Amazon Bedrock 等机器学习服务上远程托管模型推理，并使用机器学习连接器将它们连接到亚马逊 OpenSearch 服务。

为了简化远程推理的设置，Amazon S OpenSearch ervice 在控制台中提供了一个Amazon CloudFormation模板。 CloudFormation 是您可以通过将基础设施视为代码来配置 Amazon 和管理第三方资源 Amazon Web Services 服务 的地方。

该 OpenSearch CloudFormation 模板可自动执行模型配置过程，因此您可以轻松地在 OpenSearch 服务域中创建模型，然后使用模型 ID 来摄取数据并运行神经搜索查询。

在 Serv OpenSearch ice 2.12 及更高版本中使用神经稀疏编码器时，我们建议您在本地使用分词器模型，而不是远程部署。有关更多信息，请参阅 OpenSearch 文档中的稀疏编码模型。

主题

可用 Amazon CloudFormation 模板

以下 Amazon CloudFormation 机器学习 (ML) 模板可供使用：

Amazon Bedrock 模板
亚马逊 Titan 文本嵌入集成

连接到 Amazon Bedrock 的托管机器学习模型，无需单独部署模型，并使用预先确定的亚马逊 Bedrock 终端节点。有关更多信息，请参阅《亚马逊 B edrock 用户指南》中的 Ama zon Titan 文本嵌入。

Cohere 嵌入集成

提供对 Cohere Embed 模型的访问，并针对特定的文本处理工作流程进行了优化。有关更多信息，请参阅 Cohere 文档网站上的 “嵌入”。

Amazon Titan 多模式嵌入式

支持文本和图像嵌入，并支持多模态搜索功能。有关更多信息，请参阅《亚马逊 Bed rock 用户指南》中的 Ama zon Titan 多模式嵌入式。

MCP 服务器集成模板
MCP 服务器集成

部署 A mazon Bedrock AgentCore 运行时，提供代理终端节点，处理入站和出站身份验证，并 OAuth 支持企业身份验证。

亚马逊 SageMaker 模板
通过 Amazon 与文本嵌入模型集成 SageMaker

在 Amazon SageMaker Runtime 中部署文本嵌入模型，为模型项目访问创建 IAM 角色，并建立用于语义搜索的机器学习连接器。

通过以下方式与稀疏编码器集成 SageMaker

为神经搜索设置稀疏编码模型，创建用于连接器管理的 Amazon Lambda 函数，并返回模型 IDs 以供立即使用。

先决条件

要在 S OpenSearch ervice 中使用 CloudFormation 模板，请完成以下先决条件。

设置 OpenSearch 服务域

在使用 CloudFormation 模板之前，您必须设置一个版本 2.9 或更高版本的 Amazon Serv OpenSearch ice 域并启用精细访问控制。创建 OpenSearch 服务后端角色以授予 ML Commons 插件为您创建连接器的权限。

该 CloudFormation 模板使用默认名称为您创建一个 Lambda IAM 角色LambdaInvokeOpenSearchMLCommonsRole，如果您想选择其他名称，则可以覆盖该名称。模板创建此 IAM 角色后，您需要授予 Lambda 函数调用您的 OpenSearch 服务域的权限。为此，请按照以下步骤ml_full_access将名为的角色映射到您的 OpenSearch 服务后端角色：

  1. 导航到您的 OpenSearch 服务域的 OpenSearch 仪表板插件。您可以在 OpenSearch 服务控制台的域控制面板上找到控制面板终端节点。

  2. 从主菜单中选择安全、角色，然后选择 ml_full_access 角色。

  3. 选择映射的用户、管理映射。

  4. 在后端角色下，添加需要权限才能调用您的域名的 Lambda 角色的 ARN。

    arn:aws:iam::account-id:role/role-name

  5. 选择映射并确认在映射的用户下显示的用户或角色。

映射角色后，导航到您的域的安全配置，然后将 Lambda IAM 角色添加到您的 OpenSearch 服务访问策略中。

启用您的 Amazon Web Services 账户权限

您 Amazon Web Services 账户 必须拥有访问 CloudFormation 和 Lambda 的权限，以及 Amazon Web Services 服务 您为模板选择的任何内容（Runtime SageMaker 或 Amazon Bedrock）的权限。

如果您使用的是 Amazon Bedrock，则还必须注册您的模型。要注册您的模型，请参阅 Amazon BedRock 用户指南中的模型访问权限。

如果您使用自己的 Amazon S3 存储桶来提供模型项目，则必须将 CloudFormation IAM 角色添加到您的 S3 访问策略中。有关更多信息，请参阅《 IAM 用户指南》中的添加和删​​除 IAM 身份权限。

语义突出显示模板的远程推理

语义突出显示是一项高级搜索功能，它通过分析查询的含义和上下文，而不是仅仅依赖精确的关键字匹配来增强结果的相关性。此功能使用机器学习模型来评估搜索查询和文档内容之间的语义相似性，识别并突出显示文档中与上下文最相关的句子或段落。与侧重于精确术语匹配的传统突出显示方法不同，语义突出显示利用人工智能模型，使用来自查询和周围文本的上下文信息来评估每个句子，即使突出显示的段落中没有确切的搜索词，语义突出显示也能显示相关信息。这种方法对于人工智能驱动的搜索实现特别有价值，在这种实现中，用户优先考虑语义含义而不是字面单词匹配，这使搜索管理员能够提供更智能和更具情境感知能力的搜索体验，突出有意义的内容跨度，而不仅仅是关键字出现次数。有关更多信息，请参阅使用语义突出显示。

使用以下过程打开并运行自动配置 Amazon SageMaker 模型以进行语义突出显示的 Amazon CloudFormation 模板。

使用语义突出显示模板 CloudFormation

  1. 在https://console.aws.amazon.com/aos/家中打开亚马逊 OpenSearch 服务控制台。

  2. 在左侧导航窗格中，选择集成。

  3. 在 “通过 Amazon SageMaker 集成启用语义突出显示” 下，选择 “配置域”、“配置公共域”。

  4. 按照提示设置模型。

注意

OpenSearch 服务还提供了一个单独的模板来配置 VPC 域。如果您使用此模板，则需要提供 Lambda 函数的 VPC ID。