在 SageMaker 笔记本电脑环境中使用生成式 AI - Amazon SageMaker
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

在 SageMaker 笔记本电脑环境中使用生成式 AI

Jupyter AI 是 JupyterLab 将生成人工智能功能集成到 Jupyter 笔记本电脑中的开源扩展。通过 Jupyter AI 聊天界面和魔法命令，用户可以尝试根据自然语言指令生成的代码，解释现有代码，询问有关本地文件的问题，生成整个 notebook 等等。该扩展将 Jupyter 笔记本与大型语言模型 (LLM) 连接起来，用户可以使用这些模型生成文本、代码或图像，以及询问有关他们自己的数据的问题。Jupyter AI 支持生成模型提供商，例如 AI21、Anthropic（ Amazon 和JumpStart 亚马逊 Bedrock）、Cohere 和 OpenAI。

该扩展程序包包含在 Amazon SageMaker 分销版本 1.2 及更高版本中。Amazon Distrib SageMaker ution 是一个用于数据科学和科学计算的 Docker 环境，用作 JupyterLab 笔记本实例的默认映像。不同 IPython 环境的用户可以手动安装 Jupyter AI。

在本节中，我们将概述 Jupyter 的人工智能功能，并演示如何配置由 A JumpStart mazon Bedrock JupyterLab或 Studio Classic 笔记本电脑提供的模型。有关 Jupyter AI 项目的更多深入信息，请参阅其文档。或者，你可以参考博客文章 Jupyter 中的生成人工智能，了解 Jupyter 人工智能关键功能的概述和示例。

在使用 Jupyter AI 并与 LLM 互动之前，请确保满足以下先决条件：

  • 对于托管的模型 Amazon，您应该拥有 SageMaker 终端节点的 ARN 或者可以访问 Amazon Bedrock。对于其他模型提供商，您应该使用 API 密钥来验证和授权向您的模型提出的请求。Jupyter AI 支持各种模型提供程序和语言模型，请参阅其支持的模型列表以了解最新的可用模型。有关如何在中部署模型的信息 JumpStart，请参阅 JumpStart 文档中的部署模型。您需要申请访问 Amazon Bedrock 才能将其用作您的模型提供商。

  • 确保您的环境中有 Jupyter 人工智能库。否则，请按照中的说明安装所需的软件包安装 Jupyter AI。

  • 熟悉 Jupyter 人工智能的功能。Jupyter 人工智能功能

  • 按照中的说明配置要使用的目标型号配置您的模型提供商。

完成必备步骤后，您可以继续在 Studio Classic 中 JupyterLab 使用木星人工智能。

主题