Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

配置您的模型提供商

Jupyter AI 的配置会有所不同，具体取决于你使用的是聊天用户界面还是魔法命令。

在聊天界面中配置您的模型提供商

以下快照显示了聊天界面配置面板，该面板设置为调用由 JumpStart 提供并在中部署的 Flan-t5-Small 模型。 SageMaker

将额外的模型参数和自定义参数传递给您的请求

您的模型可能需要额外的参数，例如用于用户协议批准的自定义属性或调整其他模型参数（例如温度或响应长度）。我们建议使用生命周期配置将这些设置配置为 JupyterLab应用程序的启动选项。有关如何创建生命周期配置并将其附加到您的域或从SageMaker 控制台附加到用户配置文件的信息，请参阅创建和关联生命周期配置。在为 JupyterLab 应用程序创建空间时，您可以选择 LCC 脚本。

使用以下 JSON 架构来配置您的额外参数：

{
  "AiExtension": {
    "model_parameters": {
      "<provider_id>:<model_id>": { Dictionary of model parameters which is unpacked and passed as-is to the provider.}
      }
    }
  }
}

以下脚本是 JSON 配置文件的示例，您可以在创建 JupyterLab 应用程序 LCC 时使用该文件来设置部署在 Amazon Bedrock 上的 AI21 Labs Jurassic-2 模型的最大长度。增加模型生成的响应的长度可以防止模型的响应被系统地截断。

#!/bin/bash
set -eux

mkdir -p /home/sagemaker-user/.jupyter

json='{"AiExtension": {"model_parameters": {"bedrock:ai21.j2-mid-v1": {"model_kwargs": {"maxTokens": 200}}}}}'
# equivalent to %%ai bedrock:ai21.j2-mid-v1 -m {"model_kwargs":{"maxTokens":200}}

# File path
file_path="/home/sagemaker-user/.jupyter/jupyter_jupyter_ai_config.json"

#jupyter --paths

# Write JSON to file
echo "$json" > "$file_path"

# Confirmation message
echo "JSON written to $file_path"

restart-jupyter-server

# Waiting for 30 seconds to make sure the Jupyter Server is up and running
sleep 30

以下脚本是一个用于创建 JupyterLab 应用程序 LCC 的 JSON 配置文件示例，该文件用于为部署在 Amazon Bed rock 上的 Anthropic Claude 模型设置其他模型参数。

#!/bin/bash
set -eux

mkdir -p /home/sagemaker-user/.jupyter

json='{"AiExtension": {"model_parameters": {"bedrock:anthropic.claude-v2":{"model_kwargs":{"temperature":0.1,"top_p":0.5,"top_k":25
0,"max_tokens_to_sample":2}}}}}'
# equivalent to %%ai bedrock:anthropic.claude-v2 -m {"model_kwargs":{"temperature":0.1,"top_p":0.5,"top_k":250,"max_tokens_to_sample":2000}}

# File path
file_path="/home/sagemaker-user/.jupyter/jupyter_jupyter_ai_config.json"

#jupyter --paths

# Write JSON to file
echo "$json" > "$file_path"

# Confirmation message
echo "JSON written to $file_path"

restart-jupyter-server

# Waiting for 30 seconds to make sure the Jupyter Server is up and running
sleep 30

将 LCC 附加到域名或用户个人资料后，请在启动应用程序时将您的 LCC 添加到您的 JupyterLab 空间。要确保 LCC 更新您的配置文件，请在终端more ~/.jupyter/jupyter_jupyter_ai_config.json中运行。该文件的内容应与传递给 LCC 的 JSON 文件的内容相对应。

在笔记本电脑中配置您的模型提供商