调整 TabTransformer 模型 - 亚马逊 SageMaker AI
Metrics可优化超参数
Amazon Web Services 文档中描述的 Amazon Web Services 服务或功能可能因区域而异。要查看适用于中国区域的差异，请参阅 中国的 Amazon Web Services 服务入门 (PDF)。

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

调整 TabTransformer 模型

自动模型调整也称作超参数调整，是指通过在您的训练数据集和验证数据集上运行多个作业来测试一系列超参数，从而查找模型的最佳版本。模型调整侧重于以下超参数：

注意

学习目标函数和评估指标均根据分类任务的类型自动分配，分类任务由标签列中唯一整数的数量决定。有关更多信息，请参阅 TabTransformer 超参数。

  • 一个学习目标函数，用于在模型训练期间进行优化

  • 一个评估指标，用于在验证期间评估模型性能

  • 自动调整模型时要使用的一组超参数和一系列值，供每个参数使用

自动模型调整将搜索您选择的超参数，以找出可以得到优化所选评估指标的模型的值组合。

注意

自动模型调整只能从 Amazon 获得 SageMaker SDKs，无法从 A SageMaker I 控制台获得。 TabTransformer

有关模型优化的更多信息，请参阅使用 SageMaker AI 自动调整模型。

TabTransformer算法计算的评估指标

A SageMaker I TabTransformer 算法计算以下指标以用于模型验证。评估指标根据分类任务的类型自动分配，分类任务由标签列中唯一整数的数量决定。

指标名称 描述 优化方向 正则表达式模式
r2 r 平方 最大化 "metrics={'r2': (\\S+)}"
f1_score 二元交叉熵 最大化 "metrics={'f1': (\\S+)}"
accuracy_score 多元交叉熵 最大化 "metrics={'accuracy': (\\S+)}"

可调整 TabTransformer 的超参数

使用以下超参数调整 TabTransformer 模型。对优化 TabTransformer评估指标影响最大的超参数是：learning_rate、、input_dim、n_blocksattn_dropoutmlp_dropout、和frac_shared_embed。有关所有 TabTransformer超参数的列表，请参见TabTransformer 超参数。

参数名称 参数类型 建议的范围
learning_rate ContinuousParameterRanges MinValue: 0.001， MaxValue: 0.01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue: 1, MaxValue: 12
attn_dropout ContinuousParameterRanges MinValue: 0.0， MaxValue: 0.8
mlp_dropout ContinuousParameterRanges MinValue: 0.0， MaxValue: 0.8
frac_shared_embed ContinuousParameterRanges MinValue: 0.0， MaxValue: 0.5