TabTransformer 的工作方式
TabTransformer 是一种用于有监督学习的新型深度表格数据建模架构。TabTransformer 建立在基于自注意力的转换器之上。转换器层将类别特征的嵌入转换为可靠的上下文嵌入,以实现更高的预测准确性。此外,从 TabTransformer 学习到的上下文嵌入都非常可靠,可以处理缺失和噪音数据特征,并且可以提供更好的可解释性。
TabTransformer 算法在机器学习竞赛中表现良好,因为它可以可靠地处理各种数据类型、关系、分布以及您可以微调的各种超参数。您可以使用 TabTransformer 来处理回归、分类(二元和多元)和排名问题。
下图阐明了 TabTransformer 架构。
有关更多信息,请参阅 TabTransformer:使用上下文嵌入进行表格数据建模