XR-Transformer论文中，如何实现极端多标签的快速多分辨率Transformer微调？
- 内容介绍
- 文章标签
- 相关推荐
本文共计1818个文字，预计阅读时间需要8分钟。
：快速多分辨率Transformer微调在极多标签文本分类中的应用作者：张炯，张维成，余翔富，I. Dhillon来源：2021年，ArXiv其他：3次引用，61条参考文献
Paper Information1 背景知识Title：Fast Multi-Resolution Transformer Fine-tuning for Extreme Multi-label Text Classification
Authors：Jiong Zhang, Wei-Cheng Chang, Hsiang-Fu Yu, I. Dhillon
Sources：2021, ArXiv
Other：3 Citations, 61 References
Paper：download
Code：download
训练集 $\left\{\mathbf{x}_{i}, \mathbf{y}_{i}\right\}_{i=1}^{N}$，$\mathbf{x}_{i} \in \mathcal{D}$ 代表着第 $i$ 个文档，$\mathbf{y}_{i} \in\{0,1\}^{L}$ 是第$i$个样本的第 $\ell$ 个标签。
eXtreme Multi-label Text Classification (XMC) 目标是寻找一个这样的函数 $f: \mathcal{D} \times[L] \mapsto \mathbb{R}$，$f(x，\ell)$ 表示输入 $x$ 与标签 $\ell$ 之间的相关性。
实际上，得到 $top-k$ 个最大值的索引作为给定输入 $x$ 的预测相关标签。
本文共计1818个文字，预计阅读时间需要8分钟。
：快速多分辨率Transformer微调在极多标签文本分类中的应用作者：张炯，张维成，余翔富，I. Dhillon来源：2021年，ArXiv其他：3次引用，61条参考文献
Paper Information1 背景知识Title：Fast Multi-Resolution Transformer Fine-tuning for Extreme Multi-label Text Classification
Authors：Jiong Zhang, Wei-Cheng Chang, Hsiang-Fu Yu, I. Dhillon
Sources：2021, ArXiv
Other：3 Citations, 61 References
Paper：download
Code：download
训练集 $\left\{\mathbf{x}_{i}, \mathbf{y}_{i}\right\}_{i=1}^{N}$，$\mathbf{x}_{i} \in \mathcal{D}$ 代表着第 $i$ 个文档，$\mathbf{y}_{i} \in\{0,1\}^{L}$ 是第$i$个样本的第 $\ell$ 个标签。
eXtreme Multi-label Text Classification (XMC) 目标是寻找一个这样的函数 $f: \mathcal{D} \times[L] \mapsto \mathbb{R}$，$f(x，\ell)$ 表示输入 $x$ 与标签 $\ell$ 之间的相关性。
实际上，得到 $top-k$ 个最大值的索引作为给定输入 $x$ 的预测相关标签。