这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar

前置内容：Cross Attent ion （ Transform er 的解码器部分） 自注意力的计算回顾关于自注意力机制的思考； key-value注意力的计算为：Attent ion (Q,K,V)=softmax(QKTdk)VAttent ion (Q,K,V)=softmax(\frac{QK^{T}}{\sqrt{d_{k}}})VAttent ion (Q,K,V)=softmax(dk​​QKT​)V 交叉注意力和自注意力均来自 Transform er ，除了输入，交叉注意力的计算与自注意力一样。交叉注意力不对称.

CVPR 2019中发表了一篇题为“迁移学习:无监督领 域 自 适应 的对比 适应 网络（Contrastive Ada pta t ion Network for Un super vis ed Dom ain Ada pta t ion ）”的论文。这篇论文主要介绍了一种用于无监督领 域 自 适应 的对比 适应 网络。 迁移学习是指将从一个源领 域 学到的知识应用到一个目标领 域 的任务中。在无监督领 域 自 适应 中，源领 域 和目标领 域 的标签信息是不可用的，因此算法需要通过从源领 域 到目标领 域 的无监督样本对齐来实现知识迁移。 该论文提出的对比 适应 网络（Contrastive Ada pta t ion Network，CAN）的目标是通过优化源领 域 上的特征表示，使其能够 适应 目标领 域 的特征分布。CAN的关键思想是通过对比损失来对源领 域 和目标领 域 的特征进行匹配。 具体地说，CAN首先通过一个共享的特征提取器来提取源领 域 和目标领 域 的特征表示。然后，通过对比损失函数来测量源领 域 和目标领 域 的特征之间的差异。对比损失函数的目标是使源领 域 和目标领 域 的特征在特定的度量空间中更加接近。最后，CAN通过最小化对比损失来优化特征提取器，以使源领 域 的特征能够 适应 目标领 域 。 该论文还对CAN进行了实验验证。实验结果表明，与其他无监督领 域 自 适应 方法相比，CAN在多个图像分类任务上取得了更好的性能，证明了其有效性和优越性。 综上所述，这篇 CVPR 2019论文介绍了一种用于无监督领 域 自 适应 的对比 适应 网络，通过对源领 域 和目标领 域 的特征进行对比学习，使得源领 域 的特征能够 适应 目标领 域 。该方法在实验中展现了较好的性能，有望在无监督领 域 自 适应 任务中发挥重要作用。