深圳网站设计知名乐云seo网站建设流程中哪些部分比较重要

什么是注意力机制？




什么是加性注意力？

大致说一下流程：
对于一张特征图来说，对于这张图中的每一个像素向量（例如a），计算该向量与所有像素向量的相似度，对这些相似度进行激活函数处理得到注意力得分。对注意力得分进行归一化得到a向量对所有像素向量的注意力权重，然后a向量对每一个像素向量的注意力权重与对应的值向量（有可能是对应的像素向量）相乘并求和，得到最终的更新特征。