热爱可抵岁月漫长
一个热爱技术、喜欢折腾的开发者。 专注于 AI 与算法架构,偶尔也搓搓 App 和小工具。 记录生活,分享技术,探索未知。
共 1 篇文章
什么是注意力机制 注意力机制(Attention Mchanism):模仿了人类在处理信息时候的选择性关注能力,允许模型在处理输入数据时动态地调整其注意力权重,从而突出重要信息并忽略不重要的信息。 核心思想 它主要通过计算查询向量(Query)、键向量(Key)之间的相似度来确定注意力权重,然后对值