当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 人气:发表时间:2025-06-25 16:15:13
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 当年的东莞究竟有多疯狂?
- 浏览器解析Html一般是边下载边渲染么?如果是边下载边渲染的话,Html又使用GZIP格式传输,如何能够做到没有完全下载就可以渲染的呢?
- 都是研制核武器,美国为何只敢动伊朗,对朝鲜却畏首畏尾?
- 多个充电宝或电芯品牌的 3C 认证证书被暂停,涉及罗马仕、安克、绿联、倍思、安普瑞斯等,发生了什么?
- 为什么有人嘲笑练瑜伽的女性?
- 女生怎么穿才算暴露吗?
- 个人开发者或小企业不申请经营性ICP备案,怎样开发APP盈利?
- 如何看待小米 YU7 3 分钟大定突破 20 万辆,锁单 12.2 万辆?小米汽车做对了什么?
- 如何评价“寡姐”斯嘉丽·约翰逊的身材?
- 用PHP写了个小框架,怎么才能得到大佬们的指点?
最新资讯文章
- 《诛仙》作者萧鼎于近日修改《诛仙》原作并大量删去碧瑶戏份,如何看待这一行为?
- 我应该设置多少kb才能让他不能玩游戏?
- 作为一个腰细腿粗的女生什么感觉?
- 为什么 CRT 画质这么好也被淘汰,液晶反而发展的很好?
- 数据库不就是增删改查一些数据吗?研发一个数据库到底难在哪了?
- 自行车爱好者们,你个人有哪些「修车小妙招」?
- 现实中的父女关系是怎样的?
- 腰椎间盘突出能治好吗?
- 续签香港优才,怎么证明申请人“常住香港”?
- 我男朋友年薪远高于我,我说因为女生生理结构需要生娃,生娃这件事情女性需要比男生牺牲更多,我说的对吗?
- 公路车超过多少公斤就已经算很沉的了?
- 如何评价英伟达 NVIDIA 的总裁黄仁勋?
- 哪些东西必须戒掉?
- 「牛奶湖」游客排队接奶,当地表示可以放心喝,是否符合食品安全标准?此营销行为对当地牧业是否有宣传作用?
- 民航局紧急通知禁止携无 3C 标识及被召回的充电宝乘境内航班,无 3C 标识充电宝有哪些安全隐患?






关注公众微信号
移动端,扫扫更精彩