昊梵体育网

dou 包大模型是怎么运行的?

读文献、写代码、改论文、画示意图……现在我几乎每天都在和大模型打交道。用得越多,脑子里那个问题就越挥之不去:我敲进去的那一句话,它到底是怎么变成一段回答吐出来的?那个聊天框背后,到底是一个什么样的系统?

为了搞懂 GPT 这类大模型背后的原理,我最近读了《这就是豆包:豆包大模型是怎么样运行的》(田蕴琦著,北京大学出版社)。

这本书从 Transformer 底层原理一直讲到大模型的部署接入。今天就分享一下我从这本书里学到的东西,也欢迎各位大佬批评指正。
#大模型学习