我刚才想到一个一个很好的事情，就是什么？就是关于 kv cache 它为什么后面它为什么需要它？为什么后面计算量容易？这个一直对我来说很难理解，我后来突然想到一个很简单的事情，就能够帮助大家理解，就是用一个场景来描述。什么 kv cash 它的后面的计算量就变小了，它的原理是什么？我说给你听一下，就是说，比如说有一群人，然后大家聚会，聚会完了以后就会彼此要认识就会交换微信，这个交换微信的动作是非常繁忙的，因为每两个人之间都要交换一下，就假定他们不都不组群的话，就是两两之间都要去扫一下微信码，然后彼此加好友。那这个过程就是 N 乘以 N 减一吧，大概是 N 平方嘛，这很繁忙。加完了以后大家一起吃饭，然后突然来了一个人晚到了，那他晚到他也要跟大家所有人都去加微信，那这时候其实他只要加什么呢？这在场的每个人都跟他加一次就完了。因为之前的那个两两已经加完了，随后就只要加一次，就是他跟在场的每个人都加一次，就是完了。然后再来一个人呢，又是再加一次，就是又一样了，又是跟在在场的人每一个人，就包括之前刚晚到那个人也一样，就只加一次就加完了。所以这个就是一个典型的，就是说怎么理解这个 kv cache 的它它这个后续每产生一个 token 的话，它的计算量就是比之前的那个，一开始的那个 N 平方的那个爆炸小很多的一个，很形象的一个理解。我想这个这是非常好的一个一个解释的方法。

这个我是想这么写一篇文章，我先起个头，先讲一讲我想怎么写，你然后再补充或者说再完善它。就是说是这样，就是说对于大模型 Transformer，很多人不理解它这个推理是怎么样一个架构，就是为什么推理比这个训练，这个讲的不好，删掉。就说很多人不太理解什么叫做 kv cache，就是缓存，这个机制它为什么一开始会需要那么多，为什么需要它吧？就就就说为什么需要它。是这么写的，就是说我描述一个场景，一群老同学组了一个饭局，很多年没遇见了，然后就是一起去一个饭店去吃饭，然后吃饭前大家就是很多年没联系了，就是要互相加微信。然后就是一开始的话，就一下子就是两两都加微信嘛，就说不组团就是两两都去加，那这个是多少个人呢？是按 N 乘以 N 减一除以 2，就是 C N 2。为什么呢？是因为总共有 N 个人，每个人都要跟其他人加，那就是除自己之外那就是 N 减一个，每个人都要跟其他 N 减一一个人加，但是加微信实际上是互相的，就是你加我跟我加你是重复了一遍，所以呢最后要再除以二，就是 N 乘以 N 减一再除以二，因为总共有 N 个人，每个人都要跟其他 N 减一个人，其他同学去加微信，但是这个加了一遍以后，这个是重复算了一遍，所以就是因为你你加他他加你是一样的，只能算一次，所以就除以二。这个就是第一次出现一个就是缓存就是 kv cache 这样，就第一次非常的忙，就是有 N 乘以 N 减一等于是 N 平方的这样级别，这个会很大。然后再下来有新的同学就给迟到了，他一进来他要也要跟所有同学都加微信，那这时候他怎么加呢？他只要跟其他在场的同学每个人都加一次，那就是比方说现在有 N 个同学，那新来一个那就加 N 次就完了。然后再来一个呢，他就跟当场的这 N 加一个同学也都加一次，就是 N 加一次，也完了。然后以此类推，就是后面每次产生一个新的 token 的话，实际上他只需要 N 的计算复杂度。而第一开始呢，为什么很多那个模型推理说一开始会比较出那个文字很很慢呢，原因就在这，就第一次的时候，这个上下文等于是包含了模型人就是用户跟问模型的问题啊，以及模型自己内部的一些我们称之为上下文，它的一些自己准备的材料啊，等等等等。然后这个第一次它要去做 N 乘以 N 减一除以 2 的这样一个加微信的动作，所以非常慢。然后随后就快了，就下面它在吐出每一个字，那只要就是相当于新加一个同学，每加一个只是前面的 N 个或者 N 加一个同学这样，就线性的。这我讲的还是比较啰嗦比较乱。你就把这个整个这个意思全部整理一下，写的就是说，就等于是把这个问题讲清楚，要普及，等于是科普，跟大家讲什么东西，然后它是什么问题，然后用这个形象来去比喻来描述，就比较容易懂。哎你来整理吧，我好像讲的也不好，你来写一下吧。