Transformer 技术笔记:以 Gemma 2 27B 为例
Published:
以 Gemma 2 27B 的真实参数为主线,从 KV cache、注意力和 FFN 一路讲到信息论、对齐训练和评测统计。
Published:
以 Gemma 2 27B 的真实参数为主线,从 KV cache、注意力和 FFN 一路讲到信息论、对齐训练和评测统计。
Published:
以 Gemma 2 27B 的真实参数为主线,从 KV cache、注意力和 FFN 一路讲到信息论、对齐训练和评测统计。