Transformer 技术笔记：以 Gemma 2 27B 为例
Published:
以 Gemma 2 27B 的真实参数为主线，从 KV cache、注意力和 FFN 一路讲到信息论、对齐训练和评测统计。
Weigang He
PhD Candidate at UTS. Fuzzing, software testing, static analysis, and AI safety.
Published:
以 Gemma 2 27B 的真实参数为主线，从 KV cache、注意力和 FFN 一路讲到信息论、对齐训练和评测统计。