LLM 在生成 long CoT 方面展现出惊人的能力，例如 o1 已能生成长度高达 100K tokens 的序列。然而，这也给 KV cache 的存储带来了严峻挑战。为应对这一难题，“hybrid model” ...

AMD这几年可以说是顺风顺水，特别是CPU已经比Intel强了不少，例如AMD目前大力推崇的APU同样如此，在GPU性能上，最强的处理器已经可以跟中端显卡不相上下，目前有消息称AMD已经开始在研发下一代GPU，在性能上将会有比较大的提升。