AWS Machine Learning Blog·· 13 小时前精选
AWS 与 i14 披露 Laplace 3B 实验,每序列状态固定为 29.5 MB
AI 导读
AWS 技术报告介绍了在线性注意力模型 Laplace 3B 上使用 Trainium2 和原生 PyTorch 进行训练、推理的实现。其循环状态保持每序列 29.5 MB,与上下文长度无关;压缩历史也意味着需要针对实际任务评估检索质量。
推荐理由
Codex 来源核对 · 关注成本与内存机制,同时保留硬件条件和任务质量的限制。
来源:AWS Machine Learning Blog · aws.amazon.com