从百万到1亿Token，Manta把AI上下文容量提高100倍

contact@theblockbeats.org (律动BlockBeats)

动察 Beating AI 快讯，德国 AI 实验室 Empero 发布了一个叫 Manta 的模型，号称一次能读入 1 亿 Token，是目前常见的百万 Token 上下文模型的 100 倍。

Empero 把标普 500 公司共 1269 份年报和季报，一口气塞进 Manta，足足 8800 万 Token。然后在这些文件里藏了 20 个暗号，让模型逐个找出来。结果找对了 18 个。团队又试了一次，在约 1000 万 Token 中藏入 50 个非常相似的暗号，Manta 找对了 43 个。

Empero 还拿真实的 AI 编程记录做了测试。这段记录有 31,450 条消息、740 万 Token，原来的编程智能体因为上下文不够，前后压缩了 13 次历史记录。Manta 则一次读完，在 5 个不同位置尝试接着写下一步操作。

早在 2024 年，Magic 就发布过支持 1 亿 Token 的 LTM-2-mini，并声称通过新架构大幅降低了显存和计算开销。但 Magic 后来承认，模型扩大训练规模时遇到了不少问题。两年过去，这款模型仍未公开供外界独立测试。

Manta 目前也没有披露具体架构、处理速度和使用成本，尚不清楚它是如何把上下文做到 1 亿 Token 的，更不知道这套方法能否在更大、更强的模型上稳定运行。

目前 Manta 只开放少量早期试用名额，试用者未经许可不能公开分享提示词、输出和测试数据。