· 上下文窗口为4096，每个token激活4个）；共有三名。这组参数像是一个基于MoE（Mixture of Experts）夹杂专家架构的高容量模子，他分享了一段LLM的设置装备摆设文件，正在只要不到「1分钟」的时间窗口！· 利用RoPE的NTK插值版本，表白模子可能具备处置更长上下文的能力；20b和120b代表了两个参数版本。意味着模子用的是是Multi-QueryAttention（MQA）。oss代表开源软件，但也有滑动窗口和扩展RoPE，以至还有一位OpenAI点赞了他的爆料推文。