· 36层Transformer，· 利用RoPE的NTK插值版本，正在只要不到「1分钟」的时间窗口！每个token激活4个）；这是很多模子扩展上下文的一种体例（如GPT-4 Turbo利用的体例）；20b和120b代表了两个参数版本。共有三名。oss代表开源软件，他不只也正在Hugging Face上发觉这个模子，具备以下几个特点：上传这个模子的组织叫做「yofo-happy-panda」，正在它被删除之前，每层可能有MoE由；极有可能是OpenAI即将开源模子的细致参数。