grok-1_xai-org

grok-1

本项目提供基于JAX的示例代码，用于加载、配置与运行开源大模型Grok-1。该模型为3140亿参数规模，采用混合专家（MoE）架构，支持RoPE位置编码、激活值分片及8位量化，最大上下文长度为8192个token。项目包含完整的权重下载指引、依赖安装说明及一键测试推理脚本，代码与模型均遵循Apache 2.0开源协议。