TGAI V1 · 0.86B MoE(4专家/2激活)FP16 模型
TGAI V2 · 3B MoE(8专家/2激活)FP16 模型,更强的语言与推理能力
MoE 3B · 8专家/2激活 · FP16 · 4096 上下文。魔搭社区发布,Ollama 可直接运行。
V2 3B 基座经 1 万条数据 SFT 微调后的完整模型权重(模型本体),可直接加载 / 续训 / 导出
SFT 全量训练 checkpoint,可直接续训或导出 .TG 部署
TGAI BPE 分词器(32768 词表),训练与推理通用
免安装,双击即用。CPU/GPU 双后端:有 NVIDIA 显卡时可在客户端一键启用 GPU 加速(自动装配工具链并编译,无需手动装环境,完成后自动清理),无显卡自动走 CPU。支持流式输出、参数调节、上下文扩展。模型文件需单独下载(见上方 .TG 模型区)。
纯 C/C++ 跨平台 LLM 推理引擎,零外部依赖,从 ESP32 到 CUDA GPU。FP32/FP16/Q8_0/Q4_0 量化 + 多模态。
PyTorch 原生大模型训练框架,桌面 GUI 一键训练,断点续训、LoRA、导出 .TG 一条龙。
sha256sum 文件名