TGAI
从训练到部署，全端开源 AI 生态
TGAI 是一套从零手搓的 AI 全家桶：PyTorch 原生大模型训练框架、跨平台 C/C++ 推理引擎（从 ESP32 单片机到 CUDA GPU）、
手机端离线 AI 助手、桌面级 AI Agent。数据进去，模型出来，部署一条龙。
PyTorch 原生大语言模型训练框架。桌面 GUI 点点点就能训，云端 CLI 一行命令也能训。MoE 混合专家架构、LoRA 微调、断点续训、一键导出 .TG 部署。
GitHub纯 C/C++ 跨平台 LLM 推理引擎，零外部依赖。同一个引擎从 ESP32 单片机（8MB PSRAM）跑到 CUDA GPU 服务器。支持 FP32/FP16/Q8_0/Q4_0 量化与多模态（文生图/音频）。
GitHub本地端侧 AI 对话助手，基于 Flutter + PyTorch Mobile，在 Android 手机/平板本地运行 TGAI 模型（.ptl 格式），无需联网。会话管理、参数调节、多设备自适应界面。
GitHub桌面级 AI 助手/同事/管家。文件操作、浏览器自动化、IoT 智能家居控制、QQ 机器人、70+ 工具，三重记忆体系，双模型引擎，真正"动手干活"的 AI Agent。
GitHub