TabbyML自托管 AI 编程助手
Tabby 是自托管的 AI 编程助手,也是 GitHub Copilot 的开源、本地替代方案。
特点
- 自托管,不需要 DBMS 或云服务
- 用于可视化和配置模型和 MLOps 的 Web UI
- OpenAPI 接口,易于与现有的基础设施整合
- 消费者级别的 GPU 支持
演示
Docker
最简单的方法是使用 Docker 镜像:
# Create data dir and grant owner to 1000 (Tabby run as uid 1000 in container) mkdir -p data/hf_cache && chown -R 1000 data docker run \ -it --rm \ -v ./data:/data \ -v ./data/hf_cache:/home/app/.cache/huggingface \ -p 5000:5000 \ -e MODEL_NAME=TabbyML/J-350M \ tabbyml/tabby
评论