Tabby 本地 AI 代码补全3 条命令跑通自托管 AI 编程助手【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabbyTabby 是一个自托管的 AI 编程助手把代码补全和问答能力搬到你自己的服务器上代码不用离开内网。如果你想要一套不依赖云端、可接入现有 IDE 的本地 AI 代码补全它就是为这类场景设计的。跑通篇从启动到看到界面最短路径是 Docker 一条命令。有 NVIDIA 显卡时按下文启动没有则把--gpus all和--device cuda去掉详见后文无 GPU 怎么办。docker run -d --name tabby --gpus all -p 8080:8080 -v $HOME/.tabby:/data \ registry.tabbyml.com/tabbyml/tabby \ serve --model StarCoder-1B --chat-model Qwen2-1.5B-Instruct --device cuda几个常用参数的作用、默认值、何时该改--model代码补全用的模型示例用 StarCoder-1B想在质量和响应速度之间权衡时换更大的模型。--chat-model聊天/问答用的模型示例用 Qwen2-1.5B-Instruct想让回答更懂代码时换 7B 级模型。--device推理设备cuda或cpu没有 GPU 就改成cpu。--parallelism并发请求数默认值以官方文档为准多人同时接入时调高。--inference-type推理后端llama-cpp、vllm 等上 7B 以上大模型或想用多卡时再改。启动后浏览器访问http://localhost:8080能打开注册页就说明服务起来了。第一个注册的账号会拿到 owner 角色之后用来邀请成员或改设置。详细启动选项推理类型、并发见 Docker 安装文档。编辑器接入Tabby 服务端跑起来后剩下的是把编辑器连上去。主流编辑器都走填 Endpoint 访问令牌这一步区别只在入口。IDE支持状态接入入口VS Code完全支持扩展市场搜 TabbyIntelliJ完全支持JetBrains 插件市场Vim / Neovim支持插件管理器安装 tabby.vimEclipse支持手动安装插件archive 导入其他编辑器支持通过 LSP agenttabby-agentEclipse 装完插件后从工作台图标启动会看到 Tabby 面板挂进编辑器侧栏以 VS Code 为例只需两处设置填入服务端给出的 Endpoint再填访问令牌在 Tabby 首页可复制。字段名以扩展设置页为准。{ tabby.endpoint: http://localhost:8080, tabby.token: 在 Tabby 首页复制的个人访问令牌 }设好后状态栏出现已连接图标光标停在代码里就会开始给补全。模型与资源匹配选模型别从想要多强的模型出发先从你手里的显存倒推。官方模型注册表给的硬件档位是1B–3B 模型至少配 T4、GTX 10/20 系显卡或 Apple Silicon7B–13B 模型建议 V100/A100、30/40 系显卡。完整清单和许可证以 模型注册表 为准。无 GPU 的机器能跑但要接受响应慢用--device cpu或改用 CPU 版 entrypoint具体镜像入口以官方文档为准。按硬件倒推的两组搭配档位你的硬件补全模型--model聊天模型--chat-model开箱即用8GB 显存 / 入门 GPUStarCoder-1BQwen2-1.5B-Instruct进阶12GB 显存 / 中高端 GPUStarCoder2-3B 或 DeepSeekCoder-6.7BQwen2.5-Coder-7B-Instruct模型显存需求的实际占用受推理后端和上下文长度影响落地前先用小模型验证再逐步放大。生产环境要做的 3 件事把 Tabby 从自己玩变成团队用重点在反向代理、认证、资源限制这三块别漏了 WebSocket。反向代理。Tabby 是 HTTP 服务套一层 Nginx 即可关键是 answer engine 走 WebSocket 流式输出代理必须放行 Upgrade 头否则聊天会卡住。location / { proxy_pass http://localhost:8080; proxy_set_header Host $host; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; }认证。默认第一个账号即 owner团队场景建议再开 SSO/LDAP官方支持 GitLab SSO、LDAP 等避免每个成员单独要令牌。相关配置见 反向代理与部署文档。资源与日志。给容器设 CPU/内存上限--parallelism按并发人数设日常用docker logs -f tabby看日志出现模型加载慢、请求排队时先来这里定位。场景实战让助手解释一段不熟悉的代码。在 IDE 侧栏打开聊天用提及目标文件或符号再提问这个函数在做什么。Tabby 会把被提及的代码连同本地仓库上下文一起送进问答模型回答里能给出函数位置和逻辑拆解而不是泛泛而谈。跨文件的仓库级补全。Tabby 不只是看当前文件它会把仓库里的相关代码比如本地 LSP 拿到的声明、最近改动的代码纳入上下文所以在 A 文件里引用 B 文件定义的函数时也能给出正确签名。补全默认最大输入 1536 字符、最大解码 64 token这两个值偏保守是给本地 GPU 和小模型留余量的调大前先看模型侧的上下文上限。排障速查现象最常见原因一条命令修复8080 打不开端口没映射对docker ps看实际端口模型一直卡住首次拉取模型未完成docker logs -f tabby看下载进度IDE 连上但不补全没设访问令牌扩展里点 Set Credentials 重填令牌CUDA 初始化报错没装 NVIDIA Container Toolkitnvidia-smi验证驱动内存吃满 / 变慢parallelism 过高调低--parallelism后重启容器收尾Tabby 的落地路径就是服务端跑起来 → 编辑器连上 → 按显存选模型 → 上代理和认证这四步走完就能给团队用。深入配置和更多 IDE 的接入细节直接查仓库内的 官方文档。【免费下载链接】tabbySelf-hosted AI coding assistant项目地址: https://gitcode.com/GitHub_Trending/tab/tabby创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考