ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

断网也能写代码:Continue 本地 LLM 实战

断网也能写代码:Continue 本地 LLM 实战 断网也能写代码Continue 本地 LLM 实战【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue高铁上赶稿、地下室弱网、公司内网压根出不了外网——这些场景里云端 AI 助手基本集体罢工。Continue 支持接入本地 LLM跑在你自己机器上的大模型断网照样补全代码、对话改 bug。按下面步骤走一遍几分钟就能搭出一套离线编码环境。3 分钟跑起来装 Ollama本地模型运行器负责加载模型并在本机开一个 APIbrew install ollama # macOSLinux/Windows 用对应安装方式起服务并验证ollama serve curl http://localhost:11434拉一个 7B 起步的模型ollama pull codellama:7b在项目的.continue/config.yaml里声明这个模型models: - name: codellama-7b provider: ollama model: codellama:7b apiBase: http://localhost:114345. 重启 IDE。✅ 之后每次补全、聊天都只走 localhost流量不出机器。它到底怎么工作的离线请求的完整链路你在 IDE 触发补全或聊天Continue 先读config.yaml配置层根据 provider 字段判定走本地 Ollama而不是云端请求发到localhost:11434全程不经过公网本地模型推理结果以流式逐块返回IDE 实时渲染文本断网也不影响核心模块一眼定位core/config/ConfigHandler.ts加载并校验配置决定 IDE 用哪个模型core/llm/llms/Ollama.ts与 Ollama 对话的实现默认 apiBase 就是http://localhost:11434/core/llm/index.ts定义 BaseLLM 统一接口所有 provider 都继承它模型怎么选看内存选别贪大模型体积最低内存擅长场景codellama-7b3.8GB8GB基础代码补全与解释deepseek-coder-7b4.1GB8GB多语言代码生成llama3-8b4.7GB16GB通用代码与文本codellama-13b7.3GB16GB较复杂的代码生成ollama pull deepseek-coder:7b ollama pull llama3:8b切换模型不用重开 IDE聊天框顶部有模型下拉框已下载的模型随手切。调优与进阶缓存管理模型全存本地磁盘用久了会攒一堆。定期清ollama list # 查看已装模型 ollama rm codellama:13b # 删掉不用的推理参数调整要快就砍上下文要稳就降温。写在模型项下即可completionOptions: maxTokens: 2048 temperature: 0.2资源占用监控本地模型吃内存吃显卡跑之前先确认机器扛得住ollama ps # 看当前加载了哪些模型、各占多少内存踩坑速查症状请求一直转圈模型加载不出来原因Ollama 服务没启动或端口被改 解法跑ollama serve再重启 IDE 诊断curl http://localhost:11434症状补全特别慢一个字一个字往外蹦原因模型太大或上下文太长任务全挤在 CPU 上 解法换 7B 档模型调小maxTokens诊断ollama ps症状配置保存后报错、模型不存在原因model字段必须和 Ollama 里的 tag 一字不差 解法按ollama list的输出原样抄 诊断ollama list更完整的排查步骤见官方文档docs/troubleshooting.mdx断网了代码不停。项目 README默认配置源文件Ollama 提供程序实现【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进