ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

Groq 接入 MemGPT 报 No API key provided 和 NotImplementedError?两个独立原因,两条修复路径

Groq 接入 MemGPT 报 No API key provided 和 NotImplementedError?两个独立原因,两条修复路径 Groq 接入 MemGPT 报 No API key provided 和 NotImplementedError两个独立原因两条修复路径【免费下载链接】MemGPTPlatform for stateful agents: AI with advanced memory that can learn and self-improve over time.项目地址: https://gitcode.com/GitHub_Trending/me/MemGPT在 MemGPT 里配置 Groq 模型接入时你可能会看到No API key provided. Please set the GROQ_API_KEY跑流式请求时则抛NotImplementedError: Streaming not supported for Groq.。本文对照源码说明这两个报错各自卡在哪、怎么修并给出验证命令和端到端确认方法。这个报错背后的两个独立问题No API key provided是认证失败客户端初始化时拿不到任何 API 密钥请求在发出前就被 OpenAI SDK 拦截。NotImplementedError是功能缺口Groq 客户端的流式方法只有一行抛异常任何走流式路径的调用都会失败。两者独立但都有因果认证不过任何请求都发不出去但即使密钥配置正确只要调用链路启用了流式输出依然会撞上第二个错误。密钥读取逻辑在letta/llm_api/groq_client.py的request()方法里api_key model_settings.groq_api_key or os.environ.get(GROQ_API_KEY)密钥配置的正确姿势附验证命令这个错的出现原因只有一个上面两个来源都为空——letta/settings.py里的groq_api_key没填环境变量也没设。环境变量是最低成本的入口export GROQ_API_KEYgsk_你的真实密钥 echo $GROQ_API_KEYecho $GROQ_API_KEY打印出完整密钥串即说明当前 shell 已生效若要在重启后仍然有效把 export 行追加到~/.bashrc。⚠️ Groq 控制台的密钥只在生成时完整显示一次丢了只能重新创建。流式输出为什么不能直接用以及绕过方案限制写死在源码里letta/llm_api/groq_client.py第 108 行raise NotImplementedError(Streaming not supported for Groq.)这是设计限制而不是 bugMemGPT 对 Groq 只实现了 OpenAI 兼容的非流式调用路径流式方法是有意留空。绕过方案很简单在LLMConfig模型配置对象里显式关闭流式llm_config.stream False建议关注项目的 release notes后续版本可能补上这条限制。端到端验证从初始化到拿到响应from letta.llm_api.groq_client import GroqClient from letta.schemas.llm_config import LLMConfig config LLMConfig(modelllama3-70b-8192, model_endpointhttps://api.groq.com/openai/v1) client GroqClient() messages [{role: user, content: 一句话介绍 MemGPT}] resp client.request(request_dataclient.build_request_data(None, messages, config), llm_configconfig) print(resp[choices][0][message][content])预期输出是一段模型生成的中文回复。如果打印出来的不是回复而是 400 报错先检查model_endpoint模型服务的 API 地址与所选模型是否匹配——Groq 的默认端点是https://api.groq.com/openai/v1。模型选择与超时设置2 条实用建议按上下文需求选模型llama3-70b-8192适合大上下文长文本llama3-8b-8192速度更快。给客户端设超时避免网络波动时请求无限挂起OpenAI(api_key..., base_url..., timeout30.0)。修 Groq 接入其实就两件事配好GROQ_API_KEY关掉流式。其他 provider 遇到类似问题方法同理去letta/llm_api/下找对应的 client 文件看它的密钥读取方式和stream_async实现即可。【免费下载链接】MemGPTPlatform for stateful agents: AI with advanced memory that can learn and self-improve over time.项目地址: https://gitcode.com/GitHub_Trending/me/MemGPT创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进