欢迎来到实战项目专栏 ~~ 从零实现AI大模型接入SDK博客主页张小姐的猫~江湖背景所属专栏C项目 ~ AI大模型接入SDK作者水平很有限如果发现错误可在评论区指正感谢AI大模型接入SDK欢迎来到实战项目专栏 ~~ 从零实现AI大模型接入SDK云端接入api和本地部署的区别API介绍和获取apifox进行测试写在最后云端接入api和本地部署的区别API介绍和获取APIKey是是⼀种用于身份验证和授权的密钥本质就是⼀个通过特定算法生成的字符串主要用于身份验证验证你的应⽤程序是否被授权只有拥有APIKey的用户才能调用大模型的API授权限制应用程序对特定功能或资源的访问权限。比如某些高级功能需要特定APIKey才能访问监控和限制监控API的使用情况比如统计请求次数、限制请求频率以防滥用计费根据API的使⽤情况向用户收取费用apifox进行测试大模型需要强大的算法支持训练一个大模型的成本太高动辄几万甚至上百万而且中间技术门槛也比较高普通用户本地部署成本很高。为了降低大家的使用门槛各大模型厂商都开放了基于HTTP协议的大模型的API接口不仅可以让企业或个人方便快速集成大模型能力专注业务开发构建自己个性化的服务也能吸引大量开发者参与开发出各种应用服务还能凑近整个生态的繁荣。下⾯以DeepSeek为例下⾯是官方提供的使用curl工具给deepseek-chat模型发送消息的示例curl https://api.deepseek.com/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer DeepSeek API Key \ -d {model:deepseek-chat,messages:[{role:system,content:You are a helpful assistant.},{role:user,content:Hello!}],stream:false}接下来使用apifox工具给DeepSeek的deepseek-chat发送聊天消息Baseurlhttps://api.deepseek.com接下来介绍一下【角色 - role】为模型提供当前文本的角色信息帮助模型更好的理解上下文并生成合适的响应。在大多数模型中角色一般有三种user表示当前文本是用户输入的内容assistant表示当前文本是模型自身输出的内容system设置AI助手的身份大模型将会以该身份回复用户问题tool实现工具调用(之前称作函数调用)大模型需要调用外部工具更好回答用户问题tool消息用来将工具执行结果返回给模型让模型基于该结果生成最终回复。请求头设置官方给的参考格式里的请求头curl https://api.deepseek.com/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer ${DEEPSEEK_API_KEY} \接口定义完成之后配置测试环境把我们的apikey填写到测试环境的环境变量里面测试环境配置好之后选择测试环境点击发送按钮apifox会将请求发送给DeepSeek的服务器并将相应输出从该实例可以看出在自己的应用程序中接入大模型方式非常简单查看大模型官方提供的API接口在程序中调用接口给大模型发送请求并响应即可写在最后接下来登场的是 日志类 和 模型Provider