前言

官方文档明确写了，anything LLM是完全免费的，太适合我这种白嫖党了😀，而且可以使用开源模型，更爽了😀。

上篇文章简要的介绍了anything LLM，但是没有介绍实操，这篇文章就是介绍一下anything LLM怎么使用。anything LLM介绍-CSDN博客

创建知识库

安装教程这里就不赘述了，因为我也记不清了(*Φ皿Φ*)。我记得它是可以安装到D盘的。不过，你搜索教程时可能会看到需要先安装Ollama的步骤。我个人觉得单独安装Ollama会更好，但如果你觉得麻烦，也可以不单独装，因为anything LLM在安装过程中会询问你是否下载模型到本地，好像在这个过程中会顺带帮你安装Ollama（我当时就没有单独装Ollama）。不过，这个Ollama并不会写入环境变量，所以无法在任何位置直接调用它。如果希望在任何地方都能调用Ollama，就需要手动把它添加到环境变量中，但前提是你得先找到Ollama被安装在哪里😂，所以还是单独安装Ollama吧。当然，如果你不想在本地运行模型，也可以不安装，下面会介绍如何配置远程API。

配置本地模型

如果你像我一样直接无脑装了话，通过以下路径可以看到你安装的模型，然后这里也可以切换，如果切换的话会下载你选择的模型到本地。或者你可以从Hugging Face – The AI community building the future.上找自己想要的模型，可以看到这个页面有一个引入按钮支持使用你偏好的模型。

配置远程API

如果说电脑配置不够，空间不够也可以配置远程API。

直接点击这个

可以看到提供了很多选项，然后选择你的大模型提供商，填写API Key和模型就行。

如果是使用的中转站或者是公司统一搭建的中转接口，滑到最后一个，填写API Key和URL就行，不过这个中转接口必须满足openai规定的格式，不然你接上了也报错

退回到聊天页面，发送一句对话，如果能正确回答就是配置好了。

上传文档形成知识库

1、创建工作区

2、点击工作区旁边的设置按钮

3、点击代理配置，你可以在这里选择当前工作区agent（注意是anything LLM内置的agent）使用的模型

5、点击工作区的上传图标，打开上传对话框

6、选择你想要上传的知识文件

7、上传成功会在7区域出现，选择你想要移动到当前工作区的文件

8、移动到工作区

9、移动之后会出现在右侧

10、点击保存并嵌入

打开工作区的设置，打开向量数据库，查看是否生成了向量（这需要一定的时间），如果生成了向量，恭喜🎇🎇。

测试

首先需要设置聊天模式为查询，然后在对话的时候就会从知识库中找对应知识。

下面这个温度也可以设置一下，如果你懂的话，我不懂所以我没有设置，哈哈哈哈

然后开启一个thread对话，查看回答最后是否有标注来源，如果有来源，就说明知识库设置成功了，🎇🎇

待探索

1、视频，音频转录，在这个路径下可以对音频和视频进行转录，如果你安装anything LLM的时候安装了会议助理，直接用就行，不然得自己下载（让豆包来就行哈哈哈哈哈），不过这个转录模型只支持英文，我打算自己下载一个可以转录中文的模型，成功了再出文章哈哈哈哈哈，其实官方文档当中写了可以自己配置转录模型，但是不知道为啥我这里没有那个选项，我在这里贴一下链接吧，如果有成功的，麻烦分享一下咯。

AnythingLLM Default Transcription Model ~ AnythingLLM

2、打开设置可以看到，anything LLM还支持设置很多种模型。