
ARGO
本地下载并运行Huggingface及Ollama模型,支持RAG、LLM API、工具接入等,支持Mac/Windows/Linux。
UI
获取 Sophnet 配置信息
API Key 创建
- 点击API Key -> 新的API Key
- 输入API Key名称,然后点击确认
- 保存生成的API Key 密钥
- 点击API Key -> 新的API Key
获取模型
- 以Qwen2.5-72B-Instruct 为例,首先确保已开启Qwen2.5-72B-Instruct模型服务。
- 点击详情,调用示例中参数model即为需要配置的模型名称
- 以Qwen2.5-72B-Instruct 为例,首先确保已开启Qwen2.5-72B-Instruct模型服务。
配置 Sophnet API
- 在ARGO中选择模型 -> 添加兼容OpenAI API的模型服务
- 在Api密钥文本框中输入你的Sophnet API Key
- 配置端点URL和模型详细信息:
- API 地址: https://www.sophnet.com/api/open-apis
- 新增模型: 填入在Sophnet官网中获取模型名称