Dify

Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。

UI

img

获取 Sophnet 配置信息

  • API Key 创建

    1. 点击API Key -> 新的API Key img

    2. 输入API Key名称，然后点击确认 img

    3. 保存生成的API Key 密钥 img

  • 获取模型

    1. 以Qwen2.5-72B-Instruct 为例，首先确保已开启Qwen2.5-72B-Instruct模型服务。 img

    2. 点击详情,调用示例中参数model即为需要配置的模型名称 img

配置 Sophnet API

  • 在Dify中右上角点击用户名 -> 设置

img

  • 在模型供应商中安装支持OpenAI API的模型供应商 以安装 OpenAI-API-compatible 为例

img

  • 点击添加模型
    • 模型类型选择 LLM
    • 模型名称与模型显示名称填入在Sophnet官网中获取模型名称
    • 在API KEY文本框中输入你的Sophnet API Key
    • API endpoint URL文本框中填入https://www.sophnet.com/api/open-apis
    • 点击保存
    • 然后点击显示n个模型，查看已添加的模型状态

img

img

img