Skip to content

自定义服务商

Alma 支持任何 OpenAI 兼容的 API,允许你使用本地模型、代理或其他服务。

设置

  1. 在 Alma 中,前往 设置服务商添加服务商
  2. 选择 自定义 作为服务商类型
  3. 配置你的设置:
    • 名称:显示名称
    • Base URL:你的 API 端点
    • API Key:认证密钥(如果需要)
  4. 点击 保存
  5. 手动添加你的模型 ID

兼容的服务

本地模型

Ollama

Base URL: http://localhost:11434/v1

模型:llama3、mistral、codellama 等

LM Studio

Base URL: http://localhost:1234/v1

模型:任何已加载的模型

LocalAI

Base URL: http://localhost:8080/v1

模型:各种开源模型

云服务

Together AI

Base URL: https://api.together.xyz/v1

模型:Llama、Mistral 等

Groq

Base URL: https://api.groq.com/openai/v1

模型:超快速的 Llama 和 Mixtral

Perplexity

Base URL: https://api.perplexity.ai

模型:带网页搜索的 Sonar 模型

代理服务

许多代理服务提供 OpenAI 兼容的端点:

  • 自定义企业代理
  • 限速代理
  • 缓存代理

添加模型

对于自定义服务商,你需要手动添加模型 ID:

  1. 进入服务商设置
  2. 点击 添加模型
  3. 输入确切的模型 ID
  4. 模型将出现在你的模型选择器中

配置技巧

API 密钥格式

某些服务使用不同的认证方式:

  • Bearer tokens:标准格式
  • 无认证:API 密钥留空
  • 自定义 headers:可能不支持

端点格式

确保你的 Base URL:

  • 包含协议(http/https)
  • 不包含尾部斜杠
  • 指向 v1 端点

故障排除

"Connection Refused"(连接被拒绝)

  • 检查服务是否正在运行
  • 验证端口号
  • 检查防火墙设置

"Model Not Found"(找不到模型)

  • 验证确切的模型 ID
  • 检查模型是否已加载(本地服务)

"Authentication Failed"(认证失败)

  • 检查 API 密钥格式
  • 某些本地服务不需要密钥