Skip to content

主流大模型配置

概述

当前市场上有多个主流大模型,包括DeepSeek、ChatGPT、Claude、Gemini、通义千问、文心一言和Moonshoot等。尽管这些大模型的API接口在参数设计上有许多相似之处,但也存在一些差异。如果我们逐一对接每一个大模型,工作量将会非常庞大。然而,通过对接OneAPI,我们可以实现一次对接即可访问所有大模型的目标,大大简化了集成过程并提升了工作效率。

配置AI模型

织信平台通过团队配置AI模型

INFO

需要用户有团队管理权限

add-ai-1.pngadd-ai-2.png

主流模型推荐

模型名称提供商特点最大TokenAPI文档
GPT-4-turboOpenAI性价比最高,功能全面128KOpenAI API
Claude 3 OpusAnthropic代码能力最强,准确性高200KAnthropic API
Gemini 1.5 ProGoogle多模态能力强,上下文长1MGoogle AI Studio

OpenAI 系列

GPT-4-turbo
  • 特点: 旗舰模型,成本效益优,支持function calling
  • 最大Token: 128K
  • API文档: OpenAI API Reference
GPT-4
  • 特点: 稳定可靠,function calling支持完善
  • 最大Token: 8K
  • API文档: OpenAI API
GPT-3.5-turbo
  • 特点: 性价比高,响应速度快
  • 最大Token: 16K
  • API文档: OpenAI API

Anthropic Claude 系列

Claude Opus
  • 特点: 最强推理能力,准确性极高
  • 最大Token: 200K
  • API文档: Anthropic API Docs
Claude Sonnet
  • 特点: 平衡性能与成本,企业级应用
  • 最大Token: 200K
  • API文档: Anthropic API
Claude Haiku
  • 特点: 速度最快,成本最低
  • 最大Token: 200K
  • API文档: Anthropic API

国内主流模型

文心一言 4.0
  • 特点: 中文优化最好,本土化服务
  • 最大Token: 128K
  • API文档: 百度千帆
通义千问 Max
  • 特点: 多语言支持好,代码能力强
  • 最大Token: 128K
  • API文档: 阿里云百炼
DeepSeek-V2
  • 特点: 中文开源优秀,性价比高
  • 最大Token: 128K
  • 文档: DeepSeek

OneAPI

官网地址:https://github.com/songquanpeng/one-api

OneAPI支持私有化部署,部署到本地后,访问 http://localhost:3000/ 即可访问,详细信息见官网资料。

one-api

对接阿里通义千问大模型

阿里云开通模型服务灵积

OneAPI配置阿里云通义千问

  • 添加新的渠道 qwen

  • 添加新的令牌 qwen

TIP

选择你渠道里设置好的的模型范围

织信AI助手配置

  • 创建应用模块-AI助手
  • 在模型配置里,配置如下 qwen

TIP

  • 模型提供方:选择OpenAI
  • 语言模型:选择上一步OneAPI里渠道配置的模型
  • API Key:选择上一步OneAPI里添加的令牌,点击复制按钮
  • API地址:输入OneAPI的访问地址 如:https://oneapi.example.cn/v1/chat/completions