@lobehub/chat 1.40.1 → 1.40.3

package/src/config/modelProviders/huggingface.ts

@@ -3,45 +3,45 @@ import { ModelProviderCard } from '@/types/llm';
 const HuggingFace: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 32_768,
       description: 'Mistral AI的指令调优模型',
       displayName: 'Mistral 7B Instruct v0.3',
       enabled: true,
       id: 'mistralai/Mistral-7B-Instruct-v0.3',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Google的轻量级指令调优模型',
       displayName: 'Gemma 2 2B Instruct',
       id: 'google/gemma-2-2b-it',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description: '阿里云通义千问团队开发的大型语言模型',
       displayName: 'Qwen 2.5 72B Instruct',
       id: 'Qwen/Qwen2.5-72B-Instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Qwen2.5-Coder 专注于代码编写',
       displayName: 'Qwen 2.5 Coder 32B Instruct',
       id: 'Qwen/Qwen2.5-Coder-32B-Instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Qwen QwQ 是由 Qwen 团队开发的实验研究模型，专注于提升AI推理能力。',
       displayName: 'QwQ 32B Preview',
       id: 'Qwen/QwQ-32B-Preview',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       displayName: 'Phi 3.5 mini instruct',
       id: 'microsoft/Phi-3.5-mini-instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 16_384,
       displayName: 'Hermes 3 Llama 3.1 8B',
       id: 'NousResearch/Hermes-3-Llama-3.1-8B',
-      tokens: 16_384,
     },
   ],
   checkModel: 'mistralai/Mistral-7B-Instruct-v0.2',

package/src/config/modelProviders/hunyuan.ts

@@ -4,7 +4,9 @@ import { ModelProviderCard } from '@/types/llm';
 const Hunyuan: ModelProviderCard = {
   chatModels: [
     {
-      description: '升级为 MOE 结构，上下文窗口为 256k ，在 NLP，代码，数学，行业等多项评测集上领先众多开源模型。',
+      contextWindowTokens: 256_000,
+      description:
+        '升级为 MOE 结构，上下文窗口为 256k ，在 NLP，代码，数学，行业等多项评测集上领先众多开源模型。',
       displayName: 'Hunyuan Lite',
       enabled: true,
       id: 'hunyuan-lite',
@@ -14,10 +16,11 @@ const Hunyuan: ModelProviderCard = {
         input: 0,
         output: 0,
       },
-      tokens: 256_000,
     },
     {
-      description: '采用更优的路由策略，同时缓解了负载均衡和专家趋同的问题。长文方面，大海捞针指标达到99.9%。MOE-32K 性价比相对更高，在平衡效果、价格的同时，可对实现对长文本输入的处理。',
+      contextWindowTokens: 32_000,
+      description:
+        '采用更优的路由策略，同时缓解了负载均衡和专家趋同的问题。长文方面，大海捞针指标达到99.9%。MOE-32K 性价比相对更高，在平衡效果、价格的同时，可对实现对长文本输入的处理。',
       displayName: 'Hunyuan Standard',
       enabled: true,
       id: 'hunyuan-standard',
@@ -27,10 +30,11 @@ const Hunyuan: ModelProviderCard = {
         input: 4.5,
         output: 5,
       },
-      tokens: 32_000,
     },
     {
-      description: '采用更优的路由策略，同时缓解了负载均衡和专家趋同的问题。长文方面，大海捞针指标达到99.9%。MOE-256K 在长度和效果上进一步突破，极大的扩展了可输入长度。',
+      contextWindowTokens: 256_000,
+      description:
+        '采用更优的路由策略，同时缓解了负载均衡和专家趋同的问题。长文方面，大海捞针指标达到99.9%。MOE-256K 在长度和效果上进一步突破，极大的扩展了可输入长度。',
       displayName: 'Hunyuan Standard 256K',
       enabled: true,
       id: 'hunyuan-standard-256K',
@@ -40,10 +44,11 @@ const Hunyuan: ModelProviderCard = {
         input: 15,
         output: 60,
       },
-      tokens: 256_000,
     },
     {
-      description: '混元全新一代大语言模型的预览版，采用全新的混合专家模型（MoE）结构，相比hunyuan-pro推理效率更快，效果表现更强。',
+      contextWindowTokens: 32_000,
+      description:
+        '混元全新一代大语言模型的预览版，采用全新的混合专家模型（MoE）结构，相比hunyuan-pro推理效率更快，效果表现更强。',
       displayName: 'Hunyuan Turbo',
       enabled: true,
       functionCall: true,
@@ -54,10 +59,11 @@ const Hunyuan: ModelProviderCard = {
         input: 15,
         output: 50,
       },
-      tokens: 32_000,
     },
     {
-      description: '万亿级参数规模 MOE-32K 长文模型。在各种 benchmark 上达到绝对领先的水平，复杂指令和推理，具备复杂数学能力，支持 functioncall，在多语言翻译、金融法律医疗等领域应用重点优化。',
+      contextWindowTokens: 32_000,
+      description:
+        '万亿级参数规模 MOE-32K 长文模型。在各种 benchmark 上达到绝对领先的水平，复杂指令和推理，具备复杂数学能力，支持 functioncall，在多语言翻译、金融法律医疗等领域应用重点优化。',
       displayName: 'Hunyuan Pro',
       enabled: true,
       functionCall: true,
@@ -68,9 +74,9 @@ const Hunyuan: ModelProviderCard = {
         input: 30,
         output: 100,
       },
-      tokens: 32_000,
     },
     {
+      contextWindowTokens: 8000,
       description: '混元最新多模态模型，支持图片+文本输入生成文本内容。',
       displayName: 'Hunyuan Vision',
       enabled: true,
@@ -81,11 +87,12 @@ const Hunyuan: ModelProviderCard = {
         input: 18,
         output: 18,
       },
-      tokens: 8000,
       vision: true,
     },
     {
-      description: '混元最新代码生成模型，经过 200B 高质量代码数据增训基座模型，迭代半年高质量 SFT 数据训练，上下文长窗口长度增大到 8K，五大语言代码生成自动评测指标上位居前列；五大语言10项考量各方面综合代码任务人工高质量评测上，性能处于第一梯队',
+      contextWindowTokens: 8000,
+      description:
+        '混元最新代码生成模型，经过 200B 高质量代码数据增训基座模型，迭代半年高质量 SFT 数据训练，上下文长窗口长度增大到 8K，五大语言代码生成自动评测指标上位居前列；五大语言10项考量各方面综合代码任务人工高质量评测上，性能处于第一梯队',
       displayName: 'Hunyuan Code',
       id: 'hunyuan-code',
       maxOutput: 4000,
@@ -94,10 +101,11 @@ const Hunyuan: ModelProviderCard = {
         input: 4,
         output: 8,
       },
-      tokens: 8000,
     },
     {
-      description: '混元最新 MOE 架构 FunctionCall 模型，经过高质量的 FunctionCall 数据训练，上下文窗口达 32K，在多个维度的评测指标上处于领先。',
+      contextWindowTokens: 32_000,
+      description:
+        '混元最新 MOE 架构 FunctionCall 模型，经过高质量的 FunctionCall 数据训练，上下文窗口达 32K，在多个维度的评测指标上处于领先。',
       displayName: 'Hunyuan FunctionCall',
       functionCall: true,
       id: 'hunyuan-functioncall',
@@ -107,10 +115,11 @@ const Hunyuan: ModelProviderCard = {
         input: 4,
         output: 8,
       },
-      tokens: 32_000,
     },
     {
-      description: '混元最新版角色扮演模型，混元官方精调训练推出的角色扮演模型，基于混元模型结合角色扮演场景数据集进行增训，在角色扮演场景具有更好的基础效果。',
+      contextWindowTokens: 8000,
+      description:
+        '混元最新版角色扮演模型，混元官方精调训练推出的角色扮演模型，基于混元模型结合角色扮演场景数据集进行增训，在角色扮演场景具有更好的基础效果。',
       displayName: 'Hunyuan Role',
       id: 'hunyuan-role',
       maxOutput: 4000,
@@ -119,7 +128,6 @@ const Hunyuan: ModelProviderCard = {
         input: 4,
         output: 8,
       },
-      tokens: 8000,
     },
   ],
   checkModel: 'hunyuan-lite',

package/src/config/modelProviders/internlm.ts

@@ -3,7 +3,9 @@ import { ModelProviderCard } from '@/types/llm';
 const InternLM: ModelProviderCard = {
   chatModels: [
     {
-      description: '我们最新的模型系列，有着卓越的推理性能，支持 1M 的上下文长度以及更强的指令跟随和工具调用能力。',
+      contextWindowTokens: 32_768,
+      description:
+        '我们最新的模型系列，有着卓越的推理性能，支持 1M 的上下文长度以及更强的指令跟随和工具调用能力。',
       displayName: 'InternLM2.5',
       enabled: true,
       functionCall: true,
@@ -13,9 +15,9 @@ const InternLM: ModelProviderCard = {
         input: 0,
         output: 0,
       },
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: '我们仍在维护的老版本模型，有 7B、20B 多种模型参数量可选。',
       displayName: 'InternLM2 Pro Chat',
       functionCall: true,
@@ -25,7 +27,6 @@ const InternLM: ModelProviderCard = {
         input: 0,
         output: 0,
       },
-      tokens: 32_768,
     },
   ],
   checkModel: 'internlm2.5-latest',
@@ -34,7 +35,8 @@ const InternLM: ModelProviderCard = {
   disableBrowserRequest: true,
   id: 'internlm',
   modelList: { showModelFetcher: true },
-  modelsUrl: 'https://internlm.intern-ai.org.cn/doc/docs/Models#%E8%8E%B7%E5%8F%96%E6%A8%A1%E5%9E%8B%E5%88%97%E8%A1%A8',
+  modelsUrl:
+    'https://internlm.intern-ai.org.cn/doc/docs/Models#%E8%8E%B7%E5%8F%96%E6%A8%A1%E5%9E%8B%E5%88%97%E8%A1%A8',
   name: 'InternLM',
   url: 'https://internlm.intern-ai.org.cn',
 };

package/src/config/modelProviders/minimax.ts

@@ -4,40 +4,40 @@ import { ModelProviderCard } from '@/types/llm';
 const Minimax: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 245_760,
       description: '适用于广泛的自然语言处理任务，包括文本生成、对话系统等。',
       displayName: 'abab6.5s',
       enabled: true,
       functionCall: true,
       id: 'abab6.5s-chat',
-      tokens: 245_760,
     },
     {
+      contextWindowTokens: 8192,
       description: '专为多语种人设对话设计，支持英文及其他多种语言的高质量对话生成。',
       displayName: 'abab6.5g',
       enabled: true,
       functionCall: true,
       id: 'abab6.5g-chat',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: '针对中文人设对话场景优化，提供流畅且符合中文表达习惯的对话生成能力。',
       displayName: 'abab6.5t',
       enabled: true,
       functionCall: true,
       id: 'abab6.5t-chat',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 16_384,
       description: '面向生产力场景，支持复杂任务处理和高效文本生成，适用于专业领域应用。',
       displayName: 'abab5.5',
       id: 'abab5.5-chat',
-      tokens: 16_384,
     },
     {
+      contextWindowTokens: 8192,
       description: '专为中文人设对话场景设计，提供高质量的中文对话生成能力，适用于多种应用场景。',
       displayName: 'abab5.5s',
       id: 'abab5.5s-chat',
-      tokens: 8192,
     },
   ],
   checkModel: 'abab6.5s-chat',

package/src/config/modelProviders/mistral.ts

@@ -5,6 +5,7 @@ import { ModelProviderCard } from '@/types/llm';
 const Mistral: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 128_000,
       description:
         'Mistral Nemo是一个与Nvidia合作开发的12B模型，提供出色的推理和编码性能，易于集成和替换。',
       displayName: 'Mistral Nemo',
@@ -15,9 +16,9 @@ const Mistral: ModelProviderCard = {
         input: 0.15,
         output: 0.15,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         'Mistral Small是成本效益高、快速且可靠的选项，适用于翻译、摘要和情感分析等用例。',
       displayName: 'Mistral Small',
@@ -28,9 +29,9 @@ const Mistral: ModelProviderCard = {
         input: 0.2,
         output: 0.6,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         'Mistral Large是旗舰大模型，擅长多语言任务、复杂推理和代码生成，是高端应用的理想选择。',
       displayName: 'Mistral Large',
@@ -41,9 +42,9 @@ const Mistral: ModelProviderCard = {
         input: 2,
         output: 6,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Codestral是专注于代码生成的尖端生成模型，优化了中间填充和代码补全任务。',
       displayName: 'Codestral',
       id: 'codestral-latest',
@@ -51,9 +52,9 @@ const Mistral: ModelProviderCard = {
         input: 0.2,
         output: 0.6,
       },
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         'Pixtral Large 是一款拥有 1240 亿参数的开源多模态模型，基于 Mistral Large 2 构建。这是我们多模态家族中的第二款模型，展现了前沿水平的图像理解能力。',
       displayName: 'Pixtral Large',
@@ -64,10 +65,10 @@ const Mistral: ModelProviderCard = {
         input: 2,
         output: 6,
       },
-      tokens: 128_000,
       vision: true,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         'Pixtral 模型在图表和图理解、文档问答、多模态推理和指令遵循等任务上表现出强大的能力，能够以自然分辨率和宽高比摄入图像，还能够在长达 128K 令牌的长上下文窗口中处理任意数量的图像。',
       displayName: 'Pixtral 12B',
@@ -77,32 +78,30 @@ const Mistral: ModelProviderCard = {
         input: 0.15,
         output: 0.15,
       },
-      tokens: 128_000,
       vision: true,
     },
     {
-      description:
-        'Ministral 3B 是Mistral的世界顶级边缘模型。',
+      contextWindowTokens: 128_000,
+      description: 'Ministral 3B 是Mistral的世界顶级边缘模型。',
       displayName: 'Ministral 3B',
       id: 'ministral-3b-latest',
       pricing: {
         input: 0.04,
         output: 0.04,
       },
-      tokens: 128_000,
     },
     {
-      description:
-        'Ministral 8B 是Mistral的性价比极高的边缘模型。',
+      contextWindowTokens: 128_000,
+      description: 'Ministral 8B 是Mistral的性价比极高的边缘模型。',
       displayName: 'Ministral 8B',
       id: 'ministral-8b-latest',
       pricing: {
         input: 0.1,
         output: 0.1,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Mistral 7B是一款紧凑但高性能的模型，擅长批量处理和简单任务，如分类和文本生成，具有良好的推理能力。',
       displayName: 'Mistral 7B',
@@ -111,9 +110,9 @@ const Mistral: ModelProviderCard = {
         input: 0.25,
         output: 0.25,
       },
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Mixtral 8x7B是一个稀疏专家模型，利用多个参数提高推理速度，适合处理多语言和代码生成任务。',
       displayName: 'Mixtral 8x7B',
@@ -122,9 +121,9 @@ const Mistral: ModelProviderCard = {
         input: 0.7,
         output: 0.7,
       },
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 65_536,
       description:
         'Mixtral 8x22B是一个更大的专家模型，专注于复杂任务，提供出色的推理能力和更高的吞吐量。',
       displayName: 'Mixtral 8x22B',
@@ -134,9 +133,9 @@ const Mistral: ModelProviderCard = {
         input: 2,
         output: 6,
       },
-      tokens: 65_536,
     },
     {
+      contextWindowTokens: 256_000,
       description:
         'Codestral Mamba是专注于代码生成的Mamba 2语言模型，为先进的代码和推理任务提供强力支持。',
       displayName: 'Codestral Mamba',
@@ -145,7 +144,6 @@ const Mistral: ModelProviderCard = {
         input: 0.15,
         output: 0.15,
       },
-      tokens: 256_000,
     },
   ],
   checkModel: 'ministral-3b-latest',

package/src/config/modelProviders/moonshot.ts

@@ -4,31 +4,31 @@ import { ModelProviderCard } from '@/types/llm';
 const Moonshot: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 8192,
       description:
         'Moonshot V1 8K 专为生成短文本任务设计，具有高效的处理性能，能够处理8,192个tokens，非常适合简短对话、速记和快速内容生成。',
       displayName: 'Moonshot V1 8K',
       enabled: true,
       functionCall: true,
       id: 'moonshot-v1-8k',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Moonshot V1 32K 提供中等长度的上下文处理能力，能够处理32,768个tokens，特别适合生成各种长文档和复杂对话，应用于内容创作、报告生成和对话系统等领域。',
       displayName: 'Moonshot V1 32K',
       enabled: true,
       functionCall: true,
       id: 'moonshot-v1-32k',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         'Moonshot V1 128K 是一款拥有超长上下文处理能力的模型，适用于生成超长文本，满足复杂的生成任务需求，能够处理多达128,000个tokens的内容，非常适合科研、学术和大型文档生成等应用场景。',
       displayName: 'Moonshot V1 128K',
       enabled: true,
       functionCall: true,
       id: 'moonshot-v1-128k',
-      tokens: 128_000,
     },
   ],
   checkModel: 'moonshot-v1-8k',

package/src/config/modelProviders/novita.ts

@@ -4,107 +4,107 @@ import { ModelProviderCard } from '@/types/llm';
 const Novita: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 8192,
       description:
         'Llama 3.1 8B Instruct 是 Meta 推出的最新版本，优化了高质量对话场景，表现优于许多领先的闭源模型。',
       displayName: 'Llama 3.1 8B Instruct',
       enabled: true,
       id: 'meta-llama/llama-3.1-8b-instruct',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 131_072,
       description:
         'Llama 3.1 70B Instruct 专为高质量对话而设计，在人类评估中表现突出，特别适合高交互场景。',
       displayName: 'Llama 3.1 70B Instruct',
       enabled: true,
       id: 'meta-llama/llama-3.1-70b-instruct',
-      tokens: 131_072,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Llama 3.1 405B Instruct 是 Meta最新推出的版本，优化用于生成高质量对话，超越了许多领导闭源模型。',
       displayName: 'Llama 3.1 405B Instruct',
       enabled: true,
       id: 'meta-llama/llama-3.1-405b-instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 8B Instruct 优化了高质量对话场景，性能优于许多闭源模型。',
       displayName: 'Llama 3 8B Instruct',
       id: 'meta-llama/llama-3-8b-instruct',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 70B Instruct 优化用于高质量对话场景，在各类人类评估中表现优异。',
       displayName: 'Llama 3 70B Instruct',
       id: 'meta-llama/llama-3-70b-instruct',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Gemma 2 9B 是谷歌的一款开源语言模型，以其在效率和性能方面设立了新的标准。',
       displayName: 'Gemma 2 9B',
       enabled: true,
       id: 'google/gemma-2-9b-it',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Mistral Nemo 是多语言支持和高性能编程的7.3B参数模型。',
       displayName: 'Mistral Nemo',
       enabled: true,
       id: 'mistralai/mistral-nemo',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Mistral 7B Instruct 是一款兼有速度优化和长上下文支持的高性能行业标准模型。',
       displayName: 'Mistral 7B Instruct',
       enabled: true,
       id: 'mistralai/mistral-7b-instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'WizardLM 2 7B 是微软AI最新的快速轻量化模型，性能接近于现有开源领导模型的10倍。',
       displayName: 'WizardLM 2 7B',
       enabled: true,
       id: 'microsoft/wizardlm 2-7b',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 65_535,
       description: 'WizardLM-2 8x22B 是微软AI最先进的Wizard模型，显示出极其竞争力的表现。',
       displayName: 'WizardLM-2 8x22B',
       enabled: true,
       id: 'microsoft/wizardlm-2-8x22b',
-      tokens: 65_535,
     },
     {
+      contextWindowTokens: 16_000,
       description: 'Dolphin Mixtral 8x22B 是一款为指令遵循、对话和编程设计的模型。',
       displayName: 'Dolphin Mixtral 8x22B',
       id: 'cognitivecomputations/dolphin-mixtral-8x22b',
-      tokens: 16_000,
     },
     {
+      contextWindowTokens: 8192,
       description:
         'Hermes 2 Pro Llama 3 8B 是 Nous Hermes 2的升级版本，包含最新的内部开发的数据集。',
       displayName: 'Hermes 2 Pro Llama 3 8B',
       id: 'nousresearch/hermes-2-pro-llama-3-8b',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Hermes 2 Mixtral 8x7B DPO 是一款高度灵活的多模型合并，旨在提供卓越的创造性体验。',
       displayName: 'Hermes 2 Mixtral 8x7B DPO',
       id: 'Nous-Hermes-2-Mixtral-8x7B-DPO',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 4096,
       description: 'MythoMax l2 13B 是一款合并了多个顶尖模型的创意与智能相结合的语言模型。',
       displayName: 'MythoMax l2 13B',
       id: 'gryphe/mythomax-l2-13b',
-      tokens: 4096,
     },
     {
+      contextWindowTokens: 4096,
       description: 'OpenChat 7B 是经过“C-RLFT（条件强化学习微调）”策略精调的开源语言模型库。',
       displayName: 'OpenChat 7B',
       id: 'openchat/openchat-7b',
-      tokens: 4096,
     },
   ],
   checkModel: 'meta-llama/llama-3.1-8b-instruct',