@lobehub/chat 1.40.1 → 1.40.3

package/src/config/modelProviders/spark.ts

@@ -5,6 +5,7 @@ import { ModelProviderCard } from '@/types/llm';
 const Spark: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 8192,
       description:
         'Spark Lite 是一款轻量级大语言模型，具备极低的延迟与高效的处理能力，完全免费开放，支持实时在线搜索功能。其快速响应的特性使其在低算力设备上的推理应用和模型微调中表现出色，为用户带来出色的成本效益和智能体验，尤其在知识问答、内容生成及搜索场景下表现不俗。',
       displayName: 'Spark Lite',
@@ -12,9 +13,9 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: 'lite',
       maxOutput: 4096,
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description:
         'Spark Pro 是一款为专业领域优化的高性能大语言模型，专注数学、编程、医疗、教育等多个领域，并支持联网搜索及内置天气、日期等插件。其优化后模型在复杂知识问答、语言理解及高层次文本创作中展现出色表现和高效性能，是适合专业应用场景的理想选择。',
       displayName: 'Spark Pro',
@@ -22,9 +23,9 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: 'generalv3',
       maxOutput: 8192,
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 131_072,
       description:
         'Spark Pro 128K 配置了特大上下文处理能力，能够处理多达128K的上下文信息，特别适合需通篇分析和长期逻辑关联处理的长文内容，可在复杂文本沟通中提供流畅一致的逻辑与多样的引用支持。',
       displayName: 'Spark Pro 128K',
@@ -32,9 +33,9 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: 'pro-128k',
       maxOutput: 4096,
-      tokens: 131_072,
     },
     {
+      contextWindowTokens: 8192,
       description:
         'Spark Max 为功能最为全面的版本，支持联网搜索及众多内置插件。其全面优化的核心能力以及系统角色设定和函数调用功能，使其在各种复杂应用场景中的表现极为优异和出色。',
       displayName: 'Spark Max',
@@ -42,9 +43,9 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: 'generalv3.5',
       maxOutput: 8192,
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Spark Max 32K 配置了大上下文处理能力，更强的上下文理解和逻辑推理能力，支持32K tokens的文本输入，适用于长文档阅读、私有知识问答等场景',
       displayName: 'Spark Max 32K',
@@ -52,9 +53,9 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: 'max-32k',
       maxOutput: 8192,
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 8192,
       description:
         'Spark Ultra 是星火大模型系列中最为强大的版本，在升级联网搜索链路同时，提升对文本内容的理解和总结能力。它是用于提升办公生产力和准确响应需求的全方位解决方案，是引领行业的智能产品。',
       displayName: 'Spark 4.0 Ultra',
@@ -62,7 +63,6 @@ const Spark: ModelProviderCard = {
       functionCall: false,
       id: '4.0Ultra',
       maxOutput: 8192,
-      tokens: 8192,
     },
   ],
   checkModel: 'lite',

package/src/config/modelProviders/stepfun.ts

@@ -5,6 +5,7 @@ import { ModelProviderCard } from '@/types/llm';
 const Stepfun: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 8000,
       description: '高速模型，适合实时对话。',
       displayName: 'Step 1 Flash',
       enabled: true,
@@ -15,9 +16,9 @@ const Stepfun: ModelProviderCard = {
         input: 1,
         output: 4,
       },
-      tokens: 8000,
     },
     {
+      contextWindowTokens: 8000,
       description: '小型模型，适合轻量级任务。',
       displayName: 'Step 1 8K',
       enabled: true,
@@ -28,9 +29,9 @@ const Stepfun: ModelProviderCard = {
         input: 5,
         output: 20,
       },
-      tokens: 8000,
     },
     {
+      contextWindowTokens: 32_000,
       description: '支持中等长度的对话，适用于多种应用场景。',
       displayName: 'Step 1 32K',
       enabled: true,
@@ -41,9 +42,9 @@ const Stepfun: ModelProviderCard = {
         input: 15,
         output: 70,
       },
-      tokens: 32_000,
     },
     {
+      contextWindowTokens: 128_000,
       description: '平衡性能与成本，适合一般场景。',
       displayName: 'Step 1 128K',
       enabled: true,
@@ -54,9 +55,9 @@ const Stepfun: ModelProviderCard = {
         input: 40,
         output: 200,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 256_000,
       description: '具备超长上下文处理能力，尤其适合长文档分析。',
       displayName: 'Step 1 256K',
       functionCall: true,
@@ -66,9 +67,9 @@ const Stepfun: ModelProviderCard = {
         input: 95,
         output: 300,
       },
-      tokens: 256_000,
     },
     {
+      contextWindowTokens: 16_000,
       description: '支持大规模上下文交互，适合复杂对话场景。',
       displayName: 'Step 2 16K',
       enabled: true,
@@ -79,9 +80,9 @@ const Stepfun: ModelProviderCard = {
         input: 38,
         output: 120,
       },
-      tokens: 16_000,
     },
     {
+      contextWindowTokens: 8000,
       description: '小型视觉模型，适合基本的图文任务。',
       displayName: 'Step 1V 8K',
       enabled: true,
@@ -92,10 +93,10 @@ const Stepfun: ModelProviderCard = {
         input: 5,
         output: 20,
       },
-      tokens: 8000,
       vision: true,
     },
     {
+      contextWindowTokens: 32_000,
       description: '支持视觉输入，增强多模态交互体验。',
       displayName: 'Step 1V 32K',
       enabled: true,
@@ -106,10 +107,10 @@ const Stepfun: ModelProviderCard = {
         input: 15,
         output: 70,
       },
-      tokens: 32_000,
       vision: true,
     },
     {
+      contextWindowTokens: 32_000,
       description: '该模型拥有强大的视频理解能力。',
       displayName: 'Step 1.5V Mini',
       enabled: true,
@@ -119,7 +120,6 @@ const Stepfun: ModelProviderCard = {
         input: 8,
         output: 35,
       },
-      tokens: 32_000,
       vision: true,
     },
   ],

package/src/config/modelProviders/taichu.ts

@@ -4,13 +4,12 @@ import { ModelProviderCard } from '@/types/llm';
 const Taichu: ModelProviderCard = {
   chatModels: [
     {
-      description:
-        'Taichu 2.0 基于海量高质数据训练，具有更强的文本理解、内容创作、对话问答等能力',
+      contextWindowTokens: 32_768,
+      description: 'Taichu 2.0 基于海量高质数据训练，具有更强的文本理解、内容创作、对话问答等能力',
       displayName: 'Taichu 2.0',
       enabled: true,
       functionCall: true,
       id: 'taichu_llm',
-      tokens: 32_768,
     },
     /*
     // TODO: Not support for now

package/src/config/modelProviders/togetherai.ts

@@ -5,267 +5,276 @@ import { ModelProviderCard } from '@/types/llm';
 const TogetherAI: ModelProviderCard = {
   chatModels: [
     {
-      description: 'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
+      contextWindowTokens: 131_072,
+      description:
+        'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
       displayName: 'Llama 3.2 3B Instruct Turbo',
       enabled: true,
       id: 'meta-llama/Llama-3.2-3B-Instruct-Turbo',
-      tokens: 131_072,
     },
     {
-      description: 'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
+      contextWindowTokens: 131_072,
+      description:
+        'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
       displayName: 'Llama 3.2 11B Vision Instruct Turbo (Free)',
       enabled: true,
       id: 'meta-llama/Llama-Vision-Free',
-      tokens: 131_072,
       vision: true,
     },
     {
-      description: 'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
+      contextWindowTokens: 131_072,
+      description:
+        'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
       displayName: 'Llama 3.2 11B Vision Instruct Turbo',
       id: 'meta-llama/Llama-3.2-11B-Vision-Instruct-Turbo',
-      tokens: 131_072,
       vision: true,
     },
     {
-      description: 'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
+      contextWindowTokens: 131_072,
+      description:
+        'LLaMA 3.2 旨在处理结合视觉和文本数据的任务。它在图像描述和视觉问答等任务中表现出色，跨越了语言生成和视觉推理之间的鸿沟。',
       displayName: 'Llama 3.2 90B Vision Instruct Turbo',
       enabled: true,
       id: 'meta-llama/Llama-3.2-90B-Vision-Instruct-Turbo',
-      tokens: 131_072,
       vision: true,
     },
     {
+      contextWindowTokens: 131_072,
       description:
         'Llama 3.1 8B 模型采用FP8量化，支持高达131,072个上下文标记，是开源模型中的佼佼者，适合复杂任务，表现优异于许多行业基准。',
       displayName: 'Llama 3.1 8B Instruct Turbo',
       enabled: true,
       functionCall: true,
       id: 'meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo',
-      tokens: 131_072,
     },
     {
+      contextWindowTokens: 131_072,
       description:
         'Llama 3.1 70B 模型经过精细调整，适用于高负载应用，量化至FP8提供更高效的计算能力和准确性，确保在复杂场景中的卓越表现。',
       displayName: 'Llama 3.1 70B Instruct Turbo',
       enabled: true,
       functionCall: true,
       id: 'meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo',
-      tokens: 131_072,
     },
     {
+      contextWindowTokens: 130_815,
       description:
         '405B 的 Llama 3.1 Turbo 模型，为大数据处理提供超大容量的上下文支持，在超大规模的人工智能应用中表现突出。',
       displayName: 'Llama 3.1 405B Instruct Turbo',
       enabled: true,
       functionCall: true,
       id: 'meta-llama/Meta-Llama-3.1-405B-Instruct-Turbo',
-      tokens: 130_815,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Llama 3.1 Nemotron 70B 是由 NVIDIA 定制的大型语言模型，旨在提高 LLM 生成的响应对用户查询的帮助程度。该模型在 Arena Hard、AlpacaEval 2 LC 和 GPT-4-Turbo MT-Bench 等基准测试中表现出色，截至 2024 年 10 月 1 日，在所有三个自动对齐基准测试中排名第一。该模型使用 RLHF（特别是 REINFORCE）、Llama-3.1-Nemotron-70B-Reward 和 HelpSteer2-Preference 提示在 Llama-3.1-70B-Instruct 模型基础上进行训练',
       displayName: 'Llama 3.1 Nemotron 70B',
       enabled: true,
       id: 'nvidia/Llama-3.1-Nemotron-70B-Instruct-HF',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 8B Instruct Turbo 是一款高效能的大语言模型，支持广泛的应用场景。',
       displayName: 'Llama 3 8B Instruct Turbo',
       id: 'meta-llama/Meta-Llama-3-8B-Instruct-Turbo',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description:
         'Llama 3 70B Instruct Turbo 提供卓越的语言理解和生成能力，适合最苛刻的计算任务。',
       displayName: 'Llama 3 70B Instruct Turbo',
       id: 'meta-llama/Meta-Llama-3-70B-Instruct-Turbo',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 8B Instruct Lite 适合资源受限的环境，提供出色的平衡性能。',
       displayName: 'Llama 3 8B Instruct Lite',
       id: 'meta-llama/Meta-Llama-3-8B-Instruct-Lite',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 70B Instruct Lite 适合需要高效能和低延迟的环境。',
       displayName: 'Llama 3 70B Instruct Lite',
       id: 'meta-llama/Meta-Llama-3-70B-Instruct-Lite',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 8B Instruct Reference 提供多语言支持，涵盖丰富的领域知识。',
       displayName: 'Llama 3 8B Instruct Reference',
       id: 'meta-llama/Llama-3-8b-chat-hf',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Llama 3 70B Instruct Reference 是功能强大的聊天模型，支持复杂的对话需求。',
       displayName: 'Llama 3 70B Instruct Reference',
       id: 'meta-llama/Llama-3-70b-chat-hf',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 4096,
       description: 'LLaMA-2 Chat (13B) 提供优秀的语言处理能力和出色的交互体验。',
       displayName: 'LLaMA-2 Chat (13B)',
       id: 'meta-llama/Llama-2-13b-chat-hf',
-      tokens: 4096,
     },
     {
+      contextWindowTokens: 4096,
       description: 'LLaMA-2 提供优秀的语言处理能力和出色的交互体验。',
       displayName: 'LLaMA-2 (70B)',
       id: 'meta-llama/Llama-2-70b-hf',
-      tokens: 4096,
     },
     {
-      description: 'Code Llama 是一款专注于代码生成和讨论的 LLM，结合广泛的编程语言支持，适用于开发者环境。',
+      contextWindowTokens: 16_384,
+      description:
+        'Code Llama 是一款专注于代码生成和讨论的 LLM，结合广泛的编程语言支持，适用于开发者环境。',
       displayName: 'CodeLlama 34B Instruct',
       id: 'codellama/CodeLlama-34b-Instruct-hf',
-      tokens: 16_384,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Gemma 2 9B 由Google开发，提供高效的指令响应和综合能力。',
       displayName: 'Gemma 2 9B',
       enabled: true,
       id: 'google/gemma-2-9b-it',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Gemma 2 27B 是一款通用大语言模型，具有优异的性能和广泛的应用场景。',
       displayName: 'Gemma 2 27B',
       enabled: true,
       id: 'google/gemma-2-27b-it',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Gemma Instruct (2B) 提供基本的指令处理能力，适合轻量级应用。',
       displayName: 'Gemma Instruct (2B)',
       id: 'google/gemma-2b-it',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Mistral (7B) Instruct v0.3 提供高效的计算能力和自然语言理解，适合广泛的应用。',
       displayName: 'Mistral (7B) Instruct v0.3',
       enabled: true,
       id: 'mistralai/Mistral-7B-Instruct-v0.3',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Mistral (7B) Instruct v0.2 提供改进的指令处理能力和更精确的结果。',
       displayName: 'Mistral (7B) Instruct v0.2',
       id: 'mistralai/Mistral-7B-Instruct-v0.2',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 8192,
       description: 'Mistral (7B) Instruct 以高性能著称，适用于多种语言任务。',
       displayName: 'Mistral (7B) Instruct',
       functionCall: true,
       id: 'mistralai/Mistral-7B-Instruct-v0.1',
-      tokens: 8192,
     },
     {
-      description: 'Mistral 7B是一款紧凑但高性能的模型，擅长批量处理和简单任务，如分类和文本生成，具有良好的推理能力。',
+      contextWindowTokens: 8192,
+      description:
+        'Mistral 7B是一款紧凑但高性能的模型，擅长批量处理和简单任务，如分类和文本生成，具有良好的推理能力。',
       displayName: 'Mistral (7B)',
       id: 'mistralai/Mistral-7B-v0.1',
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Mixtral-8x7B Instruct (46.7B) 提供高容量的计算框架，适合大规模数据处理。',
       displayName: 'Mixtral-8x7B Instruct (46.7B)',
       enabled: true,
       functionCall: true,
       id: 'mistralai/Mixtral-8x7B-Instruct-v0.1',
-      tokens: 32_768,
     },
     {
-      description: 'Mixtral 8x7B是一个稀疏专家模型，利用多个参数提高推理速度，适合处理多语言和代码生成任务。',
+      contextWindowTokens: 32_768,
+      description:
+        'Mixtral 8x7B是一个稀疏专家模型，利用多个参数提高推理速度，适合处理多语言和代码生成任务。',
       displayName: 'Mixtral-8x7B (46.7B)',
       id: 'mistralai/Mixtral-8x7B-v0.1',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 65_536,
       description: 'Mixtral-8x22B Instruct (141B) 是一款超级大语言模型，支持极高的处理需求。',
       displayName: 'Mixtral-8x22B Instruct (141B)',
       enabled: true,
       id: 'mistralai/Mixtral-8x22B-Instruct-v0.1',
-      tokens: 65_536,
     },
     {
-      description: 'WizardLM 2 是微软AI提供的语言模型，在复杂对话、多语言、推理和智能助手领域表现尤为出色。',
+      contextWindowTokens: 65_536,
+      description:
+        'WizardLM 2 是微软AI提供的语言模型，在复杂对话、多语言、推理和智能助手领域表现尤为出色。',
       displayName: 'WizardLM-2 8x22B',
       id: 'microsoft/WizardLM-2-8x22B',
-      tokens: 65_536,
     },
     {
+      contextWindowTokens: 4096,
       description: 'DeepSeek LLM Chat (67B) 是创新的 AI 模型 提供深度语言理解和互动能力。',
       displayName: 'DeepSeek LLM Chat (67B)',
       enabled: true,
       id: 'deepseek-ai/deepseek-llm-67b-chat',
-      tokens: 4096,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'QwQ模型是由 Qwen 团队开发的实验性研究模型，专注于增强 AI 推理能力。',
       displayName: 'QwQ 32B Preview',
       enabled: true,
       id: 'Qwen/QwQ-32B-Preview',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Qwen2.5 是全新的大型语言模型系列，旨在优化指令式任务的处理。',
       displayName: 'Qwen 2.5 7B Instruct Turbo',
       enabled: true,
       id: 'Qwen/Qwen2.5-7B-Instruct-Turbo',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Qwen2.5 是全新的大型语言模型系列，旨在优化指令式任务的处理。',
       displayName: 'Qwen 2.5 72B Instruct Turbo',
       enabled: true,
       id: 'Qwen/Qwen2.5-72B-Instruct-Turbo',
-      tokens: 32_768,
     },
     {
-      description: 'Qwen2.5 Coder 32B Instruct 是阿里云发布的代码特定大语言模型系列的最新版本。该模型在 Qwen2.5 的基础上，通过 5.5 万亿个 tokens 的训练，显著提升了代码生成、推理和修复能力。它不仅增强了编码能力，还保持了数学和通用能力的优势。模型为代码智能体等实际应用提供了更全面的基础',
+      contextWindowTokens: 32_768,
+      description:
+        'Qwen2.5 Coder 32B Instruct 是阿里云发布的代码特定大语言模型系列的最新版本。该模型在 Qwen2.5 的基础上，通过 5.5 万亿个 tokens 的训练，显著提升了代码生成、推理和修复能力。它不仅增强了编码能力，还保持了数学和通用能力的优势。模型为代码智能体等实际应用提供了更全面的基础',
       displayName: 'Qwen 2.5 Coder 32B Instruct',
       id: 'Qwen/Qwen2.5-Coder-32B-Instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Qwen 2 Instruct (72B) 为企业级应用提供精准的指令理解和响应。',
       displayName: 'Qwen 2 Instruct (72B)',
       id: 'Qwen/Qwen2-72B-Instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'DBRX Instruct 提供高可靠性的指令处理能力，支持多行业应用。',
       displayName: 'DBRX Instruct',
       id: 'databricks/dbrx-instruct',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 4096,
       description: 'Upstage SOLAR Instruct v1 (11B) 适用于精细化指令任务，提供出色的语言处理能力。',
       displayName: 'Upstage SOLAR Instruct v1 (11B)',
       id: 'upstage/SOLAR-10.7B-Instruct-v1.0',
-      tokens: 4096,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'Nous Hermes 2 - Mixtral 8x7B-DPO (46.7B) 是高精度的指令模型，适用于复杂计算。',
       displayName: 'Nous Hermes 2 - Mixtral 8x7B-DPO (46.7B)',
       id: 'NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 4096,
       description: 'MythoMax-L2 (13B) 是一种创新模型，适合多领域应用和复杂任务。',
       displayName: 'MythoMax-L2 (13B)',
       id: 'Gryphe/MythoMax-L2-13b',
-      tokens: 4096,
     },
     {
+      contextWindowTokens: 32_768,
       description: 'StripedHyena Nous (7B) 通过高效的策略和模型架构，提供增强的计算能力。',
       displayName: 'StripedHyena Nous (7B)',
       id: 'togethercomputer/StripedHyena-Nous-7B',
-      tokens: 32_768,
     },
   ],
   checkModel: 'meta-llama/Llama-Vision-Free',

package/src/config/modelProviders/upstage.ts

@@ -4,30 +4,30 @@ import { ModelProviderCard } from '@/types/llm';
 const Upstage: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 32_768,
       description:
         'Solar Mini 是一种紧凑型 LLM，性能优于 GPT-3.5，具备强大的多语言能力，支持英语和韩语，提供高效小巧的解决方案。',
       displayName: 'Solar Mini',
       enabled: true,
       functionCall: true,
       id: 'solar-1-mini-chat',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 32_768,
       description:
         'Solar Mini (Ja) 扩展了 Solar Mini 的能力，专注于日语，同时在英语和韩语的使用中保持高效和卓越性能。',
       displayName: 'Solar Mini (Ja)',
       functionCall: false,
       id: 'solar-1-mini-chat-ja',
-      tokens: 32_768,
     },
     {
+      contextWindowTokens: 4096,
       description:
         'Solar Pro 是 Upstage 推出的一款高智能LLM，专注于单GPU的指令跟随能力，IFEval得分80以上。目前支持英语，正式版本计划于2024年11月推出，将扩展语言支持和上下文长度。',
       displayName: 'Solar Pro',
       enabled: true,
       functionCall: false,
       id: 'solar-pro',
-      tokens: 4096,
     },
   ],
   checkModel: 'solar-1-mini-chat',

package/src/config/modelProviders/wenxin.ts

@@ -4,6 +4,7 @@ import { ModelProviderCard } from '@/types/llm';
 const BaiduWenxin: ModelProviderCard = {
   chatModels: [
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。',
       displayName: 'ERNIE 3.5 8K',
@@ -14,9 +15,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0.8,
         output: 2,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。',
       displayName: 'ERNIE 3.5 8K Preview',
@@ -26,9 +27,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0.8,
         output: 2,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         '百度自研的旗舰级大规模⼤语⾔模型，覆盖海量中英文语料，具有强大的通用能力，可满足绝大部分对话问答、创作生成、插件应用场景要求；支持自动对接百度搜索插件，保障问答信息时效。',
       displayName: 'ERNIE 3.5 128K',
@@ -39,9 +40,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0.8,
         output: 2,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。',
       displayName: 'ERNIE 4.0 8K',
@@ -52,9 +53,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 30,
         output: 90,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级超大规模⼤语⾔模型，相较ERNIE 3.5实现了模型能力全面升级，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。',
       displayName: 'ERNIE 4.0 8K Preview',
@@ -64,9 +65,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 30,
         output: 90,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级超大规模⼤语⾔模型，综合效果表现出色，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。相较于ERNIE 4.0在性能表现上更优秀',
       displayName: 'ERNIE 4.0 Turbo 8K',
@@ -77,9 +78,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 20,
         output: 60,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         '百度自研的旗舰级超大规模⼤语⾔模型，综合效果表现出色，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。相较于ERNIE 4.0在性能表现上更优秀',
       displayName: 'ERNIE 4.0 Turbo 128K',
@@ -90,9 +91,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 20,
         output: 60,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的旗舰级超大规模⼤语⾔模型，综合效果表现出色，广泛适用于各领域复杂任务场景；支持自动对接百度搜索插件，保障问答信息时效。相较于ERNIE 4.0在性能表现上更优秀',
       displayName: 'ERNIE 4.0 Turbo 8K Preview',
@@ -102,9 +103,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 20,
         output: 60,
       },
-      tokens: 8192,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         '百度自研的轻量级大语言模型，兼顾优异的模型效果与推理性能，效果比ERNIE Lite更优，适合低算力AI加速卡推理使用。',
       displayName: 'ERNIE Lite Pro 128K',
@@ -115,9 +116,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0.2,
         output: 0.4,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         '百度2024年最新发布的自研高性能大语言模型，通用能力优异，效果比ERNIE Speed更优，适合作为基座模型进行精调，更好地处理特定场景问题，同时具备极佳的推理性能。',
       displayName: 'ERNIE Speed Pro 128K',
@@ -128,9 +129,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0.3,
         output: 0.6,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 128_000,
       description:
         '百度2024年最新发布的自研高性能大语言模型，通用能力优异，适合作为基座模型进行精调，更好地处理特定场景问题，同时具备极佳的推理性能。',
       displayName: 'ERNIE Speed 128K',
@@ -140,9 +141,9 @@ const BaiduWenxin: ModelProviderCard = {
         input: 0,
         output: 0,
       },
-      tokens: 128_000,
     },
     {
+      contextWindowTokens: 8192,
       description:
         '百度自研的垂直场景大语言模型，适合游戏NPC、客服对话、对话角色扮演等应用场景，人设风格更为鲜明、一致，指令遵循能力更强，推理性能更优。',
       displayName: 'ERNIE Character 8K',
@@ -152,7 +153,6 @@ const BaiduWenxin: ModelProviderCard = {
         input: 4,
         output: 8,
       },
-      tokens: 8192,
     },
   ],
   checkModel: 'ERNIE-Speed-128K',