@lobehub/chat 0.136.0 → 0.138.0

package/locales/tr-TR/setting.json

@@ -99,6 +99,14 @@
         "title": "API Anahtarı"
       }
     },
+    "Groq": {
+      "title": "Groq",
+      "token": {
+        "desc": "Groq'dan alınan API Anahtarını girin",
+        "placeholder": "Groq API Anahtarı",
+        "title": "API Anahtarı"
+      }
+    },
     "Mistral": {
       "title": "Mistral AI",
       "token": {
@@ -193,6 +201,14 @@
     },
     "waitingForMore": "Daha fazla model eklenmesi planlanıyor ✨"
   },
+  "ollama": {
+    "download": {
+      "desc": "Ollama bu modeli indiriyor, lütfen bu sayfayı kapatmamaya çalışın. Yeniden indirme durumunda kaldığı yerden devam edecektir.",
+      "remainingTime": "Kalan Zaman",
+      "speed": "İndirme Hızı",
+      "title": "{{model}} Modeli İndiriliyor"
+    }
+  },
   "plugin": {
     "addTooltip": "Eklenti Ekle",
     "clearDeprecated": "Kullanım Dışı Eklentileri Kaldır",
@@ -428,4 +444,4 @@
     },
     "title": "Uzantı Araçları"
   }
-}
+}

package/locales/vi-VN/common.json

@@ -104,6 +104,7 @@
     "azure": "Azure",
     "bedrock": "AWS Bedrock",
     "google": "Google",
+    "groq": "Groq",
     "mistral": "Mistral AI",
     "moonshot": "Moonshot AI",
     "ollama": "Ollama",

package/locales/vi-VN/error.json

@@ -38,11 +38,13 @@
     "AzureBizError": "Yêu cầu dịch vụ Azure AI gặp lỗi, vui lòng kiểm tra và thử lại dựa trên thông tin dưới đây",
     "BedrockBizError": "Yêu cầu dịch vụ Bedrock gặp lỗi, vui lòng kiểm tra và thử lại dựa trên thông tin dưới đây",
     "GoogleBizError": "Yêu cầu dịch vụ Google gặp lỗi, vui lòng kiểm tra và thử lại dựa trên thông tin dưới đây",
+    "GroqBizError": "Yêu cầu dịch vụ Groq gặp sự cố, vui lòng kiểm tra thông tin bên dưới hoặc thử lại",
     "InvalidAccessCode": "Mật khẩu truy cập không hợp lệ hoặc trống, vui lòng nhập mật khẩu truy cập đúng hoặc thêm Khóa API tùy chỉnh",
     "InvalidAnthropicAPIKey": "Khóa API Anthropic không hợp lệ hoặc trống, vui lòng kiểm tra lại và thử lại",
     "InvalidAzureAPIKey": "Khóa API Azure không chính xác hoặc trống, vui lòng kiểm tra lại Khóa API Azure và thử lại",
     "InvalidBedrockCredentials": "Xác thực Bedrock không thành công, vui lòng kiểm tra AccessKeyId/SecretAccessKey và thử lại",
     "InvalidGoogleAPIKey": "Khóa API Google không chính xác hoặc trống, vui lòng kiểm tra lại Khóa API Google và thử lại",
+    "InvalidGroqAPIKey": "Khóa API Groq không hợp lệ hoặc trống, vui lòng kiểm tra lại Khóa API Groq và thử lại",
     "InvalidMistralAPIKey": "Mistral AI API Key không hợp lệ hoặc trống, vui lòng kiểm tra lại Mistral API Key và thử lại",
     "InvalidMoonshotAPIKey": "Khóa API Moonshot AI không hợp lệ hoặc trống, vui lòng kiểm tra lại Khóa API Moonshot và thử lại",
     "InvalidOllamaArgs": "Cấu hình Ollama không hợp lệ, vui lòng kiểm tra lại cấu hình Ollama và thử lại",
@@ -53,6 +55,7 @@
     "MoonshotBizError": "Yêu cầu dịch vụ Mặt Trăng Tối gặp sự cố, vui lòng kiểm tra thông tin dưới đây hoặc thử lại",
     "NoOpenAIAPIKey": "Khóa API OpenAI trống, vui lòng thêm Khóa API OpenAI tùy chỉnh",
     "OllamaBizError": "Yêu cầu dịch vụ Ollama gặp lỗi, vui lòng kiểm tra thông tin dưới đây hoặc thử lại",
+    "OllamaServiceUnavailable": "Dịch vụ Ollama không khả dụng, vui lòng kiểm tra xem nó đã được khởi động chưa",
     "OpenAIBizError": "Yêu cầu dịch vụ OpenAI gặp lỗi, vui lòng xác minh hoặc thử lại dựa trên thông tin dưới đây",
     "PerplexityBizError": "Yêu cầu dịch vụ AI Perplexity gặp lỗi, vui lòng kiểm tra thông tin dưới đây hoặc thử lại sau",
     "PluginApiNotFound": "Xin lỗi, không có API nào trong tệp mô tả plugin, vui lòng kiểm tra phương thức yêu cầu của bạn có khớp với API mô tả plugin không",
@@ -90,6 +93,10 @@
         "description": "Nhập Google API Key của bạn để bắt đầu phiên làm việc. Ứng dụng sẽ không lưu trữ API Key của bạn",
         "title": "Sử dụng thông tin xác thực tùy chỉnh của Google"
       },
+      "Groq": {
+        "description": "Nhập Groq API Key của bạn để bắt đầu phiên làm việc. Ứng dụng sẽ không lưu trữ API Key của bạn",
+        "title": "Sử dụng Groq API Key tùy chỉnh"
+      },
       "Mistral": {
         "description": "Nhập Mistral AI API Key của bạn để bắt đầu phiên làm việc. Ứng dụng sẽ không lưu trữ API Key của bạn",
         "title": "Sử dụng Mistral AI API Key tùy chỉnh"
@@ -114,6 +121,13 @@
     },
     "closeMessage": "Đóng thông báo",
     "confirm": "Xác nhận và thử lại",
+    "model": {
+      "Ollama": {
+        "confirm": "Tải xuống",
+        "description": "Nhập nhãn mô hình Ollama của bạn để tiếp tục cuộc trò chuyện",
+        "title": "Tải xuống mô hình Ollama cụ thể"
+      }
+    },
     "oauth": {
       "description": "Quản trị viên đã mở tính năng xác thực đăng nhập thống nhất. Nhấn vào nút bên dưới để đăng nhập và mở khóa ứng dụng",
       "success": "Đăng nhập thành công",

package/locales/vi-VN/setting.json

@@ -99,6 +99,14 @@
         "title": "API Key"
       }
     },
+    "Groq": {
+      "title": "Groq",
+      "token": {
+        "desc": "Nhập API Key từ Groq",
+        "placeholder": "Groq API Key",
+        "title": "API Key"
+      }
+    },
     "Mistral": {
       "title": "Mistral AI",
       "token": {
@@ -193,6 +201,14 @@
     },
     "waitingForMore": "Có thêm mô hình đang <1>được lên kế hoạch tích hợp</1>, hãy chờ đợi ✨"
   },
+  "ollama": {
+    "download": {
+      "desc": "Ollama đang tải xuống mô hình này, vui lòng không đóng trang này. Quá trình tải xuống sẽ tiếp tục từ nơi đã bị gián đoạn khi tải lại",
+      "remainingTime": "Thời gian còn lại",
+      "speed": "Tốc độ tải xuống",
+      "title": "Đang tải xuống mô hình {{model}}"
+    }
+  },
   "plugin": {
     "addTooltip": "Thêm tiện ích",
     "clearDeprecated": "Xóa tiện ích không còn hỗ trợ",
@@ -428,4 +444,4 @@
     },
     "title": "Công cụ mở rộng"
   }
-}
+}

package/locales/zh-CN/common.json

@@ -104,6 +104,7 @@
     "azure": "Azure",
     "bedrock": "AWS Bedrock",
     "google": "Google",
+    "groq": "Groq",
     "mistral": "Mistral AI",
     "moonshot": "Moonshot AI",
     "ollama": "Ollama",

package/locales/zh-CN/error.json

@@ -65,8 +65,11 @@
     "PerplexityBizError": "请求 Perplexity AI 服务出错，请根据以下信息排查或重试",
     "InvalidAnthropicAPIKey": "Anthropic API Key 不正确或为空，请检查 Anthropic API Key 后重试",
     "AnthropicBizError": "请求 Anthropic AI 服务出错，请根据以下信息排查或重试",
+    "InvalidGroqAPIKey": "Groq API Key 不正确或为空，请检查 Groq API Key 后重试",
+    "GroqBizError": "请求 Groq 服务出错，请根据以下信息排查或重试",
     "InvalidOllamaArgs": "Ollama 配置不正确，请检查 Ollama 配置后重试",
     "OllamaBizError": "请求 Ollama 服务出错，请根据以下信息排查或重试",
+    "OllamaServiceUnavailable": "未检测到 Ollama 服务，请检查是否正常启动",
     "AgentRuntimeError": "Lobe 语言模型运行时执行出错，请根据以下信息排查或重试"
   },
   "stt": {
@@ -90,6 +93,10 @@
         "description": "输入你的 Google API Key 即可开始会话。应用不会记录你的 API Key",
         "title": "使用自定义 Google API Key"
       },
+      "Groq": {
+        "description": "输入你的 Groq API Key 即可开始会话。应用不会记录你的 API Key",
+        "title": "使用自定义 Groq API Key"
+      },
       "Mistral": {
         "description": "输入你的 Mistral AI API Key 即可开始会话。应用不会记录你的 API Key",
         "title": "使用自定义 Mistral AI API Key"
@@ -114,6 +121,13 @@
     },
     "closeMessage": "关闭提示",
     "confirm": "确认并重试",
+    "model": {
+      "Ollama": {
+        "confirm": "下载",
+        "description": "输入你的 Ollama 模型标签，完成即可继续会话",
+        "title": "下载指定的 Ollama 模型"
+      }
+    },
     "oauth": {
       "description": "管理员已开启统一登录认证，点击下方按钮登录，即可解锁应用",
       "success": "登录成功",

package/locales/zh-CN/setting.json

@@ -99,6 +99,14 @@
         "title": "API Key"
       }
     },
+    "Groq": {
+      "title": "Groq",
+      "token": {
+        "desc": "填入来自 Groq 的 API Key",
+        "placeholder": "Groq API Key",
+        "title": "API Key"
+      }
+    },
     "Mistral": {
       "title": "Mistral AI",
       "token": {
@@ -193,6 +201,14 @@
     },
     "waitingForMore": "更多模型正在 <1>计划接入</1> 中，敬请期待 ✨"
   },
+  "ollama": {
+    "download": {
+      "desc": "Ollama 正在下载该模型，请尽量不要关闭本页面。重新下载时将会中断处继续",
+      "remainingTime": "剩余时间",
+      "speed": "下载速度",
+      "title": "正在下载模型 {{model}} "
+    }
+  },
   "plugin": {
     "addTooltip": "自定义插件",
     "clearDeprecated": "移除无效插件",
@@ -428,4 +444,4 @@
     },
     "title": "扩展插件"
   }
-}
+}

package/locales/zh-TW/common.json

@@ -104,6 +104,7 @@
     "azure": "Azure",
     "bedrock": "AWS Bedrock",
     "google": "Google",
+    "groq": "Groq",
     "mistral": "Mistral AI",
     "moonshot": "Moonshot AI",
     "ollama": "奧拉馬",

package/locales/zh-TW/error.json

@@ -38,11 +38,13 @@
     "AzureBizError": "請求 Azure AI 服務出錯，請根據以下信息排查或重試",
     "BedrockBizError": "請求 Bedrock 服務出錯，請根據以下信息排查或重試",
     "GoogleBizError": "請求 Google 服務出錯，請根據以下信息排查或重試",
+    "GroqBizError": "請求 Groq 服務出錯，請根據以下信息排查或重試",
     "InvalidAccessCode": "密碼不正確或為空，請輸入正確的訪問密碼，或添加自定義 API 金鑰",
     "InvalidAnthropicAPIKey": "Anthropic API 金鑰不正確或為空，請檢查 Anthropic API 金鑰後重試",
     "InvalidAzureAPIKey": "Azure API Key 不正確或為空，請檢查 Azure API Key 後重試",
     "InvalidBedrockCredentials": "Bedrock 驗證未通過，請檢查 AccessKeyId/SecretAccessKey 後重試",
     "InvalidGoogleAPIKey": "Google API Key 不正確或為空，請檢查 Google API Key 後重試",
+    "InvalidGroqAPIKey": "Groq API 金鑰不正確或為空，請檢查 Groq API 金鑰後重試",
     "InvalidMistralAPIKey": "Mistral AI API Key 不正確或為空，請檢查 Mistral API Key 後重試",
     "InvalidMoonshotAPIKey": "Moonshot AI API 金鑰不正確或為空，請檢查 Moonshot API 金鑰後重試",
     "InvalidOllamaArgs": "Ollama 配置不正確，請檢查 Ollama 配置後重試",
@@ -53,6 +55,7 @@
     "MoonshotBizError": "請求月球背面服務出錯，請根據以下信息排查或重試",
     "NoOpenAIAPIKey": "OpenAI API 金鑰為空，請添加自訂 OpenAI API 金鑰",
     "OllamaBizError": "請求 Ollama 服務出錯，請根據以下資訊排查或重試",
+    "OllamaServiceUnavailable": "未偵測到 Ollama 服務，請檢查是否正常啟動",
     "OpenAIBizError": "請求 OpenAI 服務出錯。請根據以下資訊進行排查或重試。",
     "PerplexityBizError": "請求 Perplexity AI 服務出錯，請根據以下信息排查或重試",
     "PluginApiNotFound": "抱歉，外掛描述檔案中不存在該 API。請檢查您的請求方法與外掛清單 API 是否相符",
@@ -90,6 +93,10 @@
         "description": "輸入你的 Google API Key 即可開始會話。應用不會記錄你的 API Key",
         "title": "使用自定義 Google API Key"
       },
+      "Groq": {
+        "description": "輸入你的 Groq API 金鑰即可開始會話。應用不會記錄你的 API 金鑰",
+        "title": "使用自定義 Groq API 金鑰"
+      },
       "Mistral": {
         "description": "輸入你的 Mistral AI API Key 即可開始會話。應用不會記錄你的 API Key",
         "title": "使用自定義 Mistral AI API Key"
@@ -114,6 +121,13 @@
     },
     "closeMessage": "關閉提示",
     "confirm": "確認並重試",
+    "model": {
+      "Ollama": {
+        "confirm": "下載",
+        "description": "輸入你的 Ollama 模型標籤，完成即可繼續會話",
+        "title": "下載指定的 Ollama 模型"
+      }
+    },
     "oauth": {
       "description": "管理員已開啟統一登錄認證，點擊下方按鈕登錄，即可解鎖應用",
       "success": "登錄成功",

package/locales/zh-TW/setting.json

@@ -99,6 +99,14 @@
         "title": "API 金鑰"
       }
     },
+    "Groq": {
+      "title": "Groq",
+      "token": {
+        "desc": "填入來自 Groq 的 API 金鑰",
+        "placeholder": "Groq API 金鑰",
+        "title": "API 金鑰"
+      }
+    },
     "Mistral": {
       "title": "Mistral AI",
       "token": {
@@ -193,6 +201,14 @@
     },
     "waitingForMore": "更多模型正在 <1>計劃接入</1> 中，敬請期待 ✨"
   },
+  "ollama": {
+    "download": {
+      "desc": "Ollama 正在下載該模型，請儘量不要關閉本頁面。重新下載時將會中斷處繼續",
+      "remainingTime": "剩餘時間",
+      "speed": "下載速度",
+      "title": "正在下載模型 {{model}}"
+    }
+  },
   "plugin": {
     "addTooltip": "新增自訂外掛程式",
     "clearDeprecated": "清除已棄用的外掛",
@@ -428,4 +444,4 @@
     },
     "title": "擴展工具"
   }
-}
+}

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@lobehub/chat",
-  "version": "0.136.0",
+  "version": "0.138.0",
   "description": "Lobe Chat - an open-source, high-performance chatbot framework that supports speech synthesis, multimodal, and extensible Function Call plugin system. Supports one-click free deployment of your private ChatGPT/LLM web application.",
   "keywords": [
     "framework",
@@ -120,6 +120,7 @@
     "next-sitemap": "^4",
     "numeral": "^2",
     "nuqs": "^1",
+    "ollama": "^0.5.0",
     "openai": "^4.22",
     "polished": "^4",
     "posthog-js": "^1",

package/src/app/api/chat/[provider]/agentRuntime.ts

@@ -13,6 +13,7 @@ import {
   LobeAzureOpenAI,
   LobeBedrockAI,
   LobeGoogleAI,
+  LobeGroq,
   LobeMistralAI,
   LobeMoonshotAI,
   LobeOllamaAI,
@@ -162,11 +163,16 @@ class AgentRuntime {
         runtimeModel = this.initAnthropic(payload);
         break;
       }
-      
+
       case ModelProvider.Mistral: {
         runtimeModel = this.initMistral(payload);
         break;
       }
+
+      case ModelProvider.Groq: {
+        runtimeModel = this.initGroq(payload);
+        break;
+      }
     }
 
     return new AgentRuntime(runtimeModel);
@@ -261,13 +267,20 @@ class AgentRuntime {
     const baseURL = payload?.endpoint || ANTHROPIC_PROXY_URL;
     return new LobeAnthropicAI({ apiKey, baseURL });
   }
-  
+
   private static initMistral(payload: JWTPayload) {
     const { MISTRAL_API_KEY } = getServerConfig();
     const apiKey = apiKeyManager.pick(payload?.apiKey || MISTRAL_API_KEY);
 
     return new LobeMistralAI({ apiKey });
   }
+
+  private static initGroq(payload: JWTPayload) {
+    const { GROQ_API_KEY } = getServerConfig();
+    const apiKey = apiKeyManager.pick(payload?.apiKey || GROQ_API_KEY);
+
+    return new LobeGroq({ apiKey });
+  }
 }
 
 export default AgentRuntime;

package/src/app/api/config/route.ts

@@ -10,18 +10,20 @@ export const runtime = 'edge';
  */
 export const GET = async () => {
   const {
+    ENABLE_LANGFUSE,
     CUSTOM_MODELS,
     ENABLED_MOONSHOT,
     ENABLED_ZHIPU,
     ENABLED_AWS_BEDROCK,
     ENABLED_GOOGLE,
+    ENABLED_GROQ,
     ENABLE_OAUTH_SSO,
     ENABLE_OLLAMA,
     ENABLED_PERPLEXITY,
     ENABLED_ANTHROPIC,
     ENABLED_MISTRAL,
     DEFAULT_AGENT_CONFIG,
-    ENABLE_LANGFUSE,
+    OLLAMA_CUSTOM_MODELS,
   } = getServerConfig();
 
   const config: GlobalServerConfig = {
@@ -35,9 +37,10 @@ export const GET = async () => {
       anthropic: { enabled: ENABLED_ANTHROPIC },
       bedrock: { enabled: ENABLED_AWS_BEDROCK },
       google: { enabled: ENABLED_GOOGLE },
+      groq: { enabled: ENABLED_GROQ },
       mistral: { enabled: ENABLED_MISTRAL },
       moonshot: { enabled: ENABLED_MOONSHOT },
-      ollama: { enabled: ENABLE_OLLAMA },
+      ollama: { customModelName: OLLAMA_CUSTOM_MODELS, enabled: ENABLE_OLLAMA },
       perplexity: { enabled: ENABLED_PERPLEXITY },
       zhipu: { enabled: ENABLED_ZHIPU },
     },

package/src/app/api/errorResponse.ts

@@ -1,5 +1,5 @@
 import { AgentRuntimeErrorType, ILobeAgentRuntimeErrorType } from '@/libs/agent-runtime';
-import { ErrorResponse, ErrorType } from '@/types/fetch';
+import { ChatErrorType, ErrorResponse, ErrorType } from '@/types/fetch';
 
 const getStatus = (errorType: ILobeAgentRuntimeErrorType | ErrorType) => {
   // InvalidAccessCode / InvalidAzureAPIKey / InvalidOpenAIAPIKey / InvalidZhipuAPIKey ....
@@ -37,6 +37,7 @@ const getStatus = (errorType: ILobeAgentRuntimeErrorType | ErrorType) => {
     case AgentRuntimeErrorType.MoonshotBizError: {
       return 476;
     }
+    case ChatErrorType.OllamaServiceUnavailable:
     case AgentRuntimeErrorType.OllamaBizError: {
       return 478;
     }
@@ -49,6 +50,9 @@ const getStatus = (errorType: ILobeAgentRuntimeErrorType | ErrorType) => {
     case AgentRuntimeErrorType.MistralBizError: {
       return 481;
     }
+    case AgentRuntimeErrorType.GroqBizError: {
+      return 482;
+    }
   }
   return errorType as number;
 };

package/src/app/settings/llm/Groq/index.tsx

@@ -0,0 +1,47 @@
+import { Groq } from '@lobehub/icons';
+import { Input } from 'antd';
+import { useTheme } from 'antd-style';
+import { memo } from 'react';
+import { useTranslation } from 'react-i18next';
+
+import { ModelProvider } from '@/libs/agent-runtime';
+
+import Checker from '../components/Checker';
+import ProviderConfig from '../components/ProviderConfig';
+import { LLMProviderApiTokenKey, LLMProviderConfigKey } from '../const';
+
+const providerKey = 'groq';
+
+const GroqProvider = memo(() => {
+  const { t } = useTranslation('setting');
+
+  const theme = useTheme();
+
+  return (
+    <ProviderConfig
+      configItems={[
+        {
+          children: (
+            <Input.Password
+              autoComplete={'new-password'}
+              placeholder={t('llm.Groq.token.placeholder')}
+            />
+          ),
+          desc: t('llm.Groq.token.desc'),
+          label: t('llm.Groq.token.title'),
+          name: [LLMProviderConfigKey, providerKey, LLMProviderApiTokenKey],
+        },
+        {
+          children: <Checker model={'gemma-7b-it'} provider={ModelProvider.Groq} />,
+          desc: t('llm.checker.desc'),
+          label: t('llm.checker.title'),
+          minWidth: '100%',
+        },
+      ]}
+      provider={providerKey}
+      title={<Groq.Text color={theme.isDarkMode ? theme.colorText : Groq.colorPrimary} size={24} />}
+    />
+  );
+});
+
+export default GroqProvider;

package/src/app/settings/llm/Ollama/Checker.tsx

@@ -0,0 +1,73 @@
+import { CheckCircleFilled } from '@ant-design/icons';
+import { Alert, Highlighter } from '@lobehub/ui';
+import { Button } from 'antd';
+import { useTheme } from 'antd-style';
+import { ListResponse } from 'ollama/browser';
+import { memo } from 'react';
+import { useTranslation } from 'react-i18next';
+import { Flexbox } from 'react-layout-kit';
+import useSWR from 'swr';
+
+import { useIsMobile } from '@/hooks/useIsMobile';
+import { ollamaService } from '@/services/ollama';
+
+const OllamaChecker = memo(() => {
+  const { t } = useTranslation('setting');
+
+  const theme = useTheme();
+
+  const { data, error, isLoading, mutate } = useSWR<ListResponse>(
+    'ollama.list',
+    ollamaService.getModels,
+    {
+      revalidateOnFocus: false,
+      revalidateOnMount: false,
+      revalidateOnReconnect: false,
+    },
+  );
+
+  const checkConnection = () => {
+    mutate();
+  };
+
+  const isMobile = useIsMobile();
+
+  return (
+    <Flexbox align={isMobile ? 'flex-start' : 'flex-end'} gap={8}>
+      <Flexbox align={'center'} direction={isMobile ? 'horizontal-reverse' : 'horizontal'} gap={12}>
+        {!error && data?.models && (
+          <Flexbox gap={4} horizontal>
+            <CheckCircleFilled
+              style={{
+                color: theme.colorSuccess,
+              }}
+            />
+            {t('llm.checker.pass')}
+          </Flexbox>
+        )}
+        <Button loading={isLoading} onClick={checkConnection}>
+          {t('llm.checker.button')}
+        </Button>
+      </Flexbox>
+      {error && (
+        <Flexbox gap={8} style={{ maxWidth: '600px', width: '100%' }}>
+          <Alert
+            banner
+            extra={
+              <Flexbox>
+                <Highlighter copyButtonSize={'small'} language={'json'} type={'pure'}>
+                  {JSON.stringify(error.body || error, null, 2)}
+                </Highlighter>
+              </Flexbox>
+            }
+            message={t(`response.${error.type}` as any, { ns: 'error' })}
+            showIcon
+            type={'error'}
+          />
+        </Flexbox>
+      )}
+    </Flexbox>
+  );
+});
+
+export default OllamaChecker;

package/src/app/settings/llm/Ollama/index.tsx

@@ -4,9 +4,7 @@ import { useTheme } from 'antd-style';
 import { memo } from 'react';
 import { useTranslation } from 'react-i18next';
 
-import { ModelProvider } from '@/libs/agent-runtime';
-
-import Checker from '../components/Checker';
+import Checker from './Checker';
 import ProviderConfig from '../components/ProviderConfig';
 import { LLMProviderBaseUrlKey, LLMProviderConfigKey } from '../const';
 
@@ -38,7 +36,7 @@ const OllamaProvider = memo(() => {
           name: [LLMProviderConfigKey, providerKey, 'customModelName'],
         },
         {
-          children: <Checker model={'llama2'} provider={ModelProvider.Ollama} />,
+          children: <Checker />,
           desc: t('llm.Ollama.checker.desc'),
           label: t('llm.checker.title'),
           minWidth: undefined,

package/src/app/settings/llm/components/Checker.tsx

@@ -16,6 +16,28 @@ interface ConnectionCheckerProps {
   provider: string;
 }
 
+const Error = memo<{ error: ChatMessageError }>(({ error }) => {
+  const { t } = useTranslation('error');
+
+  return (
+    <Flexbox gap={8} style={{ maxWidth: '600px', width: '100%' }}>
+      <Alert
+        banner
+        extra={
+          <Flexbox>
+            <Highlighter copyButtonSize={'small'} language={'json'} type={'pure'}>
+              {JSON.stringify(error.body || error, null, 2)}
+            </Highlighter>
+          </Flexbox>
+        }
+        message={t(`response.${error.type}` as any)}
+        showIcon
+        type={'error'}
+      />
+    </Flexbox>
+  );
+});
+
 const Checker = memo<ConnectionCheckerProps>(({ model, provider }) => {
   const { t } = useTranslation('setting');
 
@@ -75,23 +97,7 @@ const Checker = memo<ConnectionCheckerProps>(({ model, provider }) => {
           {t('llm.checker.button')}
         </Button>
       </Flexbox>
-      {error && (
-        <Flexbox gap={8} style={{ maxWidth: '600px', width: '100%' }}>
-          <Alert
-            banner
-            extra={
-              <Flexbox>
-                <Highlighter copyButtonSize={'small'} language={'json'} type={'pure'}>
-                  {JSON.stringify(error.body || error, null, 2)}
-                </Highlighter>
-              </Flexbox>
-            }
-            message={t(`response.${error.type}` as any, { ns: 'error' })}
-            showIcon
-            type={'error'}
-          />
-        </Flexbox>
-      )}
+      {error && <Error error={error} />}
     </Flexbox>
   );
 });

package/src/app/settings/llm/index.tsx

@@ -11,6 +11,7 @@ import Footer from '../features/Footer';
 import Anthropic from './Anthropic';
 import Bedrock from './Bedrock';
 import Google from './Google';
+import Groq from './Groq';
 import Mistral from './Mistral';
 import Moonshot from './Moonshot';
 import Ollama from './Ollama';
@@ -29,6 +30,7 @@ export default memo<{ showOllama: boolean }>(({ showOllama }) => {
       {showOllama && <Ollama />}
       <Anthropic />
       <Google />
+      <Groq />
       <Bedrock />
       <Perplexity />
       <Mistral />

package/src/components/ModelIcon/index.tsx

@@ -5,6 +5,7 @@ import {
   Claude,
   Gemini,
   Gemma,
+  LLaVA,
   Meta,
   Minimax,
   Mistral,
@@ -29,6 +30,7 @@ const ModelIcon = memo<ModelProviderIconProps>(({ model, size = 12 }) => {
   if (model.includes('claude')) return <Claude.Avatar size={size} />;
   if (model.includes('titan')) return <Aws.Avatar size={size} />;
   if (model.includes('llama')) return <Meta.Avatar size={size} />;
+  if (model.includes('llava')) return <LLaVA.Avatar size={size} />;
   if (model.includes('gemini')) return <Gemini.Avatar size={size} />;
   if (model.includes('gemma')) return <Gemma.Avatar size={size} />;
   if (model.includes('qwen')) return <Tongyi.Avatar background={Tongyi.colorPrimary} size={size} />;