@lobehub/chat 0.148.9 → 0.149.0

package/locales/vi-VN/chat.json

@@ -48,13 +48,17 @@
   "sessionGroup": {
     "config": "Quản lý nhóm",
     "confirmRemoveGroupAlert": "Bạn sẽ xóa nhóm này, sau khi xóa, trợ lý của nhóm sẽ được di chuyển vào danh sách mặc định, vui lòng xác nhận hành động của bạn",
+    "createAgentSuccess": "Tạo trợ lý thành công",
     "createGroup": "Thêm nhóm mới",
     "createSuccess": "Tạo thành công",
+    "creatingAgent": "Đang tạo trợ lý...",
     "inputPlaceholder": "Vui lòng nhập tên nhóm...",
     "moveGroup": "Di chuyển vào nhóm",
     "newGroup": "Nhóm mới",
     "rename": "Đổi tên nhóm",
     "renameSuccess": "Đổi tên thành công",
+    "sortSuccess": "Sắp xếp lại thành công",
+    "sorting": "Đang cập nhật sắp xếp nhóm...",
     "tooLong": "Tên nhóm phải có độ dài từ 1-20 ký tự"
   },
   "shareModal": {

package/locales/vi-VN/error.json

@@ -58,7 +58,7 @@
     "MoonshotBizError": "Yêu cầu dịch vụ Mặt Trăng Tối gặp sự cố, vui lòng kiểm tra thông tin dưới đây hoặc thử lại",
     "NoOpenAIAPIKey": "Khóa API OpenAI trống, vui lòng thêm Khóa API OpenAI tùy chỉnh",
     "OllamaBizError": "Yêu cầu dịch vụ Ollama gặp lỗi, vui lòng kiểm tra thông tin dưới đây hoặc thử lại",
-    "OllamaServiceUnavailable": "Dịch vụ Ollama không khả dụng, vui lòng kiểm tra xem nó đã được khởi động chưa",
+    "OllamaServiceUnavailable": "Dịch vụ Ollama không khả dụng, vui lòng kiểm tra xem Ollama có hoạt động bình thường không, hoặc xem xét cấu hình chéo đúng của Ollama",
     "OpenAIBizError": "Yêu cầu dịch vụ OpenAI gặp lỗi, vui lòng xác minh hoặc thử lại dựa trên thông tin dưới đây",
     "OpenRouterBizError": "Yêu cầu dịch vụ OpenRouter AI gặp lỗi, vui lòng kiểm tra thông tin dưới đây hoặc thử lại",
     "PerplexityBizError": "Yêu cầu dịch vụ AI Perplexity gặp lỗi, vui lòng kiểm tra thông tin dưới đây hoặc thử lại sau",

package/locales/vi-VN/modelProvider.json

@@ -130,9 +130,35 @@
     },
     "endpoint": {
       "desc": "Nhập địa chỉ proxy API của Ollama, có thể để trống nếu không chỉ định cụ thể",
-      "placeholder": "http://127.0.0.1:11434/v1",
+      "placeholder": "http://127.0.0.1:11434",
       "title": "Địa chỉ proxy API"
     },
+    "setup": {
+      "cors": {
+        "description": "Do vấn đề về an ninh trình duyệt, bạn cần cấu hình CORS cho Ollama trước khi có thể sử dụng bình thường.",
+        "linux": {
+          "env": "Trong phần [Service], thêm `Environment`, thêm biến môi trường OLLAMA_ORIGINS:",
+          "reboot": "Tải lại systemd và khởi động lại Ollama",
+          "systemd": "Gọi systemd để chỉnh sửa dịch vụ ollama:"
+        },
+        "macos": "Vui lòng mở ứng dụng «Terminal», dán lệnh sau và nhấn Enter để chạy",
+        "reboot": "Vui lòng khởi động lại dịch vụ Ollama sau khi hoàn thành",
+        "title": "Cấu hình Ollama cho phép truy cập từ xa",
+        "windows": "Trên Windows, nhấp vào «Control Panel», vào chỉnh sửa biến môi trường hệ thống. Tạo biến môi trường tên là «OLLAMA_ORIGINS» cho tài khoản người dùng của bạn, giá trị là * , nhấp vào «OK/Áp dụng» để lưu lại"
+      },
+      "install": {
+        "description": "Vui lòng xác nhận rằng bạn đã mở Ollama, nếu chưa tải Ollama, vui lòng truy cập trang web chính thức để tải xuống",
+        "docker": "Nếu bạn muốn sử dụng Docker, Ollama cũng cung cấp hình ảnh Docker chính thức, bạn có thể kéo theo lệnh sau:",
+        "linux": {
+          "command": "Cài đặt bằng lệnh sau:",
+          "manual": "Hoặc bạn cũng có thể tham khảo <1>Hướng dẫn cài đặt thủ công trên Linux</1> để tự cài đặt"
+        },
+        "macos": "<0>Tải xuống phiên bản Ollama cho macOS</0>, giải nén và cài đặt",
+        "title": "Cài đặt và mở Ollama ứng dụng trên máy cục bộ",
+        "windows": "<0>Tải xuống phiên bản Ollama cho Windows</0>, giải nén và cài đặt",
+        "windowsTab": "Windows (Bản xem trước)"
+      }
+    },
     "title": "Ollama"
   },
   "openai": {

package/locales/vi-VN/welcome.json

@@ -1,6 +1,7 @@
 {
   "button": {
     "import": "Nhập Cấu Hình",
+    "market": "Thăm Thị trường",
     "start": "Bắt Đầu Ngay"
   },
   "header": "Chào Mừng",

package/locales/zh-CN/chat.json

@@ -48,13 +48,17 @@
   "sessionGroup": {
     "config": "分组管理",
     "confirmRemoveGroupAlert": "即将删除该分组，删除后该分组的助手将移动到默认列表，请确认你的操作",
+    "createAgentSuccess": "助手创建成功",
     "createGroup": "添加新分组",
-    "createSuccess": "创建成功",
+    "createSuccess": "分组创建成功",
+    "creatingAgent": "助手创建中...",
     "inputPlaceholder": "请输入分组名称...",
     "moveGroup": "移动到分组",
     "newGroup": "新分组",
     "rename": "重命名分组",
     "renameSuccess": "重命名成功",
+    "sortSuccess": "重新排序成功",
+    "sorting": "分组排序更新中...",
     "tooLong": "分组名称长度需在 1-20 之内"
   },
   "shareModal": {

package/locales/zh-CN/error.json

@@ -75,7 +75,7 @@
     "InvalidZeroOneAPIKey": "零一万物 API Key 不正确或为空，请检查零一万物 API Key 后重试",
     "InvalidOllamaArgs": "Ollama 配置不正确，请检查 Ollama 配置后重试",
     "OllamaBizError": "请求 Ollama 服务出错，请根据以下信息排查或重试",
-    "OllamaServiceUnavailable": "未检测到 Ollama 服务，请检查是否正常启动",
+    "OllamaServiceUnavailable": "Ollama 服务连接失败，请检查 Ollama 是否运行正常，或是否正确设置 Ollama 的跨域配置",
     "AgentRuntimeError": "Lobe AI Runtime 执行出错，请根据以下信息排查或重试"
   },
   "stt": {

package/locales/zh-CN/modelProvider.json

@@ -130,9 +130,35 @@
     },
     "endpoint": {
       "desc": "填入 Ollama 接口代理地址，本地未额外指定可留空",
-      "placeholder": "http://127.0.0.1:11434/v1",
+      "placeholder": "http://127.0.0.1:11434",
       "title": "接口代理地址"
     },
+    "setup": {
+      "cors": {
+        "description": "因浏览器安全限制，你需要为 Ollama 进行跨域配置后方可正常使用。",
+        "linux": {
+          "env": "在 [Service] 部分下添加 `Environment`，添加 OLLAMA_ORIGINS 环境变量：",
+          "reboot": "重载 systemd 并重启 Ollama",
+          "systemd": "调用 systemd 编辑 ollama 服务："
+        },
+        "macos": "请打开「终端」应用程序，并粘贴以下指令，并按回车运行",
+        "reboot": "请在执行完成后重启 Ollama 服务",
+        "title": "配置 Ollama 允许跨域访问",
+        "windows": "在 Windows 上，点击「控制面板」，进入编辑系统环境变量。为您的用户账户新建名为 「OLLAMA_ORIGINS」 的环境变量，值为 * ，点击 「OK/应用」 保存"
+      },
+      "install": {
+        "description": "请确认你已经开启 Ollama ，如果没有下载 Ollama ，请前往官网下载",
+        "docker": "如果你更倾向于使用 Docker，Ollama 也提供了官方 Docker 镜像，你可以通过以下命令拉取：",
+        "linux": {
+          "command": "通过以下命令安装：",
+          "manual": "或者，你也可以参考 <1>Linux 手动安装指南</1> 自行安装"
+        },
+        "macos": "<0>下载 macOS 版 Ollama</0>，解压并安装",
+        "title": "在本地安装并开启 Ollama 应用",
+        "windows": "<0>下载 Windows 版 Ollama</0>，解压并安装",
+        "windowsTab": "Windows (预览版)"
+      }
+    },
     "title": "Ollama"
   },
   "openai": {

package/locales/zh-CN/welcome.json

@@ -1,6 +1,7 @@
 {
   "button": {
     "import": "导入配置",
+    "market": "逛逛市场",
     "start": "立即开始"
   },
   "header": "欢迎使用",

package/locales/zh-TW/chat.json

@@ -48,13 +48,17 @@
   "sessionGroup": {
     "config": "分組管理",
     "confirmRemoveGroupAlert": "即將刪除該分組，刪除後該分組的助手將移動到預設清單，請確認你的操作",
+    "createAgentSuccess": "助手建立成功",
     "createGroup": "新增新分組",
     "createSuccess": "創建成功",
+    "creatingAgent": "助手建立中...",
     "inputPlaceholder": "請輸入分組名稱...",
     "moveGroup": "移動到分組",
     "newGroup": "新分組",
     "rename": "重新命名分組",
     "renameSuccess": "重新命名成功",
+    "sortSuccess": "重新排序成功",
+    "sorting": "分組排序更新中...",
     "tooLong": "分組名稱長度需在 1-20 之內"
   },
   "shareModal": {

package/locales/zh-TW/error.json

@@ -58,7 +58,7 @@
     "MoonshotBizError": "請求月球背面服務出錯，請根據以下信息排查或重試",
     "NoOpenAIAPIKey": "OpenAI API 金鑰為空，請添加自訂 OpenAI API 金鑰",
     "OllamaBizError": "請求 Ollama 服務出錯，請根據以下資訊排查或重試",
-    "OllamaServiceUnavailable": "未偵測到 Ollama 服務，請檢查是否正常啟動",
+    "OllamaServiceUnavailable": "Ollama 服務暫時無法使用，請檢查 Ollama 是否運作正常，或是否正確設定 Ollama 的跨域配置",
     "OpenAIBizError": "請求 OpenAI 服務出錯。請根據以下資訊進行排查或重試。",
     "OpenRouterBizError": "請求 OpenRouter AI 服務出錯，請根據以下信息排查或重試",
     "PerplexityBizError": "請求 Perplexity AI 服務出錯，請根據以下信息排查或重試",

package/locales/zh-TW/modelProvider.json

@@ -130,9 +130,35 @@
     },
     "endpoint": {
       "desc": "填入 Ollama 接口代理地址，本地未額外指定可留空",
-      "placeholder": "http://127.0.0.1:11434/v1",
+      "placeholder": "http://127.0.0.1:11434",
       "title": "接口代理地址"
     },
+    "setup": {
+      "cors": {
+        "description": "因瀏覽器安全限制，您需要為 Ollama 進行跨域配置後才能正常使用。",
+        "linux": {
+          "env": "在 [Service] 部分下添加 `Environment`，新增 OLLAMA_ORIGINS 環境變數：",
+          "reboot": "重新載入 systemd 並重新啟動 Ollama",
+          "systemd": "呼叫 systemd 編輯 ollama 服務："
+        },
+        "macos": "請開啟「終端」應用程式，貼上以下指令，然後按 Enter 執行",
+        "reboot": "執行完成後請重新啟動 Ollama 服務",
+        "title": "配置 Ollama 允許跨域訪問",
+        "windows": "在 Windows 上，點擊「控制面板」，進入編輯系統環境變數。為您的使用者帳戶新增名為「OLLAMA_ORIGINS」的環境變數，值為 *，點擊「確定/應用」保存"
+      },
+      "install": {
+        "description": "請確認您已經啟動 Ollama，如果尚未下載 Ollama，請前往官網下載",
+        "docker": "如果您更傾向於使用 Docker，Ollama 也提供了官方 Docker 映像，您可以透過以下命令拉取：",
+        "linux": {
+          "command": "透過以下命令安裝：",
+          "manual": "或者，您也可以參考 <1>Linux 手動安裝指南</1> 自行安裝"
+        },
+        "macos": "<0>下載 macOS 版 Ollama</0>，解壓並安裝",
+        "title": "在本地安裝並啟動 Ollama 應用",
+        "windows": "<0>下載 Windows 版 Ollama</0>，解壓並安裝",
+        "windowsTab": "Windows (預覽版)"
+      }
+    },
     "title": "Ollama"
   },
   "openai": {

package/locales/zh-TW/welcome.json

@@ -1,6 +1,7 @@
 {
   "button": {
     "import": "匯入設定檔",
+    "market": "逛逛市場",
     "start": "馬上開始"
   },
   "header": "歡迎",

package/package.json

@@ -1,6 +1,6 @@
 {
   "name": "@lobehub/chat",
-  "version": "0.148.9",
+  "version": "0.149.0",
   "description": "Lobe Chat - an open-source, high-performance chatbot framework that supports speech synthesis, multimodal, and extensible Function Call plugin system. Supports one-click free deployment of your private ChatGPT/LLM web application.",
   "keywords": [
     "framework",
@@ -101,7 +101,7 @@
     "ai": "3.0.19",
     "antd": "^5.16.2",
     "antd-style": "^3.6.2",
-    "brotli-wasm": "^2.0.1",
+    "brotli-wasm": "^3.0.0",
     "chroma-js": "^2.4.2",
     "dayjs": "^1.11.10",
     "debug": "^4.3.4",

package/src/app/api/chat/agentRuntime.test.ts

@@ -39,7 +39,7 @@ vi.mock('@/config/server', () => ({
     AWS_SECRET_ACCESS_KEY: 'test-aws-secret',
     AWS_ACCESS_KEY_ID: 'test-aws-id',
     AWS_REGION: 'test-aws-region',
-    OLLAMA_PROXY_URL: 'test-ollama-url',
+    OLLAMA_PROXY_URL: 'https://test-ollama-url.local',
     PERPLEXITY_API_KEY: 'test-perplexity-key',
     ANTHROPIC_API_KEY: 'test-anthropic-key',
     MISTRAL_API_KEY: 'test-mistral-key',
@@ -110,7 +110,7 @@ describe('initAgentRuntimeWithUserPayload method', () => {
     });
 
     it('Ollama provider: with endpoint', async () => {
-      const jwtPayload: JWTPayload = { endpoint: 'user-ollama-url' };
+      const jwtPayload: JWTPayload = { endpoint: 'http://user-ollama-url' };
       const runtime = await initAgentRuntimeWithUserPayload(ModelProvider.Ollama, jwtPayload);
       expect(runtime).toBeInstanceOf(AgentRuntime);
       expect(runtime['_runtime']).toBeInstanceOf(LobeOllamaAI);

package/src/app/api/config/route.ts

@@ -37,6 +37,7 @@ export const GET = async () => {
 
     ENABLE_OLLAMA,
     OLLAMA_MODEL_LIST,
+    OLLAMA_PROXY_URL,
 
     ENABLED_OPENROUTER,
     OPENROUTER_MODEL_LIST,
@@ -72,6 +73,7 @@ export const GET = async () => {
       moonshot: { enabled: ENABLED_MOONSHOT },
       ollama: {
         enabled: ENABLE_OLLAMA,
+        fetchOnClient: !OLLAMA_PROXY_URL,
         serverModelCards: transformToChatModelCards({
           defaultChatModels: OllamaProviderCard.chatModels,
           modelString: OLLAMA_MODEL_LIST,

package/src/app/settings/llm/Ollama/index.tsx

@@ -1,5 +1,4 @@
 import { Ollama } from '@lobehub/icons';
-import { useTheme } from 'antd-style';
 import { memo } from 'react';
 import { useTranslation } from 'react-i18next';
 
@@ -10,7 +9,6 @@ import Checker from './Checker';
 
 const OllamaProvider = memo(() => {
   const { t } = useTranslation('setting');
-  const theme = useTheme();
 
   return (
     <ProviderConfig
@@ -20,13 +18,12 @@ const OllamaProvider = memo(() => {
         label: t('llm.checker.title'),
         minWidth: undefined,
       }}
-      modelList={{ showModelFetcher: true }}
       provider={ModelProvider.Ollama}
       showApiKey={false}
+      showBrowserRequest
       showEndpoint
-      title={
-        <Ollama.Combine color={theme.isDarkMode ? theme.colorText : theme.colorPrimary} size={24} />
-      }
+      title={<Ollama.Combine size={24} />}
+      // modelList={{ showModelFetcher: true }}
     />
   );
 });

package/src/app/settings/llm/components/ProviderConfig/index.tsx

@@ -32,6 +32,7 @@ interface ProviderConfigProps {
   };
   provider: GlobalLLMProviderKey;
   showApiKey?: boolean;
+  showBrowserRequest?: boolean;
   showEndpoint?: boolean;
   title: ReactNode;
 }
@@ -47,6 +48,7 @@ const ProviderConfig = memo<ProviderConfigProps>(
     title,
     checkerItem,
     modelList,
+    showBrowserRequest,
   }) => {
     const { t } = useTranslation('setting');
     const { t: modelT } = useTranslation('modelProvider');
@@ -93,6 +95,19 @@ const ProviderConfig = memo<ProviderConfigProps>(
         label: modelT(`${provider}.endpoint.title` as any),
         name: [LLMProviderConfigKey, provider, LLMProviderBaseUrlKey],
       },
+      (showBrowserRequest || (showEndpoint && isProviderEndpointNotEmpty)) && {
+        children: (
+          <Switch
+            onChange={(enabled) => {
+              setSettings({ [LLMProviderConfigKey]: { [provider]: { fetchOnClient: enabled } } });
+            }}
+            value={isFetchOnClient}
+          />
+        ),
+        desc: t('llm.fetchOnClient.desc'),
+        label: t('llm.fetchOnClient.title'),
+        minWidth: undefined,
+      },
       {
         children: (
           <ProviderModelListSelect
@@ -107,20 +122,6 @@ const ProviderConfig = memo<ProviderConfigProps>(
         label: t('llm.modelList.title'),
         name: [LLMProviderConfigKey, provider, LLMProviderModelListKey],
       },
-      showEndpoint &&
-        isProviderEndpointNotEmpty && {
-          children: (
-            <Switch
-              onChange={(enabled) => {
-                setSettings({ [LLMProviderConfigKey]: { [provider]: { fetchOnClient: enabled } } });
-              }}
-              value={isFetchOnClient}
-            />
-          ),
-          desc: t('llm.fetchOnClient.desc'),
-          label: t('llm.fetchOnClient.title'),
-          minWidth: undefined,
-        },
       checkerItem ?? {
         children: <Checker model={checkModel!} provider={provider} />,
         desc: t('llm.checker.desc'),

package/src/config/modelProviders/ollama.ts

@@ -2,148 +2,148 @@ import { ModelProviderCard } from '@/types/llm';
 
 const Ollama: ModelProviderCard = {
   chatModels: [
+    {
+      displayName: 'Command R 35B',
+      enabled: true,
+      id: 'command-r',
+      tokens: 128_000,
+    },
+    {
+      displayName: 'Command R+ 104B (Q2_K)',
+      id: 'command-r-plus:104b-q2_K',
+      tokens: 128_000,
+    },
     {
       displayName: 'Gemma 7B',
       enabled: true,
-      functionCall: false,
       id: 'gemma',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Gemma 2B',
       enabled: true,
-      functionCall: false,
       id: 'gemma:2b',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Llama2 Chat 13B',
-      functionCall: false,
       id: 'llama2:13b',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Llama2 Chat 7B',
-      enabled: true,
-      functionCall: false,
       id: 'llama2',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Llama2 Chat 70B',
-      functionCall: false,
       id: 'llama2:70b',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Llama2 CN 13B',
-      functionCall: false,
       id: 'llama2-chinese:13b',
       tokens: 4000,
-      vision: false,
     },
     {
       displayName: 'Llama2 CN 7B',
-      functionCall: false,
       id: 'llama2-chinese',
       tokens: 4000,
-      vision: false,
+    },
+    {
+      displayName: 'Llama3 8B',
+      enabled: true,
+      id: 'llama3',
+      tokens: 8000,
+    },
+    {
+      displayName: 'Llama3 70B',
+      id: 'llama3:70b',
+      tokens: 8000,
+    },
+    {
+      displayName: 'WizardLM 2 7B',
+      enabled: true,
+      id: 'wizardlm2',
+      tokens: 65_536,
+    },
+    {
+      displayName: 'WizardLM 2 8x22B',
+      id: 'wizardlm2:8x22b',
+      tokens: 65_536,
     },
     {
       displayName: 'Code Llama 7B',
-      functionCall: false,
       id: 'codellama',
       tokens: 16_000,
-      vision: false,
     },
     {
       displayName: 'Code Llama 34B',
-      functionCall: false,
       id: 'codellama:34b',
       tokens: 16_000,
-      vision: false,
     },
     {
       displayName: 'Code Llama 70B',
-      functionCall: false,
       id: 'codellama:70b',
       tokens: 16_000,
-      vision: false,
     },
     {
       displayName: 'Code Llama 7B (Python)',
-      functionCall: false,
       id: 'codellama:python',
       tokens: 16_000,
-      vision: false,
     },
     {
       displayName: 'Mistral',
       enabled: true,
-      functionCall: false,
       id: 'mistral',
       tokens: 4800,
-      vision: false,
     },
     {
       displayName: 'Mixtral 8x7B',
       enabled: true,
-      functionCall: false,
       id: 'mixtral',
       tokens: 32_000,
-      vision: false,
+    },
+    {
+      displayName: 'Mixtral 8x22B',
+      id: 'mixtral:8x22b',
+      tokens: 64_000,
     },
     {
       displayName: 'Qwen Chat 4B',
-      functionCall: false,
       id: 'qwen',
       tokens: 32_768,
-      vision: false,
     },
     {
       displayName: 'Qwen Chat 7B',
       enabled: true,
-      functionCall: false,
       id: 'qwen:7b',
       tokens: 32_768,
-      vision: false,
     },
     {
       displayName: 'Qwen Chat 14B',
-      functionCall: false,
       id: 'qwen:14b',
       tokens: 32_768,
-      vision: false,
     },
     {
       displayName: 'Qwen Chat 72B',
-      functionCall: false,
       id: 'qwen:72b',
       tokens: 32_768,
-      vision: false,
     },
     {
       displayName: 'LLaVA 7B',
-      functionCall: false,
       id: 'llava',
       tokens: 4000,
       vision: true,
     },
     {
       displayName: 'LLaVA 13B',
-      functionCall: false,
       id: 'llava:13b',
       tokens: 4000,
       vision: true,
     },
     {
       displayName: 'LLaVA 34B',
-      functionCall: false,
       id: 'llava:34b',
       tokens: 4000,
       vision: true,

package/src/const/settings/index.ts

@@ -104,6 +104,7 @@ export const DEFAULT_LLM_CONFIG: GlobalLLMConfig = {
     enabled: false,
     enabledModels: filterEnabledModels(OllamaProviderCard),
     endpoint: '',
+    fetchOnClient: true,
   },
   openai: {
     apiKey: '',

package/src/features/Conversation/Error/{InvalidOllamaModel → OllamaBizError/InvalidOllamaModel}/index.tsx

@@ -9,7 +9,7 @@ import useSWR from 'swr';
 import { ollamaService } from '@/services/ollama';
 import { useChatStore } from '@/store/chat';
 
-import { ErrorActionContainer, FormAction } from '../style';
+import { ErrorActionContainer, FormAction } from '../../style';
 import { formatSize, useDownloadMonitor } from './useDownloadMonitor';
 
 interface OllamaModelFormProps {