agent-lab-sdk 0.1.17__py3-none-any.whl → 0.1.18__py3-none-any.whl

agent_lab_sdk/llm/gigachat_token_manager.py

@@ -7,6 +7,7 @@ import requests
 import fcntl
 import random
 import time
+import base64
 import threading
 from datetime import datetime, timedelta, timezone
 from .agw_token_manager import AgwTokenManager
@@ -29,10 +30,6 @@ BACKOFF_MAX = 5
 # Случайный порог обновления токена: от 0 до 300 секунд (5 минут)
 REFRESH_WINDOW_MAX = 300
 
-#1. поддержка переменных GIGACHAT_USER, GIGACHAT_PASSWORD => ? 
-#2. поддержка переменной GIGACHAT_AUTH_URL
-#3. скоп не требуется при авторизации по токену advanced
-
 class GigaChatTokenManager:
     # Лок для синхронизации между потоками в одном процессе
     _thread_lock = threading.Lock()
@@ -45,14 +42,17 @@ class GigaChatTokenManager:
             data = None
         else:
             gigachat_scope = os.environ.get("GIGACHAT_SCOPE", "GIGACHAT_API_PERS")
-
-            url = "https://ngw.devices.sberbank.ru:9443/api/v2/oauth"
+            url = os.getenv("GIGACHAT_AUTH_URL", "https://ngw.devices.sberbank.ru:9443/api/v2/oauth")
             data = {"scope": gigachat_scope}
 
-        print(url)
         gigachat_credentials = os.environ.get("GIGACHAT_CREDENTIALS")
         if not gigachat_credentials:
-            raise ValueError("Переменная окружения GIGACHAT_CREDENTIALS не установлена.")
+            user = os.getenv("GIGACHAT_USER")
+            password = os.getenv("GIGACHAT_PASSWORD")
+            if user and password:
+                gigachat_credentials = base64.b64encode(f"{user}:{password}")
+        if not gigachat_credentials:
+            raise ValueError("Переменная окружения GIGACHAT_CREDENTIALS (или GIGACHAT_USER в комбинации с GIGACHAT_PASSWORD) не установлена.")
         headers = {
             "Content-Type": "application/x-www-form-urlencoded",
             "Accept": "application/json",

agent_lab_sdk/llm/llm.py

@@ -1,28 +1,38 @@
 from langchain_gigachat.chat_models import GigaChat
+from langchain_gigachat.embeddings import GigaChatEmbeddings
 from agent_lab_sdk.llm.gigachat_token_manager import GigaChatTokenManager
+from agent_lab_sdk.llm.throttled import ThrottledGigaChat, ThrottledGigaChatEmbeddings
+from typing import Union
 import os
 
-def get_model(**kwargs) -> GigaChat:
+def get_model(type="chat", throttled = False, **kwargs) -> Union[GigaChat, GigaChatEmbeddings, ThrottledGigaChat, ThrottledGigaChatEmbeddings]:
+    """
+    * type - определяет тип моледи : chat | embeddings
+    * throttled - оборачивает модель в класс обертку с дополнительным регулированием через семафор
+    * kwargs - прокидываются в модель
+    """
     access_token = kwargs.pop("access_token", None)
     if not access_token:
-        access_token = GigaChatTokenManager.get_token()
-    timeout = kwargs.pop("timeout", None)
-    if not timeout:
-        timeout=int(os.getenv("GLOBAL_GIGACHAT_TIMEOUT", "120"))
-        
-    scope = kwargs.pop("scope", None)
-    if not scope:
-        scope = os.getenv("GIGACHAT_SCOPE")
+        user = kwargs.get("user", None)
+        password = kwargs.get("password", None)
+        if not user and not password:
+            access_token = GigaChatTokenManager.get_token()
 
     verify_ssl_certs = kwargs.pop("verify_ssl_certs", False)
+    verify_ssl_certs = os.getenv("GIGACHAT_VERIFY_SSL_CERTS", verify_ssl_certs)
 
-    if not scope:
-        raise ValueError("GIGACHAT_SCOPE environment variable is not set.")
-
-    return GigaChat(
+    if type == "chat":
+        _class = GigaChat
+        if throttled:
+            _class = ThrottledGigaChat
+    elif type == "embeddings":
+        _class = GigaChatEmbeddings
+        if throttled:
+            _class = ThrottledGigaChatEmbeddings
+    else:
+        raise ValueError(f"unsupported type {type}. possible values: chat, embeddings")
+    return _class(
         access_token=access_token,
         verify_ssl_certs=verify_ssl_certs,
-        scope=scope,
-        timeout=timeout,
         **kwargs
         )

agent_lab_sdk/metrics/metrics.py

@@ -34,7 +34,7 @@ def get_metric(
     buckets: Optional[List[float]] = None,
     states: Optional[List[str]] = None,
     **kwargs
-) -> Any:
+) -> MetricType:
     """
     Возвращает метрику по name, создаёт её при первом запросе.
     

{agent_lab_sdk-0.1.17.dist-info → agent_lab_sdk-0.1.18.dist-info}/METADATA

@@ -1,6 +1,6 @@
 Metadata-Version: 2.4
 Name: agent-lab-sdk
-Version: 0.1.17
+Version: 0.1.18
 Summary: SDK для работы с Agent Lab
 Author-email: Andrew Ohurtsov <andermirik@yandex.com>
 License: Proprietary and Confidential — All Rights Reserved
@@ -58,7 +58,19 @@ from agent_lab_sdk.llm import get_model
 # Использует токен из окружения по умолчанию
 model = get_model()
 
-# Передача явных параметров
+# Получить модель GigaChat, использует токен из окружения по умолчанию
+model = get_model("chat")
+
+# Получить модель ThrottledGigaChat, использует токен из окружения по умолчанию
+model = get_model("chat", throttled=True)
+
+# Получить модель EmbeddingsGigaChat, использует токен из окружения по умолчанию
+model = get_model("embeddings")
+
+# Получить модель ThrottledEmbeddingsGigaChat, использует токен из окружения по умолчанию
+model = get_model("embeddings", throttled=True)
+
+# Передача явных параметров GigaChat, токен из окружения не использует
 model = get_model(
     access_token="YOUR_TOKEN",
     timeout=60,
@@ -68,6 +80,8 @@ model = get_model(
 
 > если не передавать access_token, токен будет выбран через GigaChatTokenManager
 
+> указание флага throttled=True включает ограничения и метрики для GigaChat и GigaChatEmbeddings. Подробнее [здесь](#2-модуль-agent_lab_sdkllmthrottled)
+
 ### 1.2. Менеджеры токенов
 
 | Класс                  | Описание                                                                                | Пример использования                            |
@@ -80,13 +94,15 @@ model = get_model(
 | Переменная                               | Описание                                                 | Значение по умолчанию / Пример                      |
 | ---------------------------------------- | -------------------------------------------------------- | --------------------------------------------------- |
 | `GIGACHAT_SCOPE`                         | Scope GigaChat API                               | `GIGACHAT_API_PERS`                                 |
-| `GLOBAL_GIGACHAT_TIMEOUT`                | Таймаут запросов к GigaChat (секунды)                    | `120`                                               |
-| `USE_TOKEN_PROVIDER_AGW`                 | Использовать `AgwTokenManager`                           | `true`                                              |
+| `GIGACHAT_TIMEOUT`                | Таймаут запросов к GigaChat (секунды)                    | `120`                                               |
+| `USE_TOKEN_PROVIDER_AGW`                 | Использовать `AgwTokenManager` для получения токена GigaChat                          | `true`                                              |
 | `GIGACHAT_CREDENTIALS`                   | Базовые креды для GigaChat (`b64(clientId:secretId)`)    | `Y2xpZW50SWQ6c2VjcmV0SWQ=`                          |
+| `GIGACHAT_USER`                   | Имя пользователя GigaChat advanced    | `user`                          |
+| `GIGACHAT_PASSWORD`                   | Пароль пользователя GigaChat advanced)    | `password`                          |
 | `GIGACHAT_TOKEN_PATH`                    | Путь к файлу кеша токена GigaChat                        | `/tmp/gigachat_token.json`                          |
 | `GIGACHAT_TOKEN_FETCH_RETRIES`           | Количество попыток получения токена (GigaChat)           | `3`                                                 |
 | `USE_GIGACHAT_ADVANCED`                  | Включает запрос токена GigaChat API в продвинутом режиме | `true`                                              |
-| `GIGACHAT_BASE_URL`                      | Базовый URL GigaChat для расширенного режима             | `https://ngw.devices.sberbank.ru:9443/api/v2/oauth` |
+| `GIGACHAT_BASE_URL`                      | Базовый URL GigaChat (важно чтобы заканчивался на символ `/`)                                    | `https://gigachat.sberdevices.ru/v1/` |
 | `TOKEN_PROVIDER_AGW_URL`                 | URL Agent Gateway для получения AGW-токена               | `https://agent-gateway.apps.advosd.sberdevices.ru`  |
 | `TOKEN_PROVIDER_AGW_DEFAULT_MAX_RETRIES` | Макс. попыток запроса токена (AGW)                       | `3`                                                 |
 | `TOKEN_PROVIDER_AGW_TIMEOUT_SEC`         | Таймаут запроса к AGW (секунды)                          | `5`                                                 |

{agent_lab_sdk-0.1.17.dist-info → agent_lab_sdk-0.1.18.dist-info}/RECORD

@@ -3,18 +3,18 @@ agent_lab_sdk/langgraph/checkpoint/__init__.py,sha256=DnKwR1LwbaQ3qhb124lE-tnojr
 agent_lab_sdk/langgraph/checkpoint/agw_saver.py,sha256=K4ni4x6bMibkC9PphEll7RLtbKbaHCGTz0uM6ouQaV0,13763
 agent_lab_sdk/llm/__init__.py,sha256=Yo9MbYdHS1iX05A9XiJGwWN1Hm4IARGav9mNFPrtDeA,376
 agent_lab_sdk/llm/agw_token_manager.py,sha256=_bPPI8muaEa6H01P8hHQOJHiiivaLd8N_d3OT9UT_80,4787
-agent_lab_sdk/llm/gigachat_token_manager.py,sha256=hN4ypi2dRVYTZoI2cU6F1QQRmXmmteoL9b-FTpxuy8M,8161
-agent_lab_sdk/llm/llm.py,sha256=NOEH9TOH66EIJXGevxPm6w6px7Z0cZl9DJ-9A7jOnd0,873
+agent_lab_sdk/llm/gigachat_token_manager.py,sha256=Py4qP79p59vSg3SRrgCoH1oZzpZcLdAw9TADnxf1-Mk,8264
+agent_lab_sdk/llm/llm.py,sha256=cPZll_NoovPXztyGnXthwBxK0YBZ5bRfHe5VI_Z-2jM,1648
 agent_lab_sdk/llm/throttled.py,sha256=9_nm1i3Uuep0VEWsY1KNCllZA-vM202XVdlgXhgC8BA,7005
 agent_lab_sdk/metrics/__init__.py,sha256=G4VSlzKwupPMM4c6vZaF1rnd0KusKarezDMjli9pVFw,57
-agent_lab_sdk/metrics/metrics.py,sha256=2e0c7BanThUNtCxpS6BUlAIDoLSidQsuaaBP5EB48Yo,3432
+agent_lab_sdk/metrics/metrics.py,sha256=_XTT9vMG7T0u_D2pL371wm8GoBU5fodJ45D2RACnBJw,3439
 agent_lab_sdk/schema/__init__.py,sha256=RJW9WaZyyF4TT-rxHJMb9iq40yYYZoCcmUWVtOefQz4,427
 agent_lab_sdk/schema/input_types.py,sha256=mL-gkZ0SohdzWzHZyemomG0NIl3NcnJ2UAuXAFTnhLY,6097
 agent_lab_sdk/schema/log_message.py,sha256=nadi6lZGRuDSPmfbYs9QPpRJUT9Pfy8Y7pGCvyFF5Mw,638
 agent_lab_sdk/storage/__init__.py,sha256=ik1_v1DMTwehvcAEXIYxuvLuCjJCa3y5qAuJqoQpuSA,81
 agent_lab_sdk/storage/storage.py,sha256=ELpt7GRwFD-aWa6ctinfA_QwcvzWLvKS0Wz8FlxVqAs,2075
-agent_lab_sdk-0.1.17.dist-info/licenses/LICENSE,sha256=_TRXHkF3S9ilWBPdZcHLI_S-PRjK0L_SeOb2pcPAdV4,417
-agent_lab_sdk-0.1.17.dist-info/METADATA,sha256=akM50sSB3tF_mU2q1fXdGtDl1V1e3bQ9kvjI6g3YM1Q,15942
-agent_lab_sdk-0.1.17.dist-info/WHEEL,sha256=_zCd3N1l69ArxyTb8rzEoP9TpbYXkqRFSNOD5OuxnTs,91
-agent_lab_sdk-0.1.17.dist-info/top_level.txt,sha256=E1efqkJ89KNmPBWdLzdMHeVtH0dYyCo4fhnSb81_15I,14
-agent_lab_sdk-0.1.17.dist-info/RECORD,,
+agent_lab_sdk-0.1.18.dist-info/licenses/LICENSE,sha256=_TRXHkF3S9ilWBPdZcHLI_S-PRjK0L_SeOb2pcPAdV4,417
+agent_lab_sdk-0.1.18.dist-info/METADATA,sha256=nNmD2p15o_-NVrLWo904AW-3ia60I8_Ykk7q7cIBWBY,17253
+agent_lab_sdk-0.1.18.dist-info/WHEEL,sha256=_zCd3N1l69ArxyTb8rzEoP9TpbYXkqRFSNOD5OuxnTs,91
+agent_lab_sdk-0.1.18.dist-info/top_level.txt,sha256=E1efqkJ89KNmPBWdLzdMHeVtH0dYyCo4fhnSb81_15I,14
+agent_lab_sdk-0.1.18.dist-info/RECORD,,