agent-lab-sdk 0.1.13__py3-none-any.whl → 0.1.15__py3-none-any.whl

agent_lab_sdk/langgraph/checkpoint/agw_saver.py

@@ -206,7 +206,8 @@ class AsyncAGWCheckpointSaver(BaseCheckpointSaver):
     async def _http(self, method: str, path: str, **kw) -> httpx.Response:
         if "json" in kw:
             payload = kw.pop("json")
-            logger.info(orjson.dumps(payload).decode())
+            kw["data"] = orjson.dumps(payload)
+            logger.info(kw["data"].decode())
             
         return await self._client.request(method, path, **kw)
 

agent_lab_sdk-0.1.15.dist-info/METADATA

@@ -0,0 +1,242 @@
+Metadata-Version: 2.4
+Name: agent-lab-sdk
+Version: 0.1.15
+Summary: SDK для работы с Agent Lab
+Author-email: Andrew Ohurtsov <andermirik@yandex.com>
+License: Proprietary and Confidential — All Rights Reserved
+Keywords: agent,lab,sdk
+Classifier: Development Status :: 4 - Beta
+Classifier: Intended Audience :: Developers
+Classifier: Topic :: Software Development :: Libraries
+Classifier: Topic :: Software Development :: Libraries :: Python Modules
+Classifier: Programming Language :: Python :: 3
+Classifier: Programming Language :: Python :: 3.11
+Classifier: Programming Language :: Python :: 3.12
+Classifier: Programming Language :: Python :: 3.13
+Classifier: License :: Other/Proprietary License
+Classifier: Operating System :: OS Independent
+Requires-Python: <4.0,>=3.11
+Description-Content-Type: text/markdown
+License-File: LICENSE
+Requires-Dist: requests
+Requires-Dist: langgraph~=0.4.1
+Requires-Dist: langchain_gigachat
+Requires-Dist: prometheus-client
+Requires-Dist: langchain
+Requires-Dist: httpx~=0.27.2
+Requires-Dist: orjson>=3.9.7
+Dynamic: license-file
+
+# Agent Lab SDK
+
+Набор утилит и обёрток для упрощённой работы с LLM, Agent Gateway и метриками в проектах Giga Labs.
+
+## Установка
+
+```bash
+pip install agent_lab_sdk
+```
+
+## Содержание
+
+1. [Модуль `agent_lab_sdk.llm`](#1-модуль-agent_lab_sdkllm)
+2. [Модуль `agent_lab_sdk.llm.throttled`](#2-модуль-agent_lab_sdkllmthrottled)
+3. [Модуль `agent_lab_sdk.metrics`](#3-модуль-agent_lab_sdkmetrics)
+4. [Хранилище](#4-хранилище)
+5. [Схема](#5-схема)
+6. [Сборка и публикация](#6-сборка-и-публикация)
+
+---
+
+## 1. Модуль `agent_lab_sdk.llm`
+
+### 1.1. Получение модели
+
+```python
+from agent_lab_sdk.llm import get_model
+
+# Использует токен из окружения по умолчанию
+model = get_model()
+
+# Передача явных параметров
+model = get_model(
+    access_token="YOUR_TOKEN",
+    timeout=60,
+    scope="GIGACHAT_API_CORP"
+)
+```
+
+> если не передавать access_token, токен будет выбран через GigaChatTokenManager
+
+> планы на ближайшее будущее: get_model оборачивает внутри себя throttled классы.
+
+### 1.2. Менеджеры токенов
+
+| Класс                  | Описание                                                                                | Пример использования                            |
+| ---------------------- | --------------------------------------------------------------------------------------- | ----------------------------------------------- |
+| `AgwTokenManager`      | Кеширование + получение токена через Agent Gateway                                      | `token = AgwTokenManager.get_token("provider")` |
+| `GigaChatTokenManager` | Кеширование + получение через GigaChat OAuth с использованием пользовательских секретов | `token = GigaChatTokenManager.get_token()`      |
+
+### 1.3. Переменные окружения
+
+| Переменная                               | Описание                                                 | Значение по умолчанию / Пример                      |
+| ---------------------------------------- | -------------------------------------------------------- | --------------------------------------------------- |
+| `GIGACHAT_SCOPE`                         | Scope GigaChat API                               | `GIGACHAT_API_PERS`                                 |
+| `GLOBAL_GIGACHAT_TIMEOUT`                | Таймаут запросов к GigaChat (секунды)                    | `120`                                               |
+| `USE_TOKEN_PROVIDER_AGW`                 | Использовать `AgwTokenManager`                           | `true`                                              |
+| `GIGACHAT_CREDENTIALS`                   | Базовые креды для GigaChat (`b64(clientId:secretId)`)    | `Y2xpZW50SWQ6c2VjcmV0SWQ=`                          |
+| `GIGACHAT_TOKEN_PATH`                    | Путь к файлу кеша токена GigaChat                        | `/tmp/gigachat_token.json`                          |
+| `GIGACHAT_TOKEN_FETCH_RETRIES`           | Количество попыток получения токена (GigaChat)           | `3`                                                 |
+| `USE_GIGACHAT_ADVANCED`                  | Включает запрос токена GigaChat API в продвинутом режиме | `true`                                              |
+| `GIGACHAT_BASE_URL`                      | Базовый URL GigaChat для расширенного режима             | `https://ngw.devices.sberbank.ru:9443/api/v2/oauth` |
+| `TOKEN_PROVIDER_AGW_URL`                 | URL Agent Gateway для получения AGW-токена               | `https://agent-gateway.apps.advosd.sberdevices.ru`  |
+| `TOKEN_PROVIDER_AGW_DEFAULT_MAX_RETRIES` | Макс. попыток запроса токена (AGW)                       | `3`                                                 |
+| `TOKEN_PROVIDER_AGW_TIMEOUT_SEC`         | Таймаут запроса к AGW (секунды)                          | `5`                                                 |
+
+---
+
+<a name="throttled"></a>
+
+## 2. Модуль `agent_lab_sdk.llm.throttled`
+
+Позволяет ограничивать число одновременных вызовов к GigaChat и сервису эмбеддингов, автоматически собирая соответствующие метрики.
+
+```python
+from agent_lab_sdk.llm import GigaChatTokenManager
+from agent_lab_sdk.llm.throttled import ThrottledGigaChat, ThrottledGigaChatEmbeddings
+
+access_token = GigaChatTokenManager.get_token()
+
+# Чат с учётом ограничений
+chat = ThrottledGigaChat(access_token=access_token)
+response = chat.invoke("Привет!")
+
+# Эмбеддинги с учётом ограничений
+emb = ThrottledGigaChatEmbeddings(access_token=access_token)
+vectors = emb.embed_documents(["Text1", "Text2"])
+```
+
+### 2.1. Переменные окружения для ограничения
+
+| Переменная                        | Описание                                    | Значение по умолчанию |
+| --------------------------------- | ------------------------------------------- | --------------------- |
+| `MAX_CHAT_CONCURRENCY`            | Максимум одновременных чат-запросов         | `100000`              |
+| `MAX_EMBED_CONCURRENCY`           | Максимум одновременных запросов эмбеддингов | `100000`              |
+| `EMBEDDINGS_MAX_BATCH_SIZE_PARTS` | Макс. размер батча частей для эмбеддингов   | `90`                  |
+
+### 2.2. Метрики
+
+Метрики доступны через `agent_lab_sdk.metrics.get_metric`:
+
+| Метрика                   | Описание                                       | Тип       |
+| ------------------------- | ---------------------------------------------- | --------- |
+| `chat_slots_in_use`       | Число занятых слотов для чата                  | Gauge     |
+| `chat_waiting_tasks`      | Число задач, ожидающих освобождения слота чата | Gauge     |
+| `chat_wait_time_seconds`  | Время ожидания слота чата (секунды)            | Histogram |
+| `embed_slots_in_use`      | Число занятых слотов для эмбеддингов           | Gauge     |
+| `embed_waiting_tasks`     | Число задач, ожидающих слота эмбеддингов       | Gauge     |
+| `embed_wait_time_seconds` | Время ожидания слота эмбеддингов (секунды)     | Histogram |
+
+---
+
+<a name="metrics"></a>
+
+## 3. Модуль `agent_lab_sdk.metrics`
+
+Предоставляет удобный интерфейс для создания и управления метриками через Prometheus-клиент.
+
+### 3.1. Основные функции
+
+```python
+from agent_lab_sdk.metrics import get_metric
+
+# Создать метрику
+g = get_metric(
+    metric_type="gauge",               # тип: "gauge", "counter" или "histogram"
+    name="my_gauge",                   # имя метрики в Prometheus
+    documentation="Моя метрика gauge"  # описание
+)
+
+# Увеличить счётчик
+g.inc()
+
+# Установить конкретное значение
+g.set(42)
+```
+
+### 3.2. Пример использования в коде
+
+```python
+from agent_lab_sdk.metrics import get_metric
+import time
+
+# Счётчик HTTP-запросов с метками
+reqs = get_metric(
+    metric_type="counter",
+    name="http_requests_total",
+    documentation="Всего HTTP-запросов",
+    labelnames=["method", "endpoint"]
+)
+reqs.labels("GET", "/api").inc()
+
+# Гистограмма задержек
+lat = get_metric(
+    metric_type="histogram",
+    name="http_request_latency_seconds",
+    documentation="Длительность HTTP-запроса",
+    buckets=[0.1, 0.5, 1.0, 5.0]
+)
+with lat.time():
+    time.sleep(0.5)
+
+print(reqs.collect())
+print(lat.collect())
+```
+
+## 4. Хранилище
+
+### 4.1 SD Ассетница
+
+функция `store_file_in_sd_asset` сохраняет base64‑файл в хранилище S3 и отдаёт публичную ссылку на файл
+
+```python
+from agent_lab_sdk.storage import store_file_in_sd_asset
+
+store_file_in_storage("my-agent-name-filename.png", file_b64, "giga-agents")
+```
+
+### 4.2 AGW Checkpointer
+
+AGW поддерживает langgraph checkpoint API и в SDK представлен `AsyncAGWCheckpointSaver`, который позволяет сохранять состояние графа в AGW напрямую. 
+
+## 5. Схема
+
+TODO: описание LogMessage
+
+## 6. Сборка и публикация
+
+1. Установка twine
+
+```bash
+pip install --upgrade build twine
+```
+
+2. Собрать и загрузить в pypi
+
+перед обновлением сборки нужно не забыть поменять версию в [pyproject.toml](/pyproject.toml)
+```bash
+python -m build && python -m twine upload dist/*
+```
+
+3. Ссылка на проект pypi
+
+> https://pypi.org/project/agent-lab-sdk/
+
+4. установка локально в editable mode. Предварительно может потребоваться выбрать необходимое окружение
+```bash
+pip install -e .
+```
+
+# Примеры использования
+
+TBD

{agent_lab_sdk-0.1.13.dist-info → agent_lab_sdk-0.1.15.dist-info}/RECORD

@@ -1,6 +1,6 @@
 agent_lab_sdk/__init__.py,sha256=1Dlmv-wuz1QuciymKtYtX7jXzr_fkeGTe7aENfEDl3E,108
 agent_lab_sdk/langgraph/checkpoint/__init__.py,sha256=DnKwR1LwbaQ3qhb124lE-tnojrUIVcCdNzHEHwgpL5M,86
-agent_lab_sdk/langgraph/checkpoint/agw_saver.py,sha256=2jCs7izQZ3RBV-lBBtITQKP8EASPDseNOcrqNCmejho,13727
+agent_lab_sdk/langgraph/checkpoint/agw_saver.py,sha256=K4ni4x6bMibkC9PphEll7RLtbKbaHCGTz0uM6ouQaV0,13763
 agent_lab_sdk/llm/__init__.py,sha256=Yo9MbYdHS1iX05A9XiJGwWN1Hm4IARGav9mNFPrtDeA,376
 agent_lab_sdk/llm/agw_token_manager.py,sha256=_bPPI8muaEa6H01P8hHQOJHiiivaLd8N_d3OT9UT_80,4787
 agent_lab_sdk/llm/gigachat_token_manager.py,sha256=TPA8cb0ypdWtRTI5C7GItL9jbLt93vR-Ijf2yMrOytQ,7921
@@ -12,8 +12,8 @@ agent_lab_sdk/schema/__init__.py,sha256=s91PH3Fj1eOq75gtOTiObSDiQdtpixg5Nhs3isBm
 agent_lab_sdk/schema/log_message.py,sha256=nadi6lZGRuDSPmfbYs9QPpRJUT9Pfy8Y7pGCvyFF5Mw,638
 agent_lab_sdk/storage/__init__.py,sha256=ik1_v1DMTwehvcAEXIYxuvLuCjJCa3y5qAuJqoQpuSA,81
 agent_lab_sdk/storage/storage.py,sha256=ELpt7GRwFD-aWa6ctinfA_QwcvzWLvKS0Wz8FlxVqAs,2075
-agent_lab_sdk-0.1.13.dist-info/licenses/LICENSE,sha256=_TRXHkF3S9ilWBPdZcHLI_S-PRjK0L_SeOb2pcPAdV4,417
-agent_lab_sdk-0.1.13.dist-info/METADATA,sha256=i_f36cFwJR4DqdxPp2KwULIsYHqvwdZBjR9qkTZxaiI,1807
-agent_lab_sdk-0.1.13.dist-info/WHEEL,sha256=_zCd3N1l69ArxyTb8rzEoP9TpbYXkqRFSNOD5OuxnTs,91
-agent_lab_sdk-0.1.13.dist-info/top_level.txt,sha256=E1efqkJ89KNmPBWdLzdMHeVtH0dYyCo4fhnSb81_15I,14
-agent_lab_sdk-0.1.13.dist-info/RECORD,,
+agent_lab_sdk-0.1.15.dist-info/licenses/LICENSE,sha256=_TRXHkF3S9ilWBPdZcHLI_S-PRjK0L_SeOb2pcPAdV4,417
+agent_lab_sdk-0.1.15.dist-info/METADATA,sha256=tgGSu9j2n4CtdKRBCguzfxmVc1XvoSyfGTdkgVtNe_I,11098
+agent_lab_sdk-0.1.15.dist-info/WHEEL,sha256=_zCd3N1l69ArxyTb8rzEoP9TpbYXkqRFSNOD5OuxnTs,91
+agent_lab_sdk-0.1.15.dist-info/top_level.txt,sha256=E1efqkJ89KNmPBWdLzdMHeVtH0dYyCo4fhnSb81_15I,14
+agent_lab_sdk-0.1.15.dist-info/RECORD,,

agent_lab_sdk-0.1.13.dist-info/METADATA

@@ -1,65 +0,0 @@
-Metadata-Version: 2.4
-Name: agent-lab-sdk
-Version: 0.1.13
-Summary: SDK для работы с Agent Lab
-Author-email: Andrew Ohurtsov <andermirik@yandex.com>
-License: Proprietary and Confidential — All Rights Reserved
-Keywords: agent,lab,sdk
-Classifier: Development Status :: 4 - Beta
-Classifier: Intended Audience :: Developers
-Classifier: Topic :: Software Development :: Libraries
-Classifier: Topic :: Software Development :: Libraries :: Python Modules
-Classifier: Programming Language :: Python :: 3
-Classifier: Programming Language :: Python :: 3.11
-Classifier: Programming Language :: Python :: 3.12
-Classifier: Programming Language :: Python :: 3.13
-Classifier: License :: Other/Proprietary License
-Classifier: Operating System :: OS Independent
-Requires-Python: <4.0,>=3.11
-Description-Content-Type: text/markdown
-License-File: LICENSE
-Requires-Dist: requests
-Requires-Dist: langgraph~=0.4.1
-Requires-Dist: langchain_gigachat
-Requires-Dist: prometheus-client
-Requires-Dist: langchain
-Requires-Dist: httpx~=0.27.2
-Requires-Dist: orjson>=3.9.7
-Dynamic: license-file
-
-# Agent Lab SDK
-
-Набор утилит и обёрток для работы с LLM, AGW и метриками в проектах Agent Lab.
-
----
-
-1. Установка twine
-
-```
-pip install --upgrade build twine
-```
-
-2. Собрать и загрузить в pypi
-
-перед обновлением сборки нужно не забыть поменять версию в pyproject.toml
-```
-python -m build && python -m twine upload dist/*
-```
-
-3. Ссылка на проект pypi
-
-> https://pypi.org/project/agent-lab-sdk/
-
-4. установка локально
-```
-pip install -e .
-```
-
-5. установка из интернета
-```
-pip install agent-lab-sdk
-```
-
-# Примеры использования
-
-TBD