clovis 0.4.0__tar.gz → 0.5.0__tar.gz

{clovis-0.4.0 → clovis-0.5.0}/PKG-INFO

@@ -1,7 +1,7 @@
 Metadata-Version: 2.4
 Name: clovis
-Version: 0.4.0
-Summary: cloooooo — personal LLM client, prompt/context/thinking interface over local Ollama
+Version: 0.5.0
+Summary: cloooooo — SGLang + RAG hybrid + tools + router + structured outputs + eval
 Author: Clovis Sfeir
 License: MIT
 Keywords: ai,llm,local-ai,ollama,openai
@@ -14,11 +14,20 @@ Classifier: Programming Language :: Python :: 3.11
 Classifier: Programming Language :: Python :: 3.12
 Classifier: Topic :: Scientific/Engineering :: Artificial Intelligence
 Requires-Python: >=3.10
+Requires-Dist: bm25s>=0.2
 Requires-Dist: ddgs>=0.1
 Requires-Dist: fastapi>=0.111
+Requires-Dist: fastembed>=0.3
 Requires-Dist: httpx>=0.27
+Requires-Dist: jsonschema>=4.0
+Requires-Dist: lancedb>=0.6
+Requires-Dist: ollama>=0.3
+Requires-Dist: pillow>=10.0
 Requires-Dist: pydantic>=2.0
+Requires-Dist: pymupdf>=1.24
+Requires-Dist: python-docx>=1.1
 Requires-Dist: rich>=13.0
+Requires-Dist: trafilatura>=2.0
 Requires-Dist: typer>=0.12
 Requires-Dist: uvicorn[standard]>=0.30
 Description-Content-Type: text/markdown

clovis-0.5.0/memory/clovis-demo/short_term.json

@@ -0,0 +1,12 @@
+[
+  {
+    "role": "user",
+    "content": "Quelles sont les 3 prochaines évolutions majeures de lIA en 2027 ?",
+    "ts": 1781107287
+  },
+  {
+    "role": "assistant",
+    "content": "Intégration de l'IA avec les systèmes quantiques, Développement d'IA autodidactes généralistes (AGI), Régulation globale et éthique renforcée",
+    "ts": 1781107287
+  }
+]

clovis-0.5.0/memory/clovis-demo/summary.txt

@@ -0,0 +1 @@
+En 2027, trois évolutions majeures de l'IA sont attendues : l'intégration croissante de l'IA avec les systèmes quantiques pour des calculs ultra-performants, l'émergence d'IA autodidactes généralistes (AGI) capables d'apprendre et s'adapter à divers domaines, ainsi qu'une régulation mondiale plus stricte et une éthique renforcée encadrant le développement et l'utilisation de ces technologies.

clovis-0.5.0/memory/test-001/short_term.json

@@ -0,0 +1,22 @@
+[
+  {
+    "role": "user",
+    "content": "Quelle est la capitalisation boursière de Nvidia en 2026 ?",
+    "ts": 1781105310
+  },
+  {
+    "role": "assistant",
+    "content": "### Réponse structurée à la question sur la capitalisation boursière de Nvidia en 2026  \n\n#### **1. Capitalisation boursière observée et prévue pour 2026**  \n- **En avril 2026**, la capitalisation boursière de NVIDIA est estimée à **3,739 billions d'euros (ou environ 4 000 milliards de dollars)**. Cette valeur place Nvidia en tête des entreprises les plus valorisées au monde, surpassant même des géants comme Apple ou Microsoft.  \n- **En juillet 2025**, sa capitalisation avait déjà atteint **4 00",
+    "ts": 1781105310
+  },
+  {
+    "role": "user",
+    "content": "Quelles sont les dernières nouvelles sur Nvidia en 2026 ?",
+    "ts": 1781105525
+  },
+  {
+    "role": "assistant",
+    "content": "### Dernières nouvelles sur Nvidia en 2026 : Résumé complet et structuré  \n\nNvidia (2026) s’affirme comme un leader indiscutable dans les technologies émergentes, notamment l’intelligence artificielle (IA), la robotique et le calcul accéléré. Les développements récents mettent en lumière ses avancées technologiques, ses partenariats stratégiques, sa performance financière record, ainsi que des questions réglementaires autour de son pouvoir de marché. Voici une synthèse détaillée :  \n\n---\n\n#### *",
+    "ts": 1781105525
+  }
+]

clovis-0.5.0/memory/test-001/summary.txt

@@ -0,0 +1 @@
+En 2026, Nvidia continue de dominer le marché de l’IA et du calcul accéléré grâce à des avancées technologiques notables, notamment dans les systèmes robotiques et les puces spécialisées pour le machine learning. L'entreprise a renforcé ses partenariats stratégiques avec des géants de la tech et des fournisseurs cloud, tout en enregistrant une performance financière record, avec une capitalisation boursière dépassant 3,7 billions d'euros. Cependant, sa croissance fulgurante suscite des interrogations réglementaires sur sa position dominante dans le secteur.

clovis-0.5.0/memory/test_final_memory/short_term.json

@@ -0,0 +1,22 @@
+[
+  {
+    "role": "user",
+    "content": "Mon prénom est Clovis.",
+    "ts": 1781162434
+  },
+  {
+    "role": "assistant",
+    "content": "Bonjour Clovis ! C'est un plaisir de te rencontrer. Ton prénom est d'origine germanique et signifie \"réglé par la gloire\" ou \"célèbre\". C'est un prénom assez rare aujourd'hui, mais qui a une belle histoire. \n\nEst-ce que c'est ton vrai prénom ou préfères-tu que je t'appelle autrement ?",
+    "ts": 1781162434
+  },
+  {
+    "role": "user",
+    "content": "Quel est mon prénom?",
+    "ts": 1781162435
+  },
+  {
+    "role": "assistant",
+    "content": "Ton prénom est **Clovis**. 😊",
+    "ts": 1781162435
+  }
+]

clovis-0.5.0/memory/test_memory_123/short_term.json

@@ -0,0 +1,42 @@
+[
+  {
+    "role": "user",
+    "content": "Mon prénom est Claude.",
+    "ts": 1781159474
+  },
+  {
+    "role": "assistant",
+    "content": "Bonjour Claude ! C'est un plaisir de faire ta connaissance. Es-tu français ou francophone ? Je serais ravi d'apprendre plus à ton sujet et de t'aider dans ce que tu voudras.",
+    "ts": 1781159474
+  },
+  {
+    "role": "user",
+    "content": "Quel est mon prénom?",
+    "ts": 1781159474
+  },
+  {
+    "role": "assistant",
+    "content": "Ton prénom est **Claude**. 😊",
+    "ts": 1781159474
+  },
+  {
+    "role": "user",
+    "content": "Mon prénom est Claude.",
+    "ts": 1781162217
+  },
+  {
+    "role": "assistant",
+    "content": "Bonjour à nouveau, **Claude** ! 😊  \nTu me le redis, mais je me souviens déjà : ton prénom est bien **Claude**. Comment puis-je t’aider aujourd’hui ?",
+    "ts": 1781162217
+  },
+  {
+    "role": "user",
+    "content": "Quel est mon prénom?",
+    "ts": 1781162217
+  },
+  {
+    "role": "assistant",
+    "content": "Ton prénom est **Claude**. 😊",
+    "ts": 1781162217
+  }
+]

clovis-0.5.0/memory/validation_1781162957/short_term.json

@@ -0,0 +1,22 @@
+[
+  {
+    "role": "user",
+    "content": "Mon chiffre préféré est 42.",
+    "ts": 1781162960
+  },
+  {
+    "role": "assistant",
+    "content": "Ah, le 42 ! C'est un choix très... *profond*. 😄  \nComme le dit le Guide du voyageur intergalactique, *42 est la réponse à la grande question sur la vie, l’univers et tout le reste*. Le seul problème, c’est de savoir *quelle était la question*... 🤔\n\nSouhaitez-vous explorer quelque chose en lien avec ce chiffre ?  \nPar exemple :\n- Des faits mathématiques sur 42 ?\n- Des références culturelles (livres, films, séries) ?\n- Ou une idée originale basée sur ce chiffre ?\n\nJe suis là pour explorer cette fascination avec vous !",
+    "ts": 1781162960
+  },
+  {
+    "role": "user",
+    "content": "Quel est mon chiffre préféré?",
+    "ts": 1781162962
+  },
+  {
+    "role": "assistant",
+    "content": "Ton chiffre préféré est… **42** ! 😄  \nTu l’as déjà mentionné, et je dois dire que c’est un choix *très* distingué. Un mélange savant de sagesse mathématique, de culture pop, et d’un brin d’humour cosmique. 🚀\n\nSouhaites-tu en savoir plus sur ce chiffre ou en faire quelque chose de particulier ?",
+    "ts": 1781162962
+  }
+]

{clovis-0.4.0 → clovis-0.5.0}/pyproject.toml

@@ -4,8 +4,8 @@ build-backend = "hatchling.build"
 
 [project]
 name = "clovis"
-version = "0.4.0"
-description = "cloooooo — personal LLM client, prompt/context/thinking interface over local Ollama"
+version = "0.5.0"
+description = "cloooooo — SGLang + RAG hybrid + tools + router + structured outputs + eval"
 readme = "README.md"
 license = { text = "MIT" }
 authors = [{ name = "Clovis Sfeir" }]
@@ -29,6 +29,15 @@ dependencies = [
     "pydantic>=2.0",
     "rich>=13.0",
     "ddgs>=0.1",
+    "trafilatura>=2.0",
+    "fastembed>=0.3",
+    "Pillow>=10.0",
+    "bm25s>=0.2",
+    "jsonschema>=4.0",
+    "lancedb>=0.6",
+    "ollama>=0.3",
+    "pymupdf>=1.24",
+    "python-docx>=1.1",
 ]
 
 [project.scripts]

clovis-0.5.0/rag_db/__manifest/_transactions/0-96387b07-3704-4853-afd7-b97f40add5ae.txn

@@ -0,0 +1,2 @@
+$96387b07-3704-4853-afd7-b97f40add5ae��U	object_id ���������
*string8R1
+,lance-schema:unenforced-primary-key:position
0`
$object_type
 ���������
*string8#location ���������
*string0
8#metadata ���������
*string0
8%base_objects ���������
*list0
8
	object_id *string0
8

clovis-0.5.0/rag_db/__manifest/_versions/latest_version_hint.json

@@ -0,0 +1 @@
+{"version":1}

clovis-0.5.0/rag_db/documents.lance/_transactions/0-e058a7d3-06a7-419e-aa44-9784d0c1aa35.txn

@@ -0,0 +1 @@
+$e058a7d3-06a7-419e-aa44-9784d0c1aa35��id ���������
*string0
8text
 ���������
*string0
8&source_path ���������
*string0
8&source_name ���������
*string0
8"page_num ���������
*int320
8
#	chunk_idx ���������
*int320
8
%token_count ���������
*int320
8
%ingested_at ���������
*int640
8
4vector ���������
*fixed_size_list:float:7680
8

clovis-0.5.0/rag_db/documents.lance/_transactions/1-c6764627-dbb8-465f-ac94-75e53e5f9937.txn

@@ -0,0 +1 @@
+
$c6764627-dbb8-465f-ac94-75e53e5f9937�#!source_path = '/tmp/test_doc.txt'

clovis-0.5.0/rag_db/documents.lance/_transactions/10-f744c9b6-5bc9-44bc-92eb-01e6ac459e61.txn

@@ -0,0 +1,2 @@
+
+$f744c9b6-5bc9-44bc-92eb-01e6ac459e61�&$source_path = '/tmp/tmp1jxocjsz.txt'

clovis-0.5.0/rag_db/documents.lance/_transactions/13-03edcf05-3093-4be9-b757-423e8b3dd4e9.txn

@@ -0,0 +1 @@
+

clovis-0.5.0/rag_db/documents.lance/_transactions/16-4fb3a2ad-e182-4a8e-ae09-f6300be17b49.txn

@@ -0,0 +1 @@
+$4fb3a2ad-e182-4a8e-ae09-f6300be17b49�&$source_path = '/tmp/tmpopdi6kqv.txt'

clovis-0.5.0/rag_db/documents.lance/_transactions/4-f9adae5e-c7a7-437d-a179-27df4462b3a5.txn

@@ -0,0 +1 @@
+$f9adae5e-c7a7-437d-a179-27df4462b3a5�&$source_path = '/tmp/tmpf2qos5is.txt'

clovis-0.5.0/rag_db/documents.lance/_transactions/7-3f700157-65bb-49c5-ad2e-db468d5b88ba.txn

@@ -0,0 +1 @@
+$3f700157-65bb-49c5-ad2e-db468d5b88ba�&$source_path = '/tmp/tmp28mgq2ic.txt'

clovis-0.5.0/rag_db/documents.lance/_versions/latest_version_hint.json

@@ -0,0 +1 @@
+{"version":19}

clovis-0.5.0/scripts/fix_patches.sh

@@ -0,0 +1,194 @@
+#!/usr/bin/env bash
+# Re-applies all 5 venv patches needed for clovis+sglang on RTX 3090 (SM86).
+# Idempotent: safe to run after every pip/uv reinstall.
+set -euo pipefail
+
+VENV="${SGLANG_VENV:-/home/csfeir/sglang-venv}"
+PY="$VENV/bin/python"
+SP="$VENV/lib/python3.12/site-packages"
+
+echo ">>> Applying sglang/torchvision patches (venv: $VENV)"
+
+"$PY" - "$SP" <<'PYEOF'
+import sys, re, textwrap
+from pathlib import Path
+
+SP = Path(sys.argv[1])
+
+def patch(path: Path, marker: str, finder, replacer, description: str):
+    if not path.exists():
+        print(f"  SKIP (not found): {path.relative_to(SP)}")
+        return
+    text = path.read_text()
+    if marker in text:
+        print(f"  ALREADY: {description}")
+        return
+    new_text = replacer(text)
+    if new_text == text:
+        print(f"  WARN (no change): {description}")
+        return
+    path.write_text(new_text)
+    print(f"  OK: {description}")
+
+# ── 1. torchvision: remove @register_fake decorator for nms ──────────────────
+tv = SP / "torchvision/_meta_registrations.py"
+if not tv.exists():
+    print("  SKIP (not found): torchvision/_meta_registrations.py")
+else:
+    tv_text = tv.read_text()
+    nms_decorator = '@torch.library.register_fake("torchvision::nms")'
+    if nms_decorator not in tv_text:
+        print("  ALREADY: torchvision/_meta_registrations.py – nms decorator absent")
+    else:
+        new_tv = re.sub(
+            r'@torch\.library\.register_fake\("torchvision::nms"\)\s*\n(\s*def meta_nms)',
+            r'\1',
+            tv_text,
+        )
+        if new_tv != tv_text:
+            tv.write_text(new_tv)
+            print("  OK: torchvision/_meta_registrations.py – removed nms register_fake")
+        else:
+            print("  WARN (no change): torchvision/_meta_registrations.py")
+
+# ── 2. sgl_kernel/load_utils.py: stub class instead of raise ImportError ─────
+patch(
+    SP / "sgl_kernel/load_utils.py",
+    marker="class _StubOps",
+    finder=None,
+    replacer=lambda t: re.sub(
+        r'raise ImportError\(error_msg\)',
+        textwrap.dedent("""\
+            logger.warning(
+                f"[sgl_kernel] Could not load common_ops for compute capability {compute_capability}. "
+                "fp8/fp4 ops will raise RuntimeError if called. "
+                "AWQ/GPTQ inference is unaffected."
+            )
+
+            class _StubOps:
+                \"\"\"Returned when common_ops .so is incompatible with current torch/GPU.\"\"\"
+                def __getattr__(self, name):
+                    def _unavailable(*args, **kwargs):
+                        raise RuntimeError(
+                            f"sgl_kernel common_ops.{name} is unavailable "
+                            f"(GPU SM{compute_capability}, torch ABI mismatch). "
+                            "Reinstall sgl_kernel matching your torch version."
+                        )
+                    return _unavailable
+
+            return _StubOps()"""),
+        t,
+    ),
+    description="sgl_kernel/load_utils.py – stub class on load failure",
+)
+
+# ── 3. sgl_kernel/__init__.py: _safe_register_fake ───────────────────────────
+patch(
+    SP / "sgl_kernel/__init__.py",
+    marker="_safe_register_fake",
+    finder=None,
+    replacer=lambda t: t.replace(
+        "common_ops = _load_architecture_specific_ops()\n",
+        textwrap.dedent("""\
+            common_ops = _load_architecture_specific_ops()
+
+            # If common_ops is a stub, silence register_fake failures gracefully.
+            _orig_register_fake = torch.library.register_fake
+
+            def _safe_register_fake(op_name, *args, **kwargs):
+                inner_decorator = _orig_register_fake(op_name, *args, **kwargs)
+                def safe_decorator(func):
+                    try:
+                        return inner_decorator(func)
+                    except RuntimeError:
+                        return func
+                return safe_decorator
+
+            torch.library.register_fake = _safe_register_fake
+            """),
+    ),
+    description="sgl_kernel/__init__.py – _safe_register_fake",
+)
+
+# ── 4. fp8_kernel.py: wrap @register_fake calls in try/except ─────────────────
+fp8 = SP / "sglang/srt/layers/quantization/fp8_kernel.py"
+if fp8.exists():
+    text = fp8.read_text()
+    marker = "# PATCHED: register_fake wrapped"
+    if marker in text:
+        print("  ALREADY: fp8_kernel.py – register_fake try/except")
+    else:
+        # Wrap each bare @torch.library.register_fake decorator + decorated function
+        def wrap_register_fake(m):
+            indent = m.group(1)
+            decorator = m.group(2)
+            func_def = m.group(3)
+            body = m.group(4)
+            return (
+                f"{indent}# PATCHED: register_fake wrapped\n"
+                f"{indent}try:\n"
+                f"{indent}    {decorator}\n"
+                f"{indent}    {func_def}\n"
+                + "\n".join(f"{indent}    {line}" if line.strip() else line
+                             for line in body.split("\n")) + "\n"
+                f"{indent}except RuntimeError:\n"
+                f"{indent}    pass\n"
+            )
+        new_text = re.sub(
+            r'^(\s*)(@torch\.library\.register_fake\("sgl_kernel::[^"]+"\))\n'
+            r'(\s*def \w+[^\n]*)\n'
+            r'((?:(?!\n\s*@|\n\s*def |\n\S).+\n)*)',
+            wrap_register_fake,
+            text,
+            flags=re.MULTILINE,
+        )
+        if new_text != text:
+            fp8.write_text(new_text)
+            print("  OK: fp8_kernel.py – register_fake try/except")
+        else:
+            print("  WARN (no change): fp8_kernel.py – register_fake try/except")
+
+# ── 5. transformers/versions.py: warn instead of raise ───────────────────────
+ver = SP / "transformers/utils/versions.py"
+if ver.exists():
+    text = ver.read_text()
+    marker = "patched to warn"
+    if marker in text:
+        print("  ALREADY: transformers/utils/versions.py – warn instead of raise")
+    else:
+        old = textwrap.dedent("""\
+            def require_version_core(requirement):
+                \"\"\"require_version wrapper that's only usable in the core of Transformers.\"\"\"
+                hint = "Try: `pip install transformers -U` or `pip install -e '.[dev]'` if you're working with git main"
+                require_version(requirement, hint)""")
+        new = textwrap.dedent("""\
+            def require_version_core(requirement):
+                \"\"\"require_version wrapper — patched to warn instead of crash on version mismatch.\"\"\"
+                import logging as _logging
+                hint = "Try: `pip install transformers -U` or `pip install -e '.[dev]'` if you're working with git main"
+                try:
+                    return require_version(requirement, hint)
+                except ImportError as e:
+                    _logging.getLogger("transformers.versions").warning(str(e))""")
+        if old in text:
+            ver.write_text(text.replace(old, new))
+            print("  OK: transformers/utils/versions.py – warn instead of raise")
+        else:
+            # Fallback: replace whatever require_version_core looks like
+            new_text = re.sub(
+                r'def require_version_core\(requirement\):.*?(?=\ndef |\Z)',
+                new + "\n\n",
+                text,
+                flags=re.DOTALL,
+            )
+            if new_text != text:
+                ver.write_text(new_text)
+                print("  OK (fallback): transformers/utils/versions.py – warn instead of raise")
+            else:
+                print("  WARN (could not locate function): transformers/utils/versions.py")
+
+print("\nAll patches done.")
+PYEOF
+
+echo ""
+echo ">>> Run 'systemctl --user restart clovis-api' if sglang is running."