llama-cpp-python 0.1.8__tar.gz → 0.1.9__tar.gz

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (46) hide show
  1. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/PKG-INFO +1 -1
  2. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp/llama.py +14 -0
  3. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp_python.egg-info/PKG-INFO +1 -1
  4. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/pyproject.toml +1 -1
  5. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/setup.py +1 -1
  6. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/.gitignore +0 -0
  7. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/.gitmodules +0 -0
  8. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/CMakeLists.txt +0 -0
  9. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/LICENSE.md +0 -0
  10. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/README.md +0 -0
  11. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/_skbuild/linux-x86_64-3.8/cmake-install/llama_cpp/libllama.so +0 -0
  12. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp/__init__.py +0 -0
  13. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp/llama_cpp.py +0 -0
  14. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp_python.egg-info/SOURCES.txt +0 -0
  15. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp_python.egg-info/dependency_links.txt +0 -0
  16. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp_python.egg-info/top_level.txt +0 -0
  17. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/poetry.lock +0 -0
  18. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/setup.cfg +0 -0
  19. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.devops/full.Dockerfile +0 -0
  20. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.devops/main.Dockerfile +0 -0
  21. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.devops/tools.sh +0 -0
  22. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.dockerignore +0 -0
  23. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.github/ISSUE_TEMPLATE/custom.md +0 -0
  24. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.github/workflows/build.yml +0 -0
  25. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.github/workflows/docker.yml +0 -0
  26. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/.gitignore +0 -0
  27. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/CMakeLists.txt +0 -0
  28. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/LICENSE +0 -0
  29. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/Makefile +0 -0
  30. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/README.md +0 -0
  31. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/SHA256SUMS +0 -0
  32. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/convert-gptq-to-ggml.py +0 -0
  33. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/convert-pth-to-ggml.py +0 -0
  34. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/flake.lock +0 -0
  35. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/flake.nix +0 -0
  36. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/ggml.c +0 -0
  37. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/ggml.h +0 -0
  38. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/llama.cpp +0 -0
  39. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/llama.h +0 -0
  40. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/models/ggml-vocab.bin +0 -0
  41. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/prompts/alpaca.txt +0 -0
  42. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/prompts/chat-with-bob.txt +0 -0
  43. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/quantize.py +0 -0
  44. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/tests/CMakeLists.txt +0 -0
  45. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/tests/test-quantize.c +0 -0
  46. {llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/vendor/llama.cpp/tests/test-tokenizer-0.cpp +0 -0
{llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/PKG-INFO RENAMED
@@ -1,6 +1,6 @@
1
1
  Metadata-Version: 2.1
2
2
  Name: llama_cpp_python
3
- Version: 0.1.8
3
+ Version: 0.1.9
4
4
  Summary: A Python wrapper for llama.cpp
5
5
  Author: Andrei Betlen
6
6
  Author-email: abetlen@gmail.com
{llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp/llama.py RENAMED
@@ -105,6 +105,20 @@ class Llama:
105
105
  output += llama_cpp.llama_token_to_str(self.ctx, token)
106
106
  return output
107
107
 
108
+ def embed(self, text: str):
109
+ """Embed a string.
110
+
111
+ Args:
112
+ text: The utf-8 encoded string to embed.
113
+
114
+ Returns:
115
+ A list of embeddings.
116
+ """
117
+ tokens = self.tokenize(text.encode("utf-8"))
118
+ self._eval(tokens, 0)
119
+ embeddings = llama_cpp.llama_get_embeddings(self.ctx)
120
+ return embeddings[:llama_cpp.llama_n_embd(self.ctx)]
121
+
108
122
  def _eval(self, tokens: List[int], n_past):
109
123
  rc = llama_cpp.llama_eval(
110
124
  self.ctx,
{llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/llama_cpp_python.egg-info/PKG-INFO RENAMED
@@ -1,6 +1,6 @@
1
1
  Metadata-Version: 2.1
2
2
  Name: llama-cpp-python
3
- Version: 0.1.8
3
+ Version: 0.1.9
4
4
  Summary: A Python wrapper for llama.cpp
5
5
  Author: Andrei Betlen
6
6
  Author-email: abetlen@gmail.com
{llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/pyproject.toml RENAMED
@@ -1,6 +1,6 @@
1
1
  [tool.poetry]
2
2
  name = "llama_cpp"
3
- version = "0.1.8"
3
+ version = "0.1.9"
4
4
  description = "Python bindings for the llama.cpp library"
5
5
  authors = ["Andrei Betlen <abetlen@gmail.com>"]
6
6
  license = "MIT"
{llama_cpp_python-0.1.8 → llama_cpp_python-0.1.9}/setup.py RENAMED
@@ -3,7 +3,7 @@ from skbuild import setup
3
3
  setup(
4
4
  name="llama_cpp_python",
5
5
  description="A Python wrapper for llama.cpp",
6
- version="0.1.8",
6
+ version="0.1.9",
7
7
  author="Andrei Betlen",
8
8
  author_email="abetlen@gmail.com",
9
9
  license="MIT",