llama-stack 0.4.1__py3-none-any.whl → 0.4.3__py3-none-any.whl

This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
Files changed (96) hide show
  1. llama_stack/cli/stack/run.py +3 -0
  2. llama_stack/core/library_client.py +80 -3
  3. llama_stack/core/routing_tables/common.py +11 -0
  4. llama_stack/core/routing_tables/vector_stores.py +4 -0
  5. llama_stack/core/stack.py +38 -11
  6. llama_stack/core/storage/kvstore/kvstore.py +11 -0
  7. llama_stack/core/storage/kvstore/mongodb/mongodb.py +5 -0
  8. llama_stack/core/storage/kvstore/postgres/postgres.py +8 -0
  9. llama_stack/core/storage/kvstore/redis/redis.py +5 -0
  10. llama_stack/core/storage/sqlstore/sqlalchemy_sqlstore.py +8 -0
  11. llama_stack/core/storage/sqlstore/sqlstore.py +8 -0
  12. llama_stack/providers/inline/agents/meta_reference/responses/openai_responses.py +60 -34
  13. llama_stack/providers/inline/agents/meta_reference/responses/streaming.py +4 -0
  14. llama_stack/providers/inline/agents/meta_reference/responses/tool_executor.py +9 -1
  15. llama_stack/providers/inline/tool_runtime/rag/memory.py +8 -3
  16. llama_stack/providers/remote/vector_io/pgvector/pgvector.py +13 -1
  17. llama_stack/providers/utils/inference/embedding_mixin.py +20 -16
  18. llama_stack/providers/utils/memory/openai_vector_store_mixin.py +33 -0
  19. llama_stack/providers/utils/memory/vector_store.py +9 -4
  20. llama_stack/providers/utils/tools/mcp.py +258 -16
  21. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/METADATA +2 -2
  22. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/RECORD +96 -29
  23. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/WHEEL +1 -1
  24. llama_stack_api/internal/kvstore.py +2 -0
  25. llama_stack_api/internal/sqlstore.py +2 -0
  26. llama_stack_api/llama_stack_api/__init__.py +945 -0
  27. llama_stack_api/llama_stack_api/admin/__init__.py +45 -0
  28. llama_stack_api/llama_stack_api/admin/api.py +72 -0
  29. llama_stack_api/llama_stack_api/admin/fastapi_routes.py +117 -0
  30. llama_stack_api/llama_stack_api/admin/models.py +113 -0
  31. llama_stack_api/llama_stack_api/agents.py +173 -0
  32. llama_stack_api/llama_stack_api/batches/__init__.py +40 -0
  33. llama_stack_api/llama_stack_api/batches/api.py +53 -0
  34. llama_stack_api/llama_stack_api/batches/fastapi_routes.py +113 -0
  35. llama_stack_api/llama_stack_api/batches/models.py +78 -0
  36. llama_stack_api/llama_stack_api/benchmarks/__init__.py +43 -0
  37. llama_stack_api/llama_stack_api/benchmarks/api.py +39 -0
  38. llama_stack_api/llama_stack_api/benchmarks/fastapi_routes.py +109 -0
  39. llama_stack_api/llama_stack_api/benchmarks/models.py +109 -0
  40. llama_stack_api/llama_stack_api/common/__init__.py +5 -0
  41. llama_stack_api/llama_stack_api/common/content_types.py +101 -0
  42. llama_stack_api/llama_stack_api/common/errors.py +95 -0
  43. llama_stack_api/llama_stack_api/common/job_types.py +38 -0
  44. llama_stack_api/llama_stack_api/common/responses.py +77 -0
  45. llama_stack_api/llama_stack_api/common/training_types.py +47 -0
  46. llama_stack_api/llama_stack_api/common/type_system.py +146 -0
  47. llama_stack_api/llama_stack_api/connectors.py +146 -0
  48. llama_stack_api/llama_stack_api/conversations.py +270 -0
  49. llama_stack_api/llama_stack_api/datasetio.py +55 -0
  50. llama_stack_api/llama_stack_api/datasets/__init__.py +61 -0
  51. llama_stack_api/llama_stack_api/datasets/api.py +35 -0
  52. llama_stack_api/llama_stack_api/datasets/fastapi_routes.py +104 -0
  53. llama_stack_api/llama_stack_api/datasets/models.py +152 -0
  54. llama_stack_api/llama_stack_api/datatypes.py +373 -0
  55. llama_stack_api/llama_stack_api/eval.py +137 -0
  56. llama_stack_api/llama_stack_api/file_processors/__init__.py +27 -0
  57. llama_stack_api/llama_stack_api/file_processors/api.py +64 -0
  58. llama_stack_api/llama_stack_api/file_processors/fastapi_routes.py +78 -0
  59. llama_stack_api/llama_stack_api/file_processors/models.py +42 -0
  60. llama_stack_api/llama_stack_api/files/__init__.py +35 -0
  61. llama_stack_api/llama_stack_api/files/api.py +51 -0
  62. llama_stack_api/llama_stack_api/files/fastapi_routes.py +124 -0
  63. llama_stack_api/llama_stack_api/files/models.py +107 -0
  64. llama_stack_api/llama_stack_api/inference.py +1169 -0
  65. llama_stack_api/llama_stack_api/inspect_api/__init__.py +37 -0
  66. llama_stack_api/llama_stack_api/inspect_api/api.py +25 -0
  67. llama_stack_api/llama_stack_api/inspect_api/fastapi_routes.py +76 -0
  68. llama_stack_api/llama_stack_api/inspect_api/models.py +28 -0
  69. llama_stack_api/llama_stack_api/internal/__init__.py +9 -0
  70. llama_stack_api/llama_stack_api/internal/kvstore.py +28 -0
  71. llama_stack_api/llama_stack_api/internal/sqlstore.py +81 -0
  72. llama_stack_api/llama_stack_api/models.py +171 -0
  73. llama_stack_api/llama_stack_api/openai_responses.py +1468 -0
  74. llama_stack_api/llama_stack_api/post_training.py +370 -0
  75. llama_stack_api/llama_stack_api/prompts.py +203 -0
  76. llama_stack_api/llama_stack_api/providers/__init__.py +33 -0
  77. llama_stack_api/llama_stack_api/providers/api.py +16 -0
  78. llama_stack_api/llama_stack_api/providers/fastapi_routes.py +57 -0
  79. llama_stack_api/llama_stack_api/providers/models.py +24 -0
  80. llama_stack_api/llama_stack_api/py.typed +0 -0
  81. llama_stack_api/llama_stack_api/rag_tool.py +168 -0
  82. llama_stack_api/llama_stack_api/resource.py +37 -0
  83. llama_stack_api/llama_stack_api/router_utils.py +160 -0
  84. llama_stack_api/llama_stack_api/safety.py +132 -0
  85. llama_stack_api/llama_stack_api/schema_utils.py +208 -0
  86. llama_stack_api/llama_stack_api/scoring.py +93 -0
  87. llama_stack_api/llama_stack_api/scoring_functions.py +211 -0
  88. llama_stack_api/llama_stack_api/shields.py +93 -0
  89. llama_stack_api/llama_stack_api/tools.py +226 -0
  90. llama_stack_api/llama_stack_api/vector_io.py +941 -0
  91. llama_stack_api/llama_stack_api/vector_stores.py +53 -0
  92. llama_stack_api/llama_stack_api/version.py +9 -0
  93. llama_stack_api/vector_stores.py +2 -0
  94. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/entry_points.txt +0 -0
  95. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/licenses/LICENSE +0 -0
  96. {llama_stack-0.4.1.dist-info → llama_stack-0.4.3.dist-info}/top_level.txt +0 -0
@@ -0,0 +1,53 @@
1
+ # Copyright (c) Meta Platforms, Inc. and affiliates.
2
+ # All rights reserved.
3
+ #
4
+ # This source code is licensed under the terms described in the LICENSE file in
5
+ # the root directory of this source tree.
6
+
7
+ from typing import Literal
8
+
9
+ from pydantic import BaseModel
10
+
11
+ from llama_stack_api.resource import Resource, ResourceType
12
+
13
+
14
+ # Internal resource type for storing the vector store routing and other information
15
+ class VectorStore(Resource):
16
+ """Vector database resource for storing and querying vector embeddings.
17
+
18
+ :param type: Type of resource, always 'vector_store' for vector stores
19
+ :param embedding_model: Name of the embedding model to use for vector generation
20
+ :param embedding_dimension: Dimension of the embedding vectors
21
+ """
22
+
23
+ type: Literal[ResourceType.vector_store] = ResourceType.vector_store
24
+
25
+ embedding_model: str
26
+ embedding_dimension: int
27
+ vector_store_name: str | None = None
28
+
29
+ @property
30
+ def vector_store_id(self) -> str:
31
+ return self.identifier
32
+
33
+ @property
34
+ def provider_vector_store_id(self) -> str | None:
35
+ return self.provider_resource_id
36
+
37
+
38
+ class VectorStoreInput(BaseModel):
39
+ """Input parameters for creating or configuring a vector database.
40
+
41
+ :param vector_store_id: Unique identifier for the vector store
42
+ :param embedding_model: Name of the embedding model to use for vector generation
43
+ :param embedding_dimension: Dimension of the embedding vectors
44
+ :param provider_vector_store_id: (Optional) Provider-specific identifier for the vector store
45
+ :param vector_store_name: (Optional) Human-readable name for the vector store
46
+ """
47
+
48
+ vector_store_id: str
49
+ embedding_model: str
50
+ embedding_dimension: int
51
+ provider_id: str | None = None
52
+ provider_vector_store_id: str | None = None
53
+ vector_store_name: str | None = None
@@ -0,0 +1,9 @@
1
+ # Copyright (c) Meta Platforms, Inc. and affiliates.
2
+ # All rights reserved.
3
+ #
4
+ # This source code is licensed under the terms described in the LICENSE file in
5
+ # the root directory of this source tree.
6
+
7
+ LLAMA_STACK_API_V1 = "v1"
8
+ LLAMA_STACK_API_V1BETA = "v1beta"
9
+ LLAMA_STACK_API_V1ALPHA = "v1alpha"
@@ -42,6 +42,7 @@ class VectorStoreInput(BaseModel):
42
42
  :param embedding_model: Name of the embedding model to use for vector generation
43
43
  :param embedding_dimension: Dimension of the embedding vectors
44
44
  :param provider_vector_store_id: (Optional) Provider-specific identifier for the vector store
45
+ :param vector_store_name: (Optional) Human-readable name for the vector store
45
46
  """
46
47
 
47
48
  vector_store_id: str
@@ -49,3 +50,4 @@ class VectorStoreInput(BaseModel):
49
50
  embedding_dimension: int
50
51
  provider_id: str | None = None
51
52
  provider_vector_store_id: str | None = None
53
+ vector_store_name: str | None = None