fast-cache-middleware 0.0.1__tar.gz
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- fast_cache_middleware-0.0.1/PKG-INFO +370 -0
- fast_cache_middleware-0.0.1/README.md +354 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/__init__.py +34 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/controller.py +231 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/depends.py +66 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/exceptions.py +6 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/middleware.py +293 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/schemas.py +21 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/serializers.py +92 -0
- fast_cache_middleware-0.0.1/fast_cache_middleware/storages.py +238 -0
- fast_cache_middleware-0.0.1/pyproject.toml +54 -0
@@ -0,0 +1,370 @@
|
|
1
|
+
Metadata-Version: 2.3
|
2
|
+
Name: fast-cache-middleware
|
3
|
+
Version: 0.0.1
|
4
|
+
Summary: Интеллектуальное middleware для кеширования ответов FastAPI
|
5
|
+
License: MIT
|
6
|
+
Author: Your Name
|
7
|
+
Author-email: your.email@example.com
|
8
|
+
Requires-Python: >=3.11,<4.0
|
9
|
+
Classifier: License :: OSI Approved :: MIT License
|
10
|
+
Classifier: Programming Language :: Python :: 3
|
11
|
+
Classifier: Programming Language :: Python :: 3.11
|
12
|
+
Classifier: Programming Language :: Python :: 3.12
|
13
|
+
Classifier: Programming Language :: Python :: 3.13
|
14
|
+
Requires-Dist: fastapi (>=0.111.1,<0.112.0)
|
15
|
+
Description-Content-Type: text/markdown
|
16
|
+
|
17
|
+
# FastCacheMiddleware
|
18
|
+
|
19
|
+
🚀 **Высокопроизводительный ASGI middleware для кеширования с резолюцией роутов**
|
20
|
+
|
21
|
+
## ✨ Основные особенности
|
22
|
+
|
23
|
+
FastCacheMiddleware использует **подход с резолюцией роутов** - анализирует роуты приложения на старте и извлекает кеш конфигурации из FastAPI dependencies.
|
24
|
+
|
25
|
+
### 🔧 Как это работает
|
26
|
+
|
27
|
+
1. **При старте приложения:**
|
28
|
+
- Middleware анализирует все роуты и их dependencies
|
29
|
+
- Извлекает `CacheConfig` и `CacheDropConfig` из dependencies
|
30
|
+
- Создает внутренний индекс роутов с конфигурациями кеширования
|
31
|
+
|
32
|
+
2. **При обработке запроса:**
|
33
|
+
- Проверяет HTTP метод (кешируем только GET, инвалидируем для POST/PUT/DELETE)
|
34
|
+
- Находит соответствующий роут по пути и методу
|
35
|
+
- Извлекает кеш конфигурацию из предварительно проанализированных dependencies
|
36
|
+
- Выполняет кеширование или инвалидацию согласно конфигурации
|
37
|
+
|
38
|
+
### 💡 Преимущества
|
39
|
+
|
40
|
+
- **⚡ Высокая производительность** - предварительный анализ роутов
|
41
|
+
- **🎯 Простая интеграция** - стандартные FastAPI dependencies
|
42
|
+
- **🔧 Гибкая настройка** - кастомные функции ключей, TTL на уровне роутов
|
43
|
+
- **🛡️ Автоматическая инвалидация** - инвалидация кеша при модифицирующих запросах
|
44
|
+
- **📊 Минимальные накладные расходы** - эффективная работа с большим количеством роутов
|
45
|
+
|
46
|
+
## 📦 Установка
|
47
|
+
|
48
|
+
```bash
|
49
|
+
pip install fast-cache-middleware
|
50
|
+
```
|
51
|
+
|
52
|
+
## 🎯 Быстрый старт
|
53
|
+
|
54
|
+
```python
|
55
|
+
from fastapi import FastAPI, Depends
|
56
|
+
from fast_cache_middleware import FastCacheMiddleware, CacheConfig, CacheDropConfig
|
57
|
+
|
58
|
+
app = FastAPI()
|
59
|
+
|
60
|
+
# Добавляем middleware - он автоматически анализирует роуты
|
61
|
+
app.add_middleware(FastCacheMiddleware)
|
62
|
+
|
63
|
+
# Функции для создания кеш конфигураций
|
64
|
+
def cache_5min() -> CacheConfig:
|
65
|
+
return CacheConfig(max_age=300) # 5 минут
|
66
|
+
|
67
|
+
def cache_with_custom_key() -> CacheConfig:
|
68
|
+
def custom_key_func(request):
|
69
|
+
user_id = request.headers.get("user-id", "anonymous")
|
70
|
+
return f"{request.url.path}:user:{user_id}"
|
71
|
+
|
72
|
+
return CacheConfig(max_age=60, key_func=custom_key_func)
|
73
|
+
|
74
|
+
def invalidate_users() -> CacheDropConfig:
|
75
|
+
return CacheDropConfig(paths=["/users/*", "/api/users/*"])
|
76
|
+
|
77
|
+
# Роуты с кешированием
|
78
|
+
@app.get("/users/{user_id}", dependencies=[Depends(cache_5min)])
|
79
|
+
async def get_user(user_id: int):
|
80
|
+
"""Этот endpoint кешируется на 5 минут."""
|
81
|
+
# Имитируем загрузку из БД
|
82
|
+
return {"user_id": user_id, "name": f"User {user_id}"}
|
83
|
+
|
84
|
+
@app.get("/profile", dependencies=[Depends(cache_with_custom_key)])
|
85
|
+
async def get_profile():
|
86
|
+
"""Кеширование с персонализированным ключом."""
|
87
|
+
return {"profile": "user profile data"}
|
88
|
+
|
89
|
+
# Роуты с инвалидацией кеша
|
90
|
+
@app.post("/users/{user_id}", dependencies=[Depends(invalidate_users)])
|
91
|
+
async def update_user(user_id: int, data: dict):
|
92
|
+
"""POST запрос инвалидирует кеш для всех /users/* путей."""
|
93
|
+
return {"user_id": user_id, "status": "updated"}
|
94
|
+
```
|
95
|
+
|
96
|
+
## 🔧 Конфигурация
|
97
|
+
|
98
|
+
### CacheConfig
|
99
|
+
|
100
|
+
Настройка кеширования для GET запросов:
|
101
|
+
|
102
|
+
```python
|
103
|
+
from fast_cache_middleware import CacheConfig
|
104
|
+
|
105
|
+
# Простое кеширование
|
106
|
+
def simple_cache() -> CacheConfig:
|
107
|
+
return CacheConfig(max_age=300) # 5 минут
|
108
|
+
|
109
|
+
# С кастомной функцией ключа
|
110
|
+
def personalized_cache() -> CacheConfig:
|
111
|
+
def key_func(request):
|
112
|
+
user_id = request.headers.get("user-id", "anonymous")
|
113
|
+
path = request.url.path
|
114
|
+
query = str(request.query_params)
|
115
|
+
return f"{path}:{user_id}:{query}"
|
116
|
+
|
117
|
+
return CacheConfig(
|
118
|
+
max_age=600, # 10 минут
|
119
|
+
key_func=key_func
|
120
|
+
)
|
121
|
+
|
122
|
+
@app.get("/api/data", dependencies=[Depends(personalized_cache)])
|
123
|
+
async def get_data():
|
124
|
+
return {"data": "personalized response"}
|
125
|
+
```
|
126
|
+
|
127
|
+
### CacheDropConfig
|
128
|
+
|
129
|
+
Настройка инвалидации кеша для модифицирующих запросов:
|
130
|
+
|
131
|
+
```python
|
132
|
+
from fast_cache_middleware import CacheDropConfig
|
133
|
+
|
134
|
+
def invalidate_multiple_paths() -> CacheDropConfig:
|
135
|
+
return CacheDropConfig(paths=[
|
136
|
+
"/users/*", # Все пути пользователей
|
137
|
+
"/api/users/*", # API пользователей
|
138
|
+
"/cache/users/*" # Кеш пользователей
|
139
|
+
])
|
140
|
+
|
141
|
+
@app.post("/users/{user_id}")
|
142
|
+
@app.put("/users/{user_id}")
|
143
|
+
@app.delete("/users/{user_id}")
|
144
|
+
async def modify_user(user_id: int):
|
145
|
+
"""Любой из этих запросов инвалидирует кеш."""
|
146
|
+
return {"message": "User modified"}
|
147
|
+
```
|
148
|
+
|
149
|
+
## 🏗️ Архитектура
|
150
|
+
|
151
|
+
### Компоненты системы
|
152
|
+
|
153
|
+
```
|
154
|
+
FastCacheMiddleware
|
155
|
+
├── RouteInfo # Информация о роуте с кеш конфигурацией
|
156
|
+
├── Controller # Логика кеширования и валидации
|
157
|
+
├── Storage # Хранилища (InMemory, Redis, и др.)
|
158
|
+
├── Serializers # Сериализация кешированных данных
|
159
|
+
└── Dependencies # FastAPI dependencies для конфигурации
|
160
|
+
```
|
161
|
+
|
162
|
+
### Поток обработки запроса
|
163
|
+
|
164
|
+
```mermaid
|
165
|
+
graph TD
|
166
|
+
A[HTTP Request] --> B{Анализ роутов выполнен?}
|
167
|
+
B -->|Нет| C[Анализировать роуты приложения]
|
168
|
+
C --> D[Сохранить конфигурации роутов]
|
169
|
+
B -->|Да| E{Метод поддерживает кеширование?}
|
170
|
+
D --> E
|
171
|
+
E -->|Нет| F[Передать в приложение]
|
172
|
+
E -->|Да| G[Найти соответствующий роут]
|
173
|
+
G --> H{Роут найден?}
|
174
|
+
H -->|Нет| F
|
175
|
+
H -->|Да| I{GET запрос + CacheConfig?}
|
176
|
+
I -->|Да| J[Проверить кеш]
|
177
|
+
J --> K{Кеш найден?}
|
178
|
+
K -->|Да| L[Вернуть из кеша]
|
179
|
+
K -->|Нет| M[Выполнить запрос + сохранить в кеш]
|
180
|
+
I -->|Нет| N{POST/PUT/DELETE + CacheDropConfig?}
|
181
|
+
N -->|Да| O[Инвалидировать кеш]
|
182
|
+
N -->|Нет| F
|
183
|
+
O --> F
|
184
|
+
M --> P[Вернуть ответ]
|
185
|
+
```
|
186
|
+
|
187
|
+
## 🎛️ Хранилища
|
188
|
+
|
189
|
+
### InMemoryStorage (по умолчанию)
|
190
|
+
|
191
|
+
```python
|
192
|
+
from fast_cache_middleware import FastCacheMiddleware, InMemoryStorage
|
193
|
+
|
194
|
+
storage = InMemoryStorage(
|
195
|
+
max_size=1000, # Максимум записей
|
196
|
+
cleanup_interval=3600 # Очистка каждый час
|
197
|
+
)
|
198
|
+
app.add_middleware(FastCacheMiddleware, storage=storage)
|
199
|
+
```
|
200
|
+
|
201
|
+
### Кастомное хранилище
|
202
|
+
|
203
|
+
```python
|
204
|
+
from fast_cache_middleware import BaseStorage
|
205
|
+
|
206
|
+
class RedisStorage(BaseStorage):
|
207
|
+
def __init__(self, redis_url: str):
|
208
|
+
import redis
|
209
|
+
self.redis = redis.from_url(redis_url)
|
210
|
+
|
211
|
+
async def store(self, key: str, response, request, metadata):
|
212
|
+
# Реализация сохранения в Redis
|
213
|
+
pass
|
214
|
+
|
215
|
+
async def retrieve(self, key: str):
|
216
|
+
# Реализация извлечения из Redis
|
217
|
+
pass
|
218
|
+
|
219
|
+
app.add_middleware(FastCacheMiddleware, storage=RedisStorage("redis://localhost"))
|
220
|
+
```
|
221
|
+
|
222
|
+
## 🧪 Тестирование
|
223
|
+
|
224
|
+
```python
|
225
|
+
import pytest
|
226
|
+
from httpx import AsyncClient
|
227
|
+
from examples.basic import app
|
228
|
+
|
229
|
+
@pytest.mark.asyncio
|
230
|
+
async def test_caching():
|
231
|
+
async with AsyncClient(app=app, base_url="http://test") as client:
|
232
|
+
# Первый запрос - cache miss
|
233
|
+
response1 = await client.get("/users/1")
|
234
|
+
assert response1.status_code == 200
|
235
|
+
|
236
|
+
# Второй запрос - cache hit (должен быть быстрее)
|
237
|
+
response2 = await client.get("/users/1")
|
238
|
+
assert response2.status_code == 200
|
239
|
+
assert response1.json() == response2.json()
|
240
|
+
|
241
|
+
@pytest.mark.asyncio
|
242
|
+
async def test_cache_invalidation():
|
243
|
+
async with AsyncClient(app=app, base_url="http://test") as client:
|
244
|
+
# Кешируем данные
|
245
|
+
await client.get("/users/1")
|
246
|
+
|
247
|
+
# Инвалидируем кеш
|
248
|
+
await client.post("/users/1", json={})
|
249
|
+
|
250
|
+
# Следующий GET должен выполнить новый запрос
|
251
|
+
response = await client.get("/users/1")
|
252
|
+
assert response.status_code == 200
|
253
|
+
```
|
254
|
+
|
255
|
+
## 📊 Производительность
|
256
|
+
|
257
|
+
### Бенчмарки
|
258
|
+
|
259
|
+
- **Анализ роутов**: ~5ms для 100 роутов при старте
|
260
|
+
- **Поиск роута**: ~0.1ms на запрос (O(n) по количеству кешируемых роутов)
|
261
|
+
- **Cache hit**: ~1ms на запрос
|
262
|
+
- **Cache miss**: время оригинального запроса + ~2ms на сохранение
|
263
|
+
|
264
|
+
### Оптимизация
|
265
|
+
|
266
|
+
```python
|
267
|
+
# Для приложений с большим количеством роутов
|
268
|
+
app.add_middleware(
|
269
|
+
FastCacheMiddleware,
|
270
|
+
storage=InMemoryStorage(max_size=10000), # Увеличить размер кеша
|
271
|
+
controller=Controller(default_ttl=3600) # Увеличить TTL по умолчанию
|
272
|
+
)
|
273
|
+
```
|
274
|
+
|
275
|
+
## 🔒 Безопасность
|
276
|
+
|
277
|
+
### Изоляция кеша
|
278
|
+
|
279
|
+
```python
|
280
|
+
def user_specific_cache() -> CacheConfig:
|
281
|
+
def secure_key_func(request):
|
282
|
+
# Включаем токен пользователя в ключ
|
283
|
+
token = request.headers.get("authorization", "").split(" ")[-1]
|
284
|
+
return f"{request.url.path}:token:{token}"
|
285
|
+
|
286
|
+
return CacheConfig(max_age=300, key_func=secure_key_func)
|
287
|
+
|
288
|
+
@app.get("/private/data", dependencies=[Depends(user_specific_cache)])
|
289
|
+
async def get_private_data():
|
290
|
+
return {"sensitive": "data"}
|
291
|
+
```
|
292
|
+
|
293
|
+
### Валидация заголовков
|
294
|
+
|
295
|
+
Middleware автоматически учитывает стандартные HTTP заголовки кеширования:
|
296
|
+
|
297
|
+
- `Cache-Control: no-cache` - пропуск кеша
|
298
|
+
- `Cache-Control: no-store` - запрет кеширования
|
299
|
+
- `If-None-Match` - проверка ETag
|
300
|
+
- `If-Modified-Since` - проверка времени модификации
|
301
|
+
|
302
|
+
## 🛠️ Продвинутое использование
|
303
|
+
|
304
|
+
### Кастомный Controller
|
305
|
+
|
306
|
+
```python
|
307
|
+
from fast_cache_middleware import Controller
|
308
|
+
|
309
|
+
class CustomController(Controller):
|
310
|
+
async def should_cache_request(self, request):
|
311
|
+
# Кастомная логика - не кешируем админские запросы
|
312
|
+
if request.headers.get("x-admin-request"):
|
313
|
+
return False
|
314
|
+
return await super().should_cache_request(request)
|
315
|
+
|
316
|
+
async def generate_cache_key(self, request):
|
317
|
+
# Добавляем версию API в ключ
|
318
|
+
version = request.headers.get("api-version", "v1")
|
319
|
+
base_key = await super().generate_cache_key(request)
|
320
|
+
return f"{version}:{base_key}"
|
321
|
+
|
322
|
+
app.add_middleware(
|
323
|
+
FastCacheMiddleware,
|
324
|
+
controller=CustomController()
|
325
|
+
)
|
326
|
+
```
|
327
|
+
|
328
|
+
### Мониторинг
|
329
|
+
|
330
|
+
```python
|
331
|
+
@app.get("/admin/cache/stats")
|
332
|
+
async def cache_stats():
|
333
|
+
# В production здесь будет реальная статистика из storage
|
334
|
+
return {
|
335
|
+
"total_routes": len(app.routes),
|
336
|
+
"cached_routes": "статистика по кешируемым роутам",
|
337
|
+
"cache_hit_rate": "процент попаданий в кеш",
|
338
|
+
"storage_size": "размер хранилища"
|
339
|
+
}
|
340
|
+
```
|
341
|
+
|
342
|
+
## 📝 Примеры
|
343
|
+
|
344
|
+
Больше примеров в папке `examples/`:
|
345
|
+
|
346
|
+
- **basic.py** - базовое использование с FastAPI
|
347
|
+
- **advanced.py** - продвинутые сценарии
|
348
|
+
- **custom_storage.py** - интеграция с Redis/Memcached
|
349
|
+
- **monitoring.py** - мониторинг и метрики
|
350
|
+
|
351
|
+
## 🤝 Участие в разработке
|
352
|
+
|
353
|
+
```bash
|
354
|
+
git clone https://github.com/your-username/fast-cache-middleware
|
355
|
+
cd fast-cache-middleware
|
356
|
+
pip install -e ".[dev]"
|
357
|
+
pytest
|
358
|
+
```
|
359
|
+
|
360
|
+
## 📄 Лицензия
|
361
|
+
|
362
|
+
MIT License - см. [LICENSE](LICENSE)
|
363
|
+
|
364
|
+
---
|
365
|
+
|
366
|
+
⭐ **Нравится проект? Поставьте звездочку!**
|
367
|
+
|
368
|
+
🐛 **Нашли баг?** [Создайте issue](https://github.com/your-username/fast-cache-middleware/issues)
|
369
|
+
|
370
|
+
💡 **Есть идея?** [Предложите feature](https://github.com/your-username/fast-cache-middleware/discussions)
|