07. Дорожная карта масштабирования¶
Архитектура единая (enterprise-first) на всех этапах — микросервисы, Kubernetes, IaC, HA. Меняется не архитектура, а объём ресурсов и включённые компоненты. Этапы отражают рост нагрузки и стоимости, а не смену подхода.
flowchart LR
p["Этап 1 - Пилот\n1-20 тенантов\n3 мес"] --> g["Этап 2 - Рост\n20-100 тенантов\n3 мес"] --> s["Этап 3 - Масштаб\n100-1000 тенантов\nбессрочно"]
p -.->|подтверждение гипотезы| g
g -.->|стабильный спрос| sЭтап 1 — Пилот (1-20 тенантов, 3 месяца)¶
Цель: проверить гипотезу ценности; первый тестовый запуск системы.
- Архитектура: микросервисы на одном небольшом K8s-кластере; все сервисы в 1-2 репликах.
- LLM: облачный Qwen API с маскированием ПДн —
qwen3.6-flash(операционка) +qwen3.7-max(рассуждения). GPU не поднимаем. - Изоляция: schema-per-tenant для мелких, db-per-tenant для ключевых.
- Каналы: web-виджет + 1 мессенджер (Telegram/WhatsApp).
- Интеграции: 1-2 CRM-коннектора (напр. Bitrix24/amoCRM) + Custom REST.
- Показ: базовый scheduling + напоминания.
- Метрики: конверсия лид→показ, время ответа, доля эскалаций — с первого дня.
- Выход этапа: подтверждённая конверсия и положительный отклик бизнеса.
Этап 2 — Рост (20-100 тенантов, 3 месяца)¶
Цель: масштабировать проверенную модель на 20-100 тенантов.
- LLM: тот же облачный Qwen API (flash+max); GPU пока не поднимаем — API дешевле self-host до ~100 тенантов (см. 06).
- Данные: HA-кластеры PostgreSQL, автоматический провижининг db-per-tenant, Qdrant в HA.
- Автоскейлинг: HPA для CPU-сервисов.
- Каналы: все мессенджеры + email; идентити-резолюшн (единый профиль контакта).
- Онбординг: мастер + blueprints + автогенерация базы знаний из сайта клиента.
- Надёжность: circuit breaker, retry, саги на всех внешних интеграциях.
- Выход этапа: стабильная экономика, SLA, самообслуживаемый онбординг.
Этап 3 — Масштаб (100-1000 тенантов, бессрочно)¶
Цель: промышленный масштаб при подтверждённых этапах 1-2.
- LLM: переход на self-hosted Qwen в РФ (аренда GPU): «мозг» на открытых весах 27-35B + малый Qwen для ярус-0; облачный
qwen3.7-max— burst для самых тяжёлых случаев (обезличенно). Обосновано и по цене (точка окупаемости ~100 тенантов), и по 152-ФЗ / контролю. - GPU: от 2× H100 (HA, ~100 тенантов) до 4-5× H100 + пул младших GPU (~1000 тенантов); автоскейл, отдельные пулы под ярусы.
- Мультирегион: размещение в нескольких дата-центрах РФ, гео-резерв.
- Тарифы: Enterprise с выделенными GPU-пулами и on-prem-опцией.
- Каналы: телефония/голос (real-time STT+TTS) как полноценный канал.
- Платформа самообслуживания: маркетплейс blueprints и коннекторов.
- FinOps: непрерывный контроль ₽/лид, оптимизация утилизации GPU, автоснижение до дешёвых ярусов; рассмотреть покупку/лизинг при стабильно высокой утилизации.
Сводка по этапам¶
| Параметр | Этап 1 — Пилот | Этап 2 — Рост | Этап 3 — Масштаб |
|---|---|---|---|
| Тенанты | 1-20 | 20-100 | 100-1000 |
| Длительность | 3 мес | 3 мес | бессрочно |
| Лиды/день (30-1000/тенант) | 30 – 20 000 | 600 – 100 000 | 3 000 – 1 000 000 |
| LLM | Qwen API (flash+max) | Qwen API (flash+max) | self-host 27-35B + burst |
| Изоляция | schema/db-per-tenant | db-per-tenant + HA | db-per-tenant + мультирегион |
| Каналы | web + 1 мессенджер | все мессенджеры + email | + телефония/голос |
| ~Всего ₽/мес (мин-макс) | ~27 тыс. – 1,40 млн | ~159 тыс. – 6,93 млн | ~0,99 – 9,05 млн |
| За период (мин-макс) | ~81 тыс. – 4,19 млн | ~478 тыс. – 20,79 млн | в месяц |
Итого на старт (этапы 1+2, 6 мес): от ~558 тыс. ₽ (консервативно) до ~24,98 млн ₽ (агрессивный потолок). Разброс задаётся диапазоном нагрузки 30-1000 лидов/день на тенанта; реальный бюджет обычно в нижней-средней части. Детали, формулы и графики — в 06-infrastructure-cost-ru-2026.md и Excel-модели.
Принципы масштабирования¶
- Горизонтальное масштабирование stateless-сервисов; состояние — в БД/Redis/шине.
- Независимые GPU-пулы под ярусы моделей с автоскейлом.
- Деградация и фолбэк вместо отказа: managed API как страховка для локального инференса.
- Единая наблюдаемость (OpenTelemetry/Prometheus) для управления масштабом по метрикам, а не «на глаз».