Рег.облако запускает ИИ-платформу для массовой аудитории

Технологическое ядро платформы представляет подготовленное окружение с vLLM, оптимизированный для работы с большими языковыми моделями. Пользователь может выбрать предустановленную модель либо загрузить собственную из открытого репозитария Hugging Face CLI. Все вычисления выполняются на выделенном сервере с GPU, модели и данные хранятся локально на сервере клиента, а для доступа к модели автоматически запускается OpenAI-совместимый эндпоинт (конкретный адрес в интернете, доступный на публичном IP). Плата взимается почасово только за используемые ресурсы. Доступны конфигурации с разными мощностями и под любые загрузки: от NVIDIA A4000 до сборок с двумя ускорителями A100. В ближайшее время провайдер планирует расширение ассортимента доступных карт.

Помимо инференс-решения, в состав ИИ-платформы включены сервисы для командной разработки ML-моделей JupyterHub с возможностью интеграции с Git и S3, корпоративный ИИ‑ассистент на базе Open WebUI и встроенного инференса с рядом предустановленных моделей и low-code среда n8n для визуального построения сценариев автоматизации. Такая экосистема позволяет решать задачи от прототипирования до внедрения ИИ в едином контуре. Продукты прошли испытания и уже доступны для пользователей.

«На российском рынке спектр задач сместился от разовых экспериментов к долгосрочному внедрению ИИ-решений в бизнес-процессы. Задачи становятся разнообразными: от запуска LLM в приватных контурах до обучения собственных моделей и автоматизации различных процессов, которые ранее выполнял человек. Мы подготовили готовые решения, которые не требуют самостоятельной установки и настройки инфраструктуры, чтобы пользователи могли сосредоточиться на выполнении своих задач», — отмечает Евгений Мартынов, директор по информационным технологиям Рег.облака.

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!