Selectel · Искусственный интеллект · Облачные вычисления · Инфраструктура · Data Engineering · LLM18 октября в 03:02 · 5 мин

Инфраструктурная зима: как Selectel переформатировала ИИ-платформу и сервисы данных в сентябре

В сентябре компания Selectel провела масштабное обновление своей экосистемы, сфокусировавшись на суверенном инференсе и управлении данными. Новые продукты, такие как Token Factory и расширяемая функциональность PGVector, призваны упростить запуск моделей на отечественных дата-центрах. Параллельно были выведены из бета-теста критически важные инструменты аналитики и добавлена поддержка новых аппаратных конфигураций для задач машинного обучения.

# Набор сервисов для работы с данными и расширение ИИ‑платформы: что нового в Selectel в сентябре

Сентябрь для команды Selectel стал месяцем структурной перестройки облачных сервисов. Фокус сместился на обеспечение полного цикла работы с искусственным интеллектом внутри контура российского предприятия. От обновлений маршрутизации моделей до создания специализированных вычислительных ресурсов — каждый шаг направлен на снижение зависимости от внешних зависимостей и упрощение архитектуры корпоративных решений.

Суверенный инференс и управление моделями

Центральным событием стало анонсирование продукта Token Factory, представленного в рамках конференции Selectel ТехноДень. Это решение предоставляет доступ к популярным open-source моделям, развернутым непосредственно в доверенных дата-центрах операторов. Пользователи получают единый OpenAI-совместимый API, что позволяет интегрировать модели в существующие процессы без сложной переделки кода.

В ассортимент доступных моделей уже вошли GLM5.3-Flash, DeepSeek‑V4-Flash, Qwen-3.8-Flash‑Next и Qwen-3.8–27B. Оплата услуг производится в рублях и рассчитывается строго в зависимости от объема использованных токенов. Ключевым преимуществом решения является выполнение всех операций по хранению и обработке данных исключительно на российской инфраструктуре, что соответствует требованиям 152-ФЗ и полностью исключает трансграничную передачу информации.

Также был анонсирован проект Custom Inference, выпуск которого планируется до конца 2026 года. Данная платформа позволит заказчикам выбирать из имеющихся в каталоге моделей или загружать собственные, включая дообученные версии. Сервис предоставит гибкие конфигурации для запуска больших языковых моделей (LLM) с возможностью настройки параметров под различные профили нагрузки и сценарии использования.

Параллельно с этим была расширена функциональность ИИ-роутера. Каталог моделей обновлен за счет добавления 75 новых вариантов, включая версии DeepSeek V4.1 Flash и GLM 5.3 Prime. Это позволяет ИИ-агентам подключать любые модели без ограничений, выбирая оптимальный инструмент для решения задачи, при этом гарантируя, что данные не покидают корпоративный контур.

Эволюция сервисов для управления данными

Компания представила новый набор управляемых сервисов, разработанный для крупных технологических компаний. Этот модуль состоит из семи инструментов, позволяющих масштабировать инфраструктуру без необходимости перестройки архитектуры или остановки рабочих процессов. В частности, были усилены возможности для работы с Data Lakehouse и высоконагруженной аналитикой.

Особого внимания заслуживает облако для ClickHouse, выведенное из бета-теста. Готовые кластеры этой колоночной аналитической системы поддерживают нативную работу с S3 и форматами Iceberg. Технология позволяет выполнять SQL-запросы к данным, хранящимся в S3, без их физического копирования. Это сокращает расходы на хранение в 2–5 раз и значительно повышает эффективность обработки петабайтных таблиц благодаря шардированию.

Другим важным обновлением стало расширение сервиса PGVector. Теперь это полноценный управляемый RDS-сервис на базе PostgreSQL с расширением pgvector. Он автоматизирует установку, эксплуатацию и поддержку, превращая базу данных в готовое хранилище для векторных данных. Это критически важно для реализации задач RAG (Retrieval-Augmented Generation), семантического поиска и рекомендательных систем.

Для задач, связанных с машинным обучением и аналитикой, оптимизировано горячее S3-хранилище, а также представлены решения для распределенных запросов через облако для Trino и централизованного управления метаданными через облако для Hive Metastore. Также доступен облако для Redash для построения дашбордов и облако для PGVector для векторного поиска.

Аппаратная база и вычислительные мощности

Фундамент ИИ-платформы был укреплен запуском серверной платформы на базе процессоров AMD EPYC™ 9005. Новая платформа SSE‑A212G‑E5 построена на материнской плате собственной разработки и оснащена 384 ядрами, до 12 ТБ оперативной памяти DDR5 и 160 линиями PCIe Gen5 для карт расширения. Доступно несколько исполнений: от виртуализации и баз данных до специализированных решений для инференса небольших ИИ-моделей и обработки видео.

В облаке Selectel появилась видеокарта NVIDIA RTX A4000 16GB. Данная GPU предназначена для инференса, транскрибации аудио, экспериментов с ML-моделями, 3D-рендеринга и обработки медиа. Карта уже доступна для заказа в регионе ru-6a.

Для работы с крупными языковыми моделями, которые не помещаются на одной видеокарте, теперь доступны мосты для парного объединения GPU H200. Технология ускоряет обмен данными между чипами в семь раз, что делает возможным использование мощных конфигураций для решения сложных задач.

Инструментарий разработчика и аналитика

Для упрощения работы с инфраструктурой был представлен образ Unsloth Virtual Machine. Преднастроенный сервер содержит необходимые инструменты: приложение Unsloth для обучения моделей, Docker, Jupyter, llama.cpp и драйверы GPU. Это позволяет запускать и обучать модели как через интерфейс Unsloth, так и в среде Jupyter, подключая локальные модели или внешние OpenAI-совместимые API.

В панели управления реализована интеграция пользовательских дашбордов. Теперь команды могут собирать собственные панели мониторинга прямо в интерфейсе сервиса, используя визуальные конструкторы или язык PromQL. Это позволяет на одном экране визуализировать метрики, наиболее важные для конкретных задач, без необходимости развертывать отдельную Grafana.

Также была добавлена поддержка асинхронного ввода-вывода (AIO) в кластерах PostgreSQL v18. Эта опция использует Direct IO и DMA, позволяя избежать лишних взаимодействий с операционной системой и значительно ускоряя работу с данными на дисках. Развертывание кластеров ClickHouse и PGVector теперь доступно через панель управления или Terraform провайдер Selectel.

*В мире, где скорость принятия решений определяется скоростью обработки данных, такие инструменты как асинхронный I/O в базовых данных или готовый стек для RAG становятся не просто удобством, а необходимостью. Предоставление этих возможностей «под ключ» позволяет командам сфокусироваться на логике приложения, а не на том, как оптимизировать систему хранения.*

В завершение обновлений были расширены возможности автоустановки серверов: теперь можно использовать собственные образы из S3, выбрав их в панели управления. Также в регионах типа ru-6 (Москва) открыты HighFreq конфигурации баз данных, что особенно актуально для Enterprise-проектов, требующих высокой доступности и распределения кластеров между дата-центрами.

Первоисточники

Habr AI ↗
← Вернуться в эфир