ВЕБИНАР будет полезен организациям, КОТОРЫЕ СТАВЯТ СЕБЕ СЛЕДУЮЩИЕ ЗАДАЧИ:
Высокоскоростная обработка данных
Оптимизация капитальных затрат
Минимизация санкционных рисков
Масштабируемость без потерь
# 01
# 02
# 03
# 04
Сеть должна поддерживать распределение терабайтов данных между тысячами GPU, а также обеспечивать минимальную задержку при ответах (инференсе)
Переход на сетевую инфраструктуру RoCEv2/Ethernet позволяет сэкономить от 35% до 40% бюджета за счет конкуренции чипов (по сравнению с InfiniBand)
Использование оборудования SOFINET снижает экспортные ограничения. Наличие собственного склада в России обеспечивает предсказуемые сроки поставки
Построение многоярусных топологий (Spine-Leaf) с коэффициентом переподписки строго 1:1, чтобы исключить потерю пакетов
Задачи для ИИ серверов приводят к взрывному росту объемов данных. Обычной сети со скоростью 1-25 Гбит/с достаточно для классических сервисов, но сети ИИ требуют скоростей 25-100+ Гбит/с. Основной поток данных идет между серверами, а не наружу (East-West), и сетевые задержки напрямую просаживают утилизацию дорогих GPU. На вебинаре мы разберем, как спроектировать современную ИИ-сеть, и представим решения от SOFINET — российского разработчика сетевого оборудования корпоративного уровня с собственной единой операционной системой SOFOS
Решения на базе оборудования SOFINET
узнаем, Как правильно подобрать сеть под потребности ИИ инфраструктуры
# 01
# 02
# 03
Обычный сервер vs ИИ-сервер:
Главным ресурсом систем машинного обучения являются GPU и VRAM, составляющие часто до 80% стоимости системы. Мы обсудим, почему для ИИ критичны высокие требования к питанию, охлаждению и наличие межсоединений (NVLink)
Главным ресурсом систем машинного обучения являются GPU и VRAM, составляющие часто до 80% стоимости системы. Мы обсудим, почему для ИИ критичны высокие требования к питанию, охлаждению и наличие межсоединений (NVLink)
Архитектура сети и борьба с перегрузками:
Разберем альтернативу InfiniBand — протокол RoCEv2. Изучим инструменты борьбы с потерями: технологию PFC для попиксельного управления потоком и ECN для маркировки пакетов при заторах
Разберем альтернативу InfiniBand — протокол RoCEv2. Изучим инструменты борьбы с потерями: технологию PFC для попиксельного управления потоком и ECN для маркировки пакетов при заторах
Тренды развития сетевых технологий:
Поговорим о разработке открытого стандарта Ethernet под задачи ИИ (Ultra Ethernet Consortium). Обсудим переход на оптические матрицы для снижения энергопотребления и рост скоростей интерфейсов до 800G и 1.6Т на порт.
Поговорим о разработке открытого стандарта Ethernet под задачи ИИ (Ultra Ethernet Consortium). Обсудим переход на оптические матрицы для снижения энергопотребления и рост скоростей интерфейсов до 800G и 1.6Т на порт.
# 04
Продукты SOFINET для ЦОД:
Представим новые коммутаторы уровня ЦОД серии SFN8700-32D с портами 400G. Оборудование работает на единой ОС SOFOS и поддерживает функции VXLAN EVPN и MPLS без дополнительных лицензий.
Представим новые коммутаторы уровня ЦОД серии SFN8700-32D с портами 400G. Оборудование работает на единой ОС SOFOS и поддерживает функции VXLAN EVPN и MPLS без дополнительных лицензий.
Подробно поговорим про:
ИТ-ДИРЕКТОРАМ
ы узнаете о стратегии инвестиций в ИИ-ready сеть на основе Ethernet. Использование стандарта UEC дает гибкость платформ и возможность смешивать серверы любых вендоров (NVIDIA, AMD Instinct, Intel Gaudi).
СЕТЕВЫМ ИНЖЕНЕРАМ
Вы разберетесь в принципах построения 3-tier Clos архитектуры для кластеров из десятков тысяч GPU. Также вы познакомитесь с базовыми протоколами синхронизации моделей: All-Reduce и NCCL
ИИ-РАЗРАБОТЧИКАМ
Вы поймете зависимость процессов от сети. Обучение (Training) требует высокой пропускной способности и стабильности сети, а инференс (Inference) — минимального времени ответа.
специализируеМся на комплексном обслуживании корпоративных клиентов в сфере IT-систем и бизнес-инфраструктуры.
CNS — IT-интегратор полного цикла: поставляем, разрабатываем, внедряем и поддерживаем решения под ключ: от архитектуры и оборудования до круглосуточной поддержки. Мы делаем всё сами, с экспертизой и ответственностью, чтобы ваша инфраструктура работала безупречно — вы занимаетесь бизнесом, мы — технологиями.
Благодаря большому штату инженеров, мы разрабатываем проект под задачу, подбираем спецификацию оборудования, поставляем его и интегрируем с последующей поддержкой и обслуживанием. За 16 лет CNS воплотили в жизнь более тысячи проектов и сумели заработать репутацию серьезного эксперта и надежного поставщика идей и оборудования.
Компании CNS доверяют более 2 000 компаний среднего и крупного бизнеса.
Компании CNS доверяют более 2 000 компаний среднего и крупного бизнеса.
Правила Cookie
Политика конфиденциальности
Политика конфиденциальности
