Как фотоника входит в архитектуру ИИ-ЦОДов

Современные ИИ-системы строятся как кластеры из сотен и тысяч ускорителей, распределенных по стойкам и вычислительным доменам. При такой архитектуре эффективность определяется не только вычислительной мощностью, но и тем, как организован обмен данными между узлами. Рост производительности отдельных ускорителей не всегда приводит к сопоставимому эффекту на уровне всей системы. Ограничения возникают на уровне сети и начинают влиять на скорость обучения и выполнения ИИ-задач. 

 

Внутри корпуса микросхемы (chip package) — например, в связке GPU и памяти (HBM) — кристаллы соединяются электрическими межсоединениями. Как рассказывает журнал Nature, по мере роста плотности и пропускной способности начинают использовать оптические межсоединения. Варианты — оптический интерпозер (межкристальная связь через оптоэлектронную подложку) и оптические I/O-модули рядом с кристаллом.

По мере усложнения ИИ-кластеров нагрузка на сетевую инфраструктуру возрастает — требования касаются не только пропускной способности, но и устойчивости распределенной системы. Электрические соединения и коммутаторы остаются основой современных дата-центров, однако с ростом скоростей и плотности портов их ограничения начинают отражаться на конфигурации всей сети.

Передача данных между стойками и кластерами усложняет архитектуру и повышает требования к надежности и управляемости сетевых компонентов. В крупных ИИ-кластерах сбои в работе сети напрямую влияют на доступность вычислительных ресурсов и ход выполнения задач.

Ответом на ограничения электрических сетей становится переход к фотонным технологиям, которые встраиваются в сетевую архитектуру и меняют логику построения соединений. Речь идет о переносе оптических интерфейсов ближе к вычислительным узлам и о работе с соединениями на физическом уровне, что позволяет сократить объем электрических межсоединений и длину трасс внутри системы.

 

Здесь выделяются два направления: технология комбинированной (или интегрированной) оптики (Co-packaged optics, CPO), в которой оптические компоненты упаковываются непосредственно в один пакет с электронными интегральными схемами, и оптические коммутаторы, которые позволяют формировать и перестраивать соединения между стойками и кластерами без традиционной пакетной коммутации. Сеть перестает быть фиксированной структурой и начинает подстраиваться под характер ИИ-нагрузок.

Фотонные технологии начинают использоваться в сетевой инфраструктуре ИИ-ЦОДов там, где растет плотность соединений и объемы обмена данными между вычислительными узлами. В практических решениях это выражается в применении кремниевой фотоники в высокоскоростных оптических модулях и сетевых компонентах, рассчитанных на работу с ИИ-нагрузками.

Технология CPO позволяет интегрировать оптические модули непосредственно с сетевыми ASIC. Это сокращает длину электрических трасс, снижает энергопотребление на порт и дает возможность повышать плотность интерфейсов.

 

В качестве альтернативы традиционным электрическим интерфейсам также рассматриваются оптические соединения на уровне модулей ускорителей и памяти (HBM).

Практические работы в этой области ведут Tower Semiconductor и Nvidia, они разрабатывают оптические модули пропускной способностью 1,6 Тбит/с для сетей дата-центров.

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!