Rambler's Top100
 
Статьи ИКС № 05 2012
Андрей СЕМЕНОВ  Евгений СОКОЛОВ  08 мая 2012

Медь и оптика в перспективных ЦОДах

Структурированная кабельная система обязательна для любого ЦОДа. Но вопрос выбора элементной базы для СКС, оптимального соотношения различного типа кабелей в ней с учетом их сильных и слабых сторон пока остается открытым.

   
Работа дата-центров сопряжена с передачей больших объемов различной информации, причем с очень высокой скоростью, чтобы уменьшить время реакции на поступающие запросы. Информационный обмен в системах автоматизации может быть организован разными способами. Однако из соображений требуемого в современных ЦОДах быстродействия на уровне десятков гигабит в секунду и эффективной защиты от несанкционированного доступа единственным реальным кандидатом на эту роль оказываются проводные каналы связи. В реалиях сегодняшнего дня они формируются с привлечением ресурсов структурированной кабельной системы (СКС). Таким образом, СКС становится одним из обязательных функциональных блоков любого ЦОДа, и это сразу влечет за собой ряд серьезных вопросов к ее конкретному исполнению.

Проблема выбора

Основные параметры СКС для ЦОДов задаются хорошо известными стандартами международного (ISO/IEC 24764) и регионального уровней (американские ANSI/TIA-942 и ANSI/BICSI 002-2011, европейский EN 50173-5). Согласно этим нормативным документам, в линейной части СКС можно использовать симметричные и волоконно-оптические кабели.

Задача выбора осложняется тем, что нормативные документы не содержат рекомендаций по областям конкретного применения электропроводной и волоконно-оптической элементной базы. Фактически единственным серьезным ограничением можно считать предельную протяженность тракта при фиксированной скорости передачи. Очевидно, что эффективность подобного критерия в практике проектов невысока.

Другие источники тоже не слишком могут помочь. Находящиеся в открытом доступе материалы компаний-производителей, такие как известное руководство компании Corning, далеки от объективности: зачастую они несут рекламу собственной продукции, игнорируют ряд фактов, хорошо известных из опыта.

Схемы параллельной передачи

Главным претендентом на роль основной среды передачи информационных потоков в ЦОДе представляется волоконно-оптическая элементная база. Ее позиции усиливаются тем, что технические решения в этой области уже специфицированы органами стандартизации и их предлагают все ведущие производители СКС.

В случае скоростей 40 и 100 Гбит/с в области оптических интерфейсов для достижения хороших технико-экономических характеристик необходимо переходить на технологию параллельной передачи. Суть ее в том, что линейный сигнал представляется в форме нескольких (четырех либо десяти) отдельных потоков, каждому из которых ставится в соответствие свой излучатель на передающем конце, собственное волокно в линейной части и индивидуальный фотодиод на приеме. Для обеспечения двухсторонней дуплексной передачи комплект элементов удваивается. Наиболее часто в кабелях для параллельной передачи применяется ленточное волокно, разработанное для кабелей с числом волокон в несколько сотен (предназначенных для построения магистральных линий сетей связи общего пользования) и освоенное промышленностью еще в 90-х гг. прошлого века.

Отметим, что при построении схемы параллельной передачи число световодов достаточно велико. Фактически в 100-гигабитном варианте необходимо 20 волокон, реально – из соображений сохранения преемственности и, возможно, упрощения схемы автоопределения фактической скорости, на которой работает интерфейс, – используются 24-волоконные изделия. Поскольку стандарты задают оконцевание линейного кабеля вилкой группового соединителя типа MTP/MPO, кабельное изделие имеет поперечное сечение явно выраженной несимметричной формы. Кабельные сердечники квазимодульных конструкций по образцу немецкой компании J-Fiber, которые позволяют сохранить оптимальную круглую форму, не получили распространения. Из-за несимметричной формы ленточного оптического кабеля его прокладка существенно менее удобна, кроме того, снижается степень использования доступной площади поперечного сечения кабельного канала.

Неудовлетворительные массогабаритные показатели линейных кабелей для параллельной передачи можно исправить аппаратными методами. Очень высокая пропускная способность современных световодов значимо уменьшает количество физических линий за счет групповой передачи по одной паре волокон сигналов одновременно нескольких информационных потоков (схемы спектрального или волнового уплотнения). Однако высокая стоимость пассивных оптических мультиплексоров и демультиплексоров, а также необходимость применения дорогостоящих оптических излучателей с контролируемой длиной волны и малой шириной линии излучения делает такое решение экономически невыгодным для ЦОДов. Даже переход на относительно бюджетный вариант неплотного спектрального уплотнения CWDM не позволяет добиться таких стоимостных характеристик решения в целом, которые сделают его массово востребованным на практике.

Отметим еще один момент. Полностью обойтись без применения симметричных кабелей в ЦОДе вполне возможно; тем не менее подобный шаг вряд ли целесообразен с экономической и эксплуатационной точек зрения. В частности, обязательно следует принять во внимание, что симметричные кабели  заметно эффективнее обеспечивают функционирование коммутаторов KVM, используемых при текущей работе с серверами.

Все сказанное означает, что реалии построения сетей не позволяют массово применять решения на однотипной элементной базе – ни в настоящее время, ни в обозримой перспективе.

Мощность сетевых интерфейсов

Еще один серьезный недостаток оптической техники – высокая потребляемая мощность сетевых интерфейсов. Отсутствие серийного оборудования позволяет дать только косвенную ее оценку. Известно, что мощность потребления 10-гигабитных модулей XFP составляет 3–4 Вт. Таким образом, с учетом выбранной схемы построения мощность потребления 100-гигабитного оптического трансивера вполне может достигать 30–40 Вт, т.е. на 10–15% увеличивает мощность, отбираемую от источника питания сервера или иного сетевого устройства.

Одиночный 10-гигабитный медножильный трансивер потребляет примерно на 20% меньше мощности по сравнению с оптическим аналогом. При переходе на более высокие скорости мощность растет, но за счет меньшего количества цепей передачи в целом достигается выигрыш. Тем не менее использовать этот выигрыш во всем диапазоне возможных длин горизонтальных кабелей проблематично, поскольку на качественные показатели тракта передачи начинают значимо влиять тепловые (собственные) шумы приемника. Необходимость их учета обусловлена следующими факторами. Во-первых, вынужденное применение относительно узкополосных многопозиционных кодов, вызванное необходимостью согласовать спектр сигнала и полосу пропускания симметричного тракта (рис. 1), независимо от их практической реализации (РАМ и QAM) приводит к уменьшению расстояния между двумя разрешенными уровнями, что эквивалентно падению мощности сигнала. Далее, наращивание скорости неизбежно расширяет спектр линейного сигнала и сопровождается дополнительными потерями за счет увеличения затухания на высокой частоте. Одновременно по тем же причинам приходится расширять полосу приемника, что приводит к пропорциональному росту общей мощности теплового шума.

Отметим, что защищенность от теплового шума, в отличие от переходных шумов, увеличивается по мере наращивания мощности сигнала. Обращение к этому приему можно рассматривать как средство достижения требуемых качественных показателей линии связи.

На рис. 2 приведены результаты расчетов выходной мощности передатчика, которая требуется для получения на приеме отношения сигнала к шуму в 22 дБ. Видно, что при протяженности тракта до 30 м для функционирования медножильных трансиверов требуется заметно меньшая электрическая мощность; наращивать ее приходится только после порогового значения. (При проведении расчетов принимали fв = 1,2fн, где fв – верхняя граничная частота полосы пропускания кабельного тракта, fн – частота Найквиста линейного сигнала.)

Статистика распределения длин стационарных линий для офиса и ЦОДа качественно одинакова: распределение близко к нормальному, но обладает заметной положительной асимметрией и отрицательным эксцессом. Средняя длина линии в ЦОДе составляет 30 м, т.е. оказывается на треть короче, чем в офисных СКС. Одна из главных причин этого в том, что внутри специализированного технического помещения можно выбрать оптимальные маршруты прокладки кабельных трасс. Немаловажно и то, что не требуется поддерживать телефонную сеть предприятия и возможна расстановка коммутирующих концентраторов локальной сети и сети массовой памяти непосредственно рядом с серверами. О высокой практической востребованности такого решения свидетельствуют хорошо известные концепции Top of Rack, End of Row и Middle of Row.

Если принять 30 м за предельное значение протяженности тракта, при котором применение электропроводной элементной базы выгодно с точки зрения энергопотребления, то несложный расчет показывает, что примерно половину линий необходимо реализовать на основе симметричного кабеля.

Перспективность применения электропроводной элементной базы для построения сверхвысокоскоростных СКС в ЦОДах подтверждается началом работ в данном направлении в комитете TIA TR-42.7. Исследование, названное 100Ω Next Generation Cabling, должно быть завершено в 2014 г., а его результаты предполагается опубликовать в форме Приложения 1 к недавно введенному стандарту ANSI/TIA-568-C.2. Уже сейчас ясно, что реализация сверхвысокоскоростных симметричных трактов потребует введения новой элементной базы, которая скорее всего получит обозначение «категория 8», неофициально употребляемое уже более десяти лет. Возможность достижения скорости 100 Гбит/с на линии длиной в 100 м была экспериментально продемонстрирована еще в конце 2000-х гг.

Медножильная элементная база

Для реализации кабельного тракта СКС, независимо от типа применяемой элементной базы, нужны всего два компонента: линейный кабель и разъемный соединитель. Шнуровой кабель отличается от линейного в основном тем, что в его конструкции используются гибкие многопроволочные проводники. Его можно рассматривать как один из вариантов линейного изделия.

Расчеты пропускной способности медножильного тракта велись в предположении плоского характера частотной зависимости параметров PS-NEXT и PS-FEXT до частоты 100 МГц, что нехарактерно для стандартизованной элементной базы даже категории 7а. Поэтому функции линейных изделий 40- и 100-гигабитных СКС могут быть возложены на усовершенствованные варианты так называемых мультимедийных кабелей, которые этим свойством обладают. Подобные изделия хорошо известны еще с конца 90-х гг. прошлого века. До последнего времени верхняя граничная частота нормирования их параметров не превышала 1,5 ГГц, что определялось требованиями передачи сигналов многоканального аналогового телевидения. Тем не менее еще в середине 2000-х гг. французская компания Acome показала возможность ее увеличения до 2,2 ГГц, что практически совпадает с требуемыми 2,5 ГГц при 64-разрядном кодировании.

В качестве разъемного соединителя допустимо рассматривать хорошо известный разъем Tera. Перспективность этой конструкции с точки зрения наращивания верхней граничной частоты определяется тем, что Tera поддерживает полное круговое экранирование отдельной пары проводников на всем ее протяжении. Этому способствует применение внутреннего крестообразного металлического сепаратора в области кабельного ввода и формирование экранирующей камеры, индивидуальной для каждой пары контактов.

Подведем итоги

Линейная часть СКС, организуемой в ЦОДе, на наиболее затратном уровне горизонтальной подсистемы представляет собой комбинацию электропроводных и волоконно-оптических кабелей, причем доля последних вряд ли превысит 50% даже в обозримой перспективе, в том числе после начала массового внедрения 100-гигабитной технологии (по прогнозам, не ранее 2017 г.). Применение медножильной техники в кабельной системе ЦОДа дает возможность значимо уменьшить энергопотребление объекта, снизив эксплуатационные расходы.

Для построения электропроводной части СКС необходимо в обязательном порядке применять экранированную технику класса не ниже F/FTP с верхней граничной частотой нормирования параметров вплоть до примерно 2,5 ГГц и величиной PS-NEXT не менее 103 дБ в полосе по меньшей мере до 100 МГц. Задача создания подобной элементной базы во многом облегчается существованием технологического задела в области кабельных и коммутационных изделий.

Переход на медножильные решения для линий протяженностью не свыше 30 м при правильной реализации проекта не приводит к существенному усложнению системы кондиционирования и увеличению энергопотребления на скоростях 40 и 100 Гбит/с, т.е. не ухудшает коэффициент PUE – ключевой показатель энергоэффективности ЦОДа. 
Поделиться:
Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!