Rambler's Top100
Статьи ИКС № 03 2010
Петр РОНЖИН  10 марта 2010

Системы охлаждения ЦОДов. Как снизить потребление энергии

По потреблению энергии системы охлаждения ЦОДов стоят на втором месте после серверного оборудования. Можно ли и за счет чего снизить потребление ими энергоресурсов и тем самым повысить эффективность ЦОДа? Попробуем ответить на эти вопросы, систематизировав наработки в данной области отечественных и зарубежных специалистов.

Петр Ронжин, директор, ВЕНТСПЕЦСТРОЙСразу же оговоримся, что речь в статье пойдет о системах охлаждения средних и больших дата-центров с мощностью тепловыделений свыше 500 кВт. Но это не означает, что рассматриваемые решения неприменимы для малых центров обработки информации, хотя, конечно, у последних есть своя специфика, а кроме того, при малых мощностях проблемы снижения энергопотребления на фоне высоких капитальных затрат при строительстве зачастую утрачивают свою актуальность.

Отрадная российская тенденция последних лет – в системах холодоснабжения и кондиционирования серверных помещений дата-центров в большинстве случаев (хотя и не всегда) стали применяться такие технологии, как фрикулинг (от англ. free cooling – свободное (естественное) охлаждение) и изоляция холодных и горячих коридоров. (Следует заметить, что эти две технологии давно лежали на поверхности, но еще пять лет назад наши предложения по их использованию воспринимались заказчиками в штыки.)

Фрикулинг и типы чиллеров

Итак, фрикулинг. Несмотря на то что при описании систем охлаждения этот термин встречается повсеместно, далеко не всем ясно, что за ним скрывается. Под фрикулингом обычно понимают технологию охлаждения холодоносителя за счет использования низких температур окружающей среды. Фрикулинг осуществляют специальные системы холодильных машин (чиллеров). Существует три типа чиллеров, оснащенных системами естественного охлаждения:

1 Моноблочные холодильные машины с воздушным охлаждением конденсаторов со встроенными теплообменниками фрикулинга, в которых происходит охлаждение холодоносителя наружным воздухом.

2 Моноблочные холодильные машины с воздушным охлаждением конденсаторов, в которых фрикулинг реализуется за счет прохождения фреона через теплообменники холодильного контура с помощью циркуляционных насосов при выключенных компрессорах.

3 Холодильные машины со встроенными водяными или выносными воздушными конденсаторами, работающие в паре с сухими градирнями, выполняющими роль систем фрикулинга.

Казалось бы, какая разница, какой тип фрикулинга используется в холодильном центре ЦОДа? А разница есть, и существенная. Только в первом случае возможна комбинированная одновременная работа холодильной машины с использованием компрессоров (машинного охлаждения) и фрикулинга (охлаждение за счет низких температур окружающей среды), т.е. фрикулинг включается в работу постепенно, увеличивая свой вклад в холодопроизводительность от 0 до 100% пропорционально понижению температуры наружного воздуха.

Во втором и третьем случаях компрессоры холодильных машин будут работать до тех пор, пока температура наружного воздуха не достигнет значения, при котором производительность фрикулинга составит 100% от холодопроизводительности чиллера, т.е. возможен только режим «включен/выключен».

На практике это проявляется следующим образом. В чиллерах первой группы фрикулинг активизируется уже при температуре +10°С при стандартных температурах холодоносителя на входе/выходе холодильной машины, составляющих 12/7°С. Системы холодоснабжения, использующие машины второго и третьего типа, перейдут на естественное охлаждение при температуре около 0°С. Заглянув в СНиП 23-01-99 «Строительная климатология», мы увидим, что для Москвы продолжительность периода со средней суточной температурой воздуха ниже 0°С составляет 145 суток, а с температурой ниже 10°С – 231 сутки (рис. 1). Иными словами, применение для охлаждения ЦОДа машин из первой группы автоматически позволяет дополнительно получить целых три месяца (!) экономии.

Фрикулинг и температурный диапазон холодоносителя

Самое интересное, что мы можем еще больше раздвинуть временные рамки работы систем фрикулинга. В стандартном случае в качестве рабочего тела в системах прецизионного кондиционирования серверных залов ЦОДов используется холодоноситель с температурами прямой и обратной ветвей 7/12°С. Согласно стандарту TIA-942, температура воздуха в холодных коридорах должна поддерживаться в диапазоне 20–25°С, а по последним рекомендациям тактического комитета TC9.9 ASHRAE (Американское общество инженеров по отоплению, охлаждению и кондиционированию) верхнюю планку температуры в холодном коридоре можно поднять до 27°С.

Если ориентироваться на температуры в холодном коридоре, приближенные к верхним допустимым значениям, можно расширить рабочий температурный диапазон холодоносителя до 7/15°С. Столь незначительное изменение стандартных параметров позволит в климатических условиях Москвы эксплуатировать чиллеры в режиме частичного или полного фрикулинга почти девять месяцев в году, так как естественное охлаждение будет включаться при более высоких температурах наружного воздуха. Заметим, что, если заказчики смогут преодолеть психологический барьер, разрешив проектировщикам систем охлаждения поднять еще выше верхнюю температурную границу холодоносителя, у них появится шанс получить холодильный центр, который будет использовать фрикулинг около 11 месяцев (!) в году.

Дополнительные преимущества фрикулинга

Кроме увеличения времени действия систем фрикулинга при переходе на расширенный температурный диапазон холодоносителя, мы получаем дополнительные инструменты для повышения энергоэффективности ЦОДа.

Во-первых, сократится количество влаги, которая конденсируется на теплообменниках кондиционеров в процессе охлаждения воздуха. Это приведет к тому, что холод будет работать на понижение температуры, а не на осушение воздуха. Соответственно, сократятся затраты электроэнергии на работу пароувлажнителей. По оценкам Uptime Institute, доля энергии, затрачиваемой на поддержание влажности, от общей подводимой к ЦОДу электроэнергии составляет 3%. Поэтому, если удастся сэкономить даже, конечный результат будет весьма ощутим.

Во-вторых, при работе чиллеров с расширенным температурным диапазоном холодоносителя существенно снижается его расход. Проиллюстрируем ситуацию на простом примере. Для производства одного мегаватта холода чиллеру требуется расход холодоносителя с температурами 7/12°С, составляющий 203 м3/ч. Для того же чиллера, производящего тот же мегаватт холода, но с холодоносителем 7/15°С, потребуется уже 127 м3/ч, т.е. в 1,6 раза меньше! Исходя из того, что объемный расход циркуляционных насосов изменяется пропорционально изменению числа оборотов, а потребляемая мощность – пропорционально третьей степени изменения числа оборотов, можно сделать вывод, что, используя расширенный температурный диапазон холодоносителя, мы до 4 раз (!) можем снизить мощность насосной группы. Применительно к дата-центру с тепловыделениями в 2,5 МВт экономия только на электроэнергии, затрачиваемой на работу насосов, могла бы составить почти 46 тыс. евро в год. И это без учета экономии, которую дает более длительный период работы фрикулинга.

Резервы энергосбережения при частичной нагрузке

Все, что было сказано выше, относится к работе систем холодоснабжения при полной загрузке, но мы знаем, что нагрузка ЦОДа является переменной величиной, редко достигающей 100%. Чтобы понять, какие резервы энергосбережения можно дополнительно использовать, нужно рассмотреть процессы, протекающие в системах охлаждения при частичной нагрузке. Для регулирования холодопроизводительности прецизионных кондиционеров обычно используют так называемые трехходовые клапаны, которые при снижении тепловой нагрузки от серверного оборудования направляют часть холодоносителя в обход теплообменника кондиционера.

В случае традиционных систем охлаждения ЦОДов при тепловой нагрузке 75% мы будем наблюдать следующую картину. Приходящий к кондиционеру холодоноситель с температурой 7°С разделяется на два потока: один (40%), идет в теплообменник кондиционера для охлаждения воздуха, второй (60%) байпасируется с помощью трехходового клапана. За теплообменником потоки смешиваются, и из кондиционера выходит холодоноситель с температурой 10,7°С (вместо 12°С), поступающий в дальнейшем в чиллер для охлаждения. В таком режиме работы одновременно проявляются сразу два негативных фактора:
  • насосы работают на 100% расхода, тогда как для охлаждения нужно всего 40%;
  • за счет снижения температуры обратной линии холодоносителя фрикулинг начинает свою работу не при 10°С, а при 8,7°С.
Для 50-процентной нагрузки эти цифры окажутся еще более впечатляющими: 80% расхода холодоносителя будут бесполезно циркулировать по трубопроводам системы холодоснабжения, а температура включения естественного охлаждения снизится до 7,5°С (рис. 2).

Для повышения эффективности работы систем охлаждения при частичных нагрузках в ЦОДах следует применять прецизионные кондиционеры, оснащенные регулирующими двухходовыми клапанами, и насосные группы с переменной производительностью, например с частотным регулированием скорости вращения. Такие системы всегда будут поддерживать высокую температуру холодоносителя в обратной линии, создавая тем самым наилучшие условия для более раннего включения в работу систем фрикулинга. В системе холодоснабжения будет циркулировать столько холодоносителя, сколько необходимо в данный момент для снятия тепловой нагрузки. Эффект станет кумулятивным, если реализовать работу системы холодоснабжения, использующую переменный расход при частичных нагрузках с расширенным температурным диапазоном холодоносителя. Для 75%-ной тепловой нагрузки потребляемая мощность насоса с постоянным расходом холодоносителя с температурами 7/12°С и мощность насоса с переменным расходом холодоносителя с температурами 7/15°С будут выражены цифрами разного порядка!

Разделение холодного и горячего воздуха

Специалисты, не понаслышке знакомые с эксплуатацией систем прецизионного кондиционирования ЦОДов, хорошо знают, что для обеспечения в холодном коридоре температуры в интервале 20–25°С необходимо охладить воздух в прецизионном кондиционере примерно до 13°С. Низкая температура подаваемого воздуха компенсируется смешением в серверном зале потоков горячего и холодного воздуха.

Изоляция горячих и холодных коридоров вначале применялась именно как средство борьбы с перегревом серверов, расположенных в верхних частях монтажных шкафов, за счет захвата теплого воздуха из горячего коридора. На самом деле у разделения коридоров более глубокий смысл, так как это позволяет поднять температуру подаваемого к оборудованию воздуха, что, в свою очередь, скажется на повышении температуры выходящего из кондиционеров холодоносителя, положительный эффект от которого мы рассмотрели выше. Чрезвычайно важный момент – полная изоляция воздушных потоков, при которой горячий воздух от серверного оборудования направляется на теплообменники кондиционеров. Чем выше температура поступающего в кондиционеры воздуха, тем эффективнее они будут работать. Исследования этого вопроса зарубежными специалистами показывают, что при использовании системы кондиционирования с полным разделением воздушных потоков можно добиться пятикратного снижения эксплуатационных затрат по сравнению с традиционной системой.

В плену заблуждений

Отличным средством повышения энергоэффективности работы систем кондиционирования, причем абсолютно беззатратным, является задание правильных уставок на кондиционерном оборудовании. Однако наш опыт обследования российских ЦОДов и серверных помещений показывает, что в девяти случаях из десяти специалисты эксплуатирующих служб находятся в плену собственных заблуждений.

Самый распространенный миф: чем ниже температура воздуха, тем больше запас холода, который позволит некоторое время работать при отключенных кондиционерах. К сожалению, из-за очень низкой теплоемкости воздуха проработать сколько-нибудь значительное время не удастся: при отсутствии баков-аккумуляторов с запасом большого количества холодоносителя температура в серверном помещении будет повышаться на десятки градусов в минуту.

Еще одна типичная ошибка – непонимание того, какие уставки записываются в контроллеры прецизионных кондиционеров. Дело в том, что в большинстве обычных прецизионных кондиционеров заданные для поддержания параметры воздуха измеряются датчиками, расположенными на входе в кондиционер, т.е. в горячем коридоре при соблюдении принципа изоляции потоков. А служба эксплуатации задает значения параметров воздуха для холодных коридоров (например, 20°С и 50% влажности), заставляя тем самым кондиционеры непрерывно работать на ненужное понижение температуры в горячем коридоре с включенными пароувлажнителями, так как обычно в зоне расположения датчиков средние значения этих параметров колеблются около 33°С и 30–40% влажности.

Третья ошибка – при проблемах с локальным перегревом в нескольких стойках занижаются уставки по температуре по всему залу. В общем случае количество отводимого тепла равно произведению трех сомножителей: расход воздуха, удельная теплоемкость и разница температур. Занижая уставки, мы действительно увеличиваем разницу температур на входе и выходе в стойку и, соответственно, количество тепла, отводимого от стойки, в которой наблюдается перегрев. Но для остальных стоек такое увеличение не требуется, поскольку приводит только к понижению температуры воздуха в горячем коридоре и снижению эффективности работы кондиционеров. Правильное решение в данном случае – увеличить подачу воздуха в ту часть холодного коридора, где располагаются перегревающиеся стойки. В ряде случаев для увеличения расхода достаточно заменить несколько перфорированных плит фальшпола на плиты с большей степенью перфорации.

Для достижения экономичной и эффективной работы систем кондиционирования в соответствии со сказанным выше необходимо поддерживать в холодных коридорах допускаемые серверным оборудованием максимально высокую температуру и минимальную относительную влажность воздуха.

  

Подытоживая сказанное, еще раз перечислим рассмотренные в статье пути энергосбережения, а именно:
  • использование чиллеров, способных работать в комбинированном режиме работы фрикулинга;
  • расширенный температурный диапазон холодоносителя;
  • применение систем холодоснабжения с переменным расходом холодоносителя;
  • разделение холодного и горячего потоков воздуха;
  • поддержание в холодных коридорах максимально высокой температуры и минимальной относительной влажности воздуха.
Есть и другие способы снижения энергопотребления системами охлаждения. Мы же постарались рассказать о тех принципах, которые необходимо закладывать еще на этапе подготовки технического задания, ведь правильно сформулированную задачу можно считать наполовину решенной.  

О т   с л о в   к   д е л у

Первая в России «зеленая» система охлаждения ЦОДа на базе роторного регенератора

В июле 2009 г. на круглом столе «Построение и оптимизация ЦОД» компания Ayaks Engineering представила свою систему свободного охлаждения ЦОДа на основе роторного регенератора. Разработчики не остановились на расчетах и презентациях, а реализовали первый в России «зеленый» ЦОД на основе передовых технологий. Эксплуатация длится уже шесть месяцев, что позволило провести ряд комплексных испытаний и наблюдений нового оборудования, в том числе в сложных условиях морозной зимы, сравнить данные по энергопотреблению, отработать аварийные режимы и сделать определенные выводы, а именно:
  • установка полностью адаптирована для работы при температурах от –40…+35 °С. Она отлично зарекомендовала себя в холодный период года;
  • среднегодовой коэффициент энергетической эффективности (отношение холодопроизводительности к потребляемой мощности, EER) составил 7,2 (см. таблицу);
  • колебания температуры, поддерживаемой установкой на входе и выходе из стойки, не превышают 1°С;
  • система стабильно работает, обеспечивая бесперебойное охлаждение стоек с нагрузкой до 40 кВт на стойку, что позволяет значительно уменьшить площади ЦОДа и капитальные затраты;
  • одновременно установка выполняет функции подпорной вентиляции и удаления газа для системы газового пожаротушения;
  • существенно снизилась средняя мощность, потребляемая климатическим оборудованием ЦОДа;
  • отпала необходимость в резервном оборудовании; резервирование выполняется на уровне узлов и агрегатов установки.
Несомненна и экономическая выгода от использования установки: годовая экономия электроэнергии, затрачиваемой на охлаждение, достигла 60%. То есть установка такого типа окупится за три-четыре года эксплуатации. Таким образом, внося серьезный вклад в защиту окружающей среды, мы получаем немалую финансовую выгоду, что редко случается в «зеленых» проектах.
Поделиться:
Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!