Охлаждение серверных шкафов - важнейшая задача, позволяющая продлить ресурс работы и избежать сбоев электроники серверного центра. В последние годы активно внедряются новые разработки, помогающие сделать охлаждение для серверных шкафов более эффективным. Сам шкаф - стандартное средство для защиты оборудования у любых хостинг или телекоммуникационных организаций. Большинство из них оборудованы мощными системами охлаждения, потребляющими большое количество электроэнергии. Отсюда следует, что один из актуальных моментов - сделать охлаждение более экономичным.
Многие организации решают эту проблему установкой обычных кондиционеров в помещении с оборудованием, размещенным на открытых стойках. С одной стороны это решение кажется выгодным, но при длительной эксплуатации выясняется, что охлаждение серверных шкафов объемом несколько кубометров гораздо выгоднее в экономическом отношении, чем кондиционирование полного объема помещения.
5 причин приобрести системы охлаждения помещений от АквилонСтройМонтаж
- Использовании технологии Регулируемой газовой среды
- Поддержание заданного температурного режима в каждой точке объема помещения
- Точное распределение воздушного потока при заданной температуре.
- Подбор оборудования исходя из существующей теплоизоляции
- Комплексное использование охлаждения и вентиляции
ОСТАВИТЬ ЗАЯВКУ
Современная методика - стандартный 19-дюймовый шкаф по стенкам оснащается системой кондиционирования, а блок питания размещается за пределами этой конструкции. Охлажденный воздух поступает через боковую панель, переходит на переднюю, а затем направляется к задней стенке, одновременно охлаждая оборудование. Теплый воздух выводится наружу.Аналогичные системы охлаждения бывают разной мощности, модификации, применяются различные схемы размещения. Однако принцип действия остается неизменным во всех случаях. Если шкаф имеет большие размеры, то могут монтироваться целые комплексы вентиляторов для большей эффективности.Не менее редко используют рядные модели с мощностью до 25 кВт. Принцип их действия схож с описанным, за исключением того, что отсутствует внешний блок. Вентиляторы направляют воздух на тепловую стенку, нагревается и выводится. Это позволяет поддерживать внутри стабильную температуру.Существуют и более прогрессивные способы. Например, например использование микроканальных панелей для охлаждения, размещенных на задней панели. В этом случае вентиляторы не используются, поэтому уровень шума и расход электроэнергии существенно ниже. Средством для охлаждения выступает обычная вода, находящаяся в каналах температурной стенки.Охлаждение серверных шкафов не только важная, но и достаточно сложная в решении проблема, требующая профессионального подхода. Специалисты компании «АквилонСтройМонтаж» помогут вам грамотно разрешить ее. Мы внимательно следим за всеми изменениями в технологии, по возможности внедряем их в свою деятельность и можем гарантировать вам, что справимся с поставленными задачами на высоком уровне.
- Системы кондиционирования Rittal обеспечивают необходимый микроклимат и защиту телекоммуникационного оборудования установленного в шкафах.
- Сюда относится охлаждение чувствительной электроники в распределительных шкафах и корпусах управления промышленными процессами, а также стоек для серверов и сетевого оборудования.
- Все это является комплексным решением на базе продукции Rittal.
- Идеально объединенное и управляемое охлаждение - это экологически чистое и энергоэффективное оборудование.
- Чиллеры TopTherm для настенного монтажа превосходно монтируются в дверь или боковую стенку распределительного шкафа.
- Они обеспечивают централизованное и экономичное охлаждение воды и ее подачу в т. ч. на воздухо-водяные теплообменники. Конденсатор с нанопокрытием в стандартном исполнении.
Кондиционеры Rittal - эффективное охлаждение оборудования
Являясь ведущим производителем оборудования для центров обработки данных, компания Rittal ответственно подходит к системам, обеспечивающим эффективность основных узлов. Одним из главных факторов стабильной работы информационных и сетевых устройств является поддержание соответствующего температурного уровня. Для этих целей используются кондиционеры Rittal.
Системы охлаждения представлены двумя типами устройств: настенными и потолочными, которые отличаются по месту их монтажа относительно поверхности шкафа с оборудованием. Кондиционеры для шкафа могут монтироваться как внутри, так и снаружи. Полная мощность охлаждения таких устройств варьируется в пределах от 0,3 до 4 кВт.
Промышленное холодильное оборудование в Москве
Холодильные агрегаты функционируют за счет охлаждения воздуха, находящегося в закрытом корпусе. Благодаря мощной системе вентиляции обеспечивается циркуляция воздушного потока и его принудительное охлаждение. За счет максимального удаления входного и выходного отверстий исключается пересечение теплого и охлажденного потоков, что существенно повышает эффективность процесса. Компоновка настенных кондиционеров Rittal представлена несколькими типами корпусов, что позволяет установить оборудование с максимальным удобством.
Особо стоит отметить уникальное устройство конденсатора. Пропуская через себя значительное количество воздушных масс, содержащих элементы пыли и влаги, такие конденсаторы подвергаются значительному загрязнению. С целью минимизации данного явления компания Rittal разработала специальное нанопокрытие RiNano, которое благодаря своей структуре обладает водо-, масло- и грязеотталкивающими свойствами, препятствующими загрязнению поверхности. При мощности устройства более 1 кВт отведение образующегося конденсата активизируется за счет использования электрического испарителя.
Серверные шкафы с охлаждением
Кондиционеры для шкафа удобны в установке и демонтаже (в случае ремонтных работ). В комплект поставки входят крепежные элементы, которые крепятся в выполненные по прилагаемому шаблону отверстия. Подключение электропитания осуществляется через готовый клеммный блок. Установленные со шкафом кондиционеры смотрятся гармонично благодаря сходному материалу корпусов и цвету покрытий в соответствии со стандартом RAL 7035.
Эффективные и надежные кондиционеры Rittal вы сможете выбрать из предоставленного каталога и сразу сделать заказ в онлайн-режиме.
Группа компаний «МЭЛ» - оптовый поставщик систем кондиционирования Mitsubishi Heavy Industries.
www.сайт
Лет 10 тому назад автору статьи довелось быть свидетелем одной ситуации. Серверная организации представляла собой выделенную стеклопластиком половину кабинета. За окном был зимний морозный день, батарея центрального отопления не справлялась, и айтишник открыл дверь серверной и выключил кондиционер, чтобы тепло от оборудования нагрело комнату. Через час выключился основной сервер организации с ERP-системой. Причём не просто выключился, а вышло из строя 2 дорогих SSD-диска. Более ста сотрудников сидели без дела полдня, ушедших на восстановление данных из резервов. А если бы не было архива.. В общем, зачем серверным кондиционер – после этого знали все.
Варианты охлаждения серверных.
Кондиционер для большой серверной. Самый дорогой, но далеко не всегда оптимальный способ.
Слово «прецизионный» сразу ассоциируется с точностью. Увы, большинство «прецизионных» серверных кондиционеров поставляется с On-Off компрессорами, и ни о каком точном поддержании температуры даже речь не идёт, разбег 2-3 градуса в лучшем случае.
Следующий минус – шум. Обычные прецизионные кондиционеры для серверных - это моноблок с выносным конденсатором. К немалому шуму вентилятора испарителя добавляется шум от компрессора. Хорошо, когда серверная – выделенное необитаемое помещение. Но работать в комнате с работающим «прецизионником» (а бывает и такое) – крайне утомительно.
Цена. Стоимость прецизионного кондиционера – в два-три раза выше полупромышленного инверторного «японца» той же производительности.
Возможно, их единственный плюс – выносной конденсатор, потенциально позволяющий работать прецизионному кондиционеру зимой при более низких температурах, чем обычный кондиционер с зимним комплектом.
2. Сплит-система
. Самое распространённое решение для охлаждения серверных комнат, одновременно универсальное, доступное и недорогое. Самая маленькая «серверная», которую видел автор статьи – шкаф из стеклопластика размером 2м*1м*0,4м, расположенный в комнате айтишников. Естественно, кроме бытового настенного сплита туда ничего поставить было невозможно.
Большинство руководителей организаций всё-таки понимают степень риска потери данных на серверах, и покупают японские кондиционеры для серверной комнаты. Хотя основной тренд российского рынка на удешевление средней стоимости кондиционеров начинает проявляться и здесь.
Предпочтительнее ставить полупромышленный кондиционер для серверной с зимним комплектом, потому что в полупром, даже маленьких номиналов от 9000-12000 BTU, всегда заложен повышенный запас прочности: более надёжный компрессор, увеличенная площадь теплообменников, больше защитных функций.
3. Приточная вентиляция зимой. Один из вариантов системы free-cooling. Суть системы – собирается наборная приточная установка, и регулирующие заслонки управляют притоком уличного холодного воздуха. Обычно комбинируют со сплит-системой (для работы летом). Главный плюс – бесплатный уличный холод заменяет кондиционер зимой, экономия на электричестве и ресурсе сплит-системы. Минус – не везде возможна установка. Такие системы часто используют, например, на базовых станциях сотовой связи.
Расчёт кондиционера для серверной.
Доводилось видеть ситуации, когда мощность кондиционера для серверной выбиралась исходя из площади помещения, как в квартиру. С предсказуемым результатом. Конечно же, расчёт кондиционера для серверной должен строиться на теплопритоках от оборудования. В идеале, нужно знать притоки от каждого сервера/шкафа. Но зачастую этого не указано в документации. Тогда самый простой способ – посчитать мощность блоков питания серверов, или хотя бы мощность источников бесперебойного питания. Получатся цифры с запасом, но это лучше, чем сделать выбор серверного кондиционера с меньшей производительностью.
Следующий выбор – место расположения внутреннего блока. Поскольку тепло от шкафов поднимается вверх, можно сразу утилизировать его внутренним блоком, подпотолочного или кассетного типа. Но есть опасность, что при недобросовестном монтаже или обслуживании, из внутреннего блока вниз может потечь дренаж. Поэтому внутренний блок серверного кондиционера не должен располагаться непосредственно над сервером или любым электрическим устройством. Лучше всего, когда блок расположен немного в стороне, и поток холодного воздуха дует прямо на оборудование.
Проблемы кондиционера зимой.
1. Замерзание масла компрессора. Даже полиэфирные масла, используемые с фреоном R410A, при низких температурах будут застывать, кинетическая вязкость и смазывающие свойства ухудшаются зимой. Соответственно, в момент запуска, компрессор начинает работать «всухую», возникает повышенный ток, повышенное трение частей компрессора, в самом худшем случае компрессор может попросту заклинить.
2. Масло компрессора абсорбируется с фреоном. Чем дольше кондиционер выключен, тем большее количество фреона растворено в масле. В момент запуска фреон в компрессоре вскипает и уходит в трубопровод вместе с частичками масла. Возможна ситуация, когда доля ушедшего в трассу масла будет настолько велика, что компрессору придётся работать «всухую».
3. У On-Off сплит-систем, самых распространённых серверных кондиционеров, вентилятор наружного блока постоянно работает на максимальной скорости вращения. В результате, уже при нулевой температуре на улице производительность серверного кондиционера падает на 30-40%. А при отрицательных температурах расход фреона упадёт настолько, что может возникать перегрев компрессора, при этом холодопроизводительность кондиционера зимой упадёт до минимума.
4. Зачастую у сплит-систем отвод дренажа производится на улицу, а не во внутреннюю систему канализации. Соответственно, при работе кондиционера зимой дренажная трубка без подогрева просто замёрзнет, и вода потечёт из внутреннего блока.
Чтобы избежать всех этих проблем при работе кондиционера зимой, устанавливают
Зимний комплект кондиционера.
В стандартный зимний комплект кондиционера входит три элемента:
Кабель подогрева картера компрессора
. Обычно его длина 0,5м и мощность 30-50Вт. Устанавливается в нижней части компрессора, лучше всего устанавливать на примерной границе масла и фреона, чтобы минимизировать их смешивание. Частая ошибка – подключение этого подогрева на клеммник питания компрессора. Проблема в том, что подогрев будет включаться только одновременно с запуском компрессора, т.е. когда он уже бесполезен. Поэтому подогрев компрессора должен включаться на отдельную, постоянно запитанную линию 220В.
Некоторые японские производители пишут в каталогах, что в их компрессорах постоянный подогрев масла осуществляется обмотками статора. Однако, на всех этих блоках они сами продолжают ставить обычные ленточные подогревы, что как бы намекает..
Кабель подогрева дренажа. Одевается на дренажную трубку (в случае, когда дренаж выведен наружу).
. Представляет собой электронный блок, включаемый в разрыв питания вентилятора наружного блока. Его назначение – поддерживать постоянную температуру конденсации, регулируя обороты вентилятора от 0 до 100%, в зависимости от показаний собственного датчика температуры, крепящегося обычно в середине конденсатора.
Бывают более сложные регуляторы конденсации, например с подстраиваемой пользователем температурой, либо регулирующие не температуру, а именно давление конденсации. Но, ввиду высокой цены, они малораспространены.
Такой зимний комплект кондиционера ставят на On-Off модели, самые распространённые из-за своей дешевизны. Но в последние годы начинают появляться
Инверторные кондиционеры в серверной.
Главное отличие инверторных кондиционеров - плавная регулировка оборотов компрессора. При этом, вентилятор наружного блока может быть обычным, нерегулируемым. Соответственно, при выборе зимнего кондиционера обязательно нужно проверять этот нюанс.
Плюсы инверторных кондиционеров неоспоримы: меньшее энергопотребление, отсутствие пусковых токов, повышенный КПД (в режиме неполной загрузки), увеличенная пиковая производительность, более точное поддержание температуры.
Главный аргумент противников инверторных кондиционеров в серверных комнатах – их техническая сложность и потенциально меньшая надёжность.
С первым возражением нельзя не согласиться, но почему нужно считать это минусом? Больше контрольных функций, обратная связь со всевозможными датчиками для подстройки системы под изменения внешней среды - это как раз преимущества.
Увеличение числа компонентов системы потенциально увеличивает риски, это верно. Но инверторные технологии уже давно отработаны, и у серьёзных производителей они не менее надёжны, чем устаревшие On-Off системы. Даже первые мультизональные системы с инверторными компрессорами до сих пор исправно работают уже на продолжении 15 лет. А с тех пор технологии качественно выросли, не говоря о накопленном опыте и устранении «детских болезней». К примеру, у Mitsubishi Heavy количество отказов компрессоров в серии KX4 снизилось по сравнению с серией KX2 в 10 раз!
У инверторных кондиционеров в серверной возможны отдельные проблемы именно с защитными функциями.
Часть защит, например – отказ системы включиться при температуре ниже -15/-20С (по датчику уличной температуры), можно доработать или "обойти" непосредственно на объекте.
Другая часть защитных функций в обычных условиях трудно отключаема, например, защита по датчику низкого давления или температуре испарителя. Если в регионе установки серверного кондиционера нередки температуры ниже -35С, то лучше не рисковать серверной и выбрать вариант прецизионного кондиционера с выносным конденсатором либо приточной вентиляции, в крайнем случае - устанавливать наружный блок сплит-системы в помещении (лестничный марш, чердак...).
В любом случае, японские производители уже начали снимать с производства On-Off серии сплит-систем, например, Mitsubishi Heavy Industries уже несколько лет выпускает только инверторный полупром. Поэтому даже у противников перехода на инверторные кондиционеры в серверных нет альтернативы, пусть и через два-три года.
Что упускают из виду специалисты по кондиционерам.
1. Все значения холодопроизводительности в сервис-мануалах указаны для внутренних параметров: температура 27С, влажность 50%. Однако в серверных кондиционеры работают на поддержание постоянной температуры 18-20С. При этой температуре явная холодопроизводительность блока падает на 20-30%.
Чтобы избежать проблем с нехваткой холода, нужно учитывать именно явную производительность при 18С.
2. Внутренний блок рассчитывается производителем на температуру 27С. Когда на испаритель поступает всего 18С, возникает вероятность неполного испарения фреона. Особенно рискуют зимой кондиционеры On-Off с капиллярной трубкой, у инверторов с EEV этот риск меньше. Недоиспарение фреона повлечёт за собой возврат хладагента в компрессор в жидкой фазе и поломку компрессора. Считается, что "влажный ход" должны демпфировать аккумуляторы перед компрессором, но на практике они помогают не всегда.
Чтобы предотвратить влажный ход и залив компрессора, возможно устанавливать внутренний блок на один типоразмер больше наружного. Например, внутренний блок 9000 BTU, а наружный 7000 BTU.
3. При работе кондиционера на охлаждение в помещении постоянно удаляется влага из воздуха. Если помещение серверной чисто технологическое и не имеет приточной вентиляции, влажность воздуха может упасть до 30%. При этом резко вырастает опасность повреждения электронной аппаратуры статическим электричеством. Наиболее чувствительны к этой проблеме АТС и большие ЦОД, где рекомендуется поддерживать относительную влажность не ниже 50-60%.
Если в серверной будет установлено электронное оборудование, чувствительное к электростатическим разрядам, необходимо предусмотреть систему увлажнения воздуха.
Что упускают из виду IT-специалисты.
1. Ротация кондиционеров.
Даже самое лучшее оборудование может внезапно выйти из строя. Например, по причине скрытых дефектов монтажа, проблем с электроснабжением или человеческого фактора. Для минимизации рисков в серьёзных серверных (например, в банках) всегда ставят дополнительный серверный кондиционер. Обычно ставится два кондиционера, каждый из которых способен охладить серверную в одиночку, но работают они поочерёдно. В случае, когда первый кондиционер не справляется с теплопритоками или вообще неисправен – автоматически включается второй.
У кондиционеров Mitsubishi Heavy Industries функция ротации кондиционеров штатно поддерживается проводным пультом RC-EX1 , который возможно подключить ко всем полупромышленным моделям, а также настенным инверторам бытовой серии.
Управление ротацией кондиционеров других брендов возможно обеспечить отдельным устройством, «блоком ротации кондиционера». Универсальные блоки ротации делятся на две группы:
1) Управление производится "прерыванием фазы". Кабель электропитания заводится в блок ротации, а уже затем подключается к кондиционеру. Блок ротации, по сигналам датчиков температуры и реле времени, просто отключает или восстанавливает ~220В на резервном кондиционере. Соответственно, кондиционер должен поддерживать функцию "авторестарт".
2) Более изящное решение - имитация ИК-пульта кондиционера. Перед ИК-приёмником внутреннего блока крепятся компактные ИК-диоды, на которые (по проводному или радиоканалу) поступают команды с блока ротации. Обычно имитируются только ИК-сигналы включения и выключения для данной сплит-системы, соответственно, режим и температурные параметры нужно предварительно задать с пульта.
В больших серверных таких кондиционеров может быть больше двух, и работать они могут по любому заданному циклу, например «пять рабочих три резервных», причём работающие и резервные чередуются друг с другом в течение суток.
2. Удалённый мониторинг. Современные инверторные кондиционеры могут подключаться к Интернету в двустороннем режиме, принимать команды от пользователя и сообщать о состоянии работы и ошибках.
Эконом-вариант.
Проводной пульт подключается через USB к компьютеру/серверу, устанавливается программа-драйвер, и IT-специалист может наблюдать за состоянием серверного кондиционера и управлять настройками. Соответственно, через удалённый рабочий стол он может следить за температурой в серверной откуда угодно. Такие возможности штатно предоставляет, например, проводной пульт RC-EX1 в кондиционерах Mitsubishi Heavy.
Планшет или смартфон. В серверный кондиционер подключается отдельный Wi-Fi модуль, который связывается с удалённым сервером производителя, и передаёт данные о своей работе. IT-специалист устанавливает на свой гаджет специальное приложение (iOS или Android), и может просматривать логи работы серверного кондиционера, менять его настройки (режим работы, температуру..), а также получать сообщения об авариях и ошибках.
BMS или SNMP. Если в здании имеется единая система управления инженерными коммуникациями («Умный дом»), то серверные кондиционеры тоже могут стать её частью. Стандартные индивидуальные адаптеры ModBus, KNX, EnOcean есть у всех японских производителей. Интерфейсы LonWorks или BACnet подключить тоже возможно, но цена вопроса будет на порядок большей.
У Mitsubishi Heavy Industries подключение к сетям BMS возможно как для внутренних блоков мультизональных систем, так и для отдельных сплит-систем, причём не только полупромышленного типа, но и инверторных настенных блоков бытовых серий.
Также в больших серверных возможно организовать локальный сервер сбора данных по протоколу SNMP, блоки ротации серверных кондиционеров с его поддержкой имеются на рынке.
Во второй части будут подробно рассмотрены прецизионные кондиционеры и использование приточной вентиляции.
В определенный момент некоторые предприятия дорастают до того состояния, когда их внутренние информационные системы перестают умещаться в одном серверном шкафу. Тогда руководителю IT-департамента предстоит взвесить все «за» и «против» и решить, строить или не строить серверную. Вариантов может быть несколько: от полного избавления от собственных мощностей и увода их в облака или колокейшн в большом ЦОДе, до строительства собственного мини- (или не очень мини) ЦОДа с блэкджеком.
Процесс расчетов, планирования и постройки серверной весьма ответственный и дорогостоящий. Вложится придется еще на стадии проекта, тут, кстати, можно сэкономить если все процедуры в серверной, от проектирования до строительства, будет производить один подрядчик. Естественное желание руководителя предприятия в такой ситуации - уложиться в минимально возможную сумму. И в штыки воспринимается любое удорожание проекта. В таких перепалках часто забывается, что, помимо строительства объекта, последует его содержание, которое при неправильном проектировании может оскуднить бюджет предприятия на еще одну несуществующую серверную по прошествии двух-трех лет.
Второй по величине потребитель ресурсов (в данном случае это электричество и расходники) в серверной - это система охлаждения. Ни для кого не новость, что “мощность” системы охлаждения серверной должна минимум совпадать, а в лучшем случае превышать на пару десятков процентов пиковую мощность всего оборудования установленного в серверной. О том, какие системы охлаждения бывают и как сэкономить на эксплуатации таких систем мы и поговорим в этой статье.
Классификация систем охлаждения помещений
Наиболее привычными для эксплуатации и понимания являются компрессорные кондиционеры. В них хладагент (в подавляющем большинстве случаев - фреон) переносит тепло от радиатора внутреннего блока во внешний, где рассеивает энергию в окружающую среду. Подробнее о принципе действия кондиционера можно прочитать . Затем идут жидкостные и комбинированные системы, в качестве основного хладагента используют воду или этиленгликоль, и выбор теплоносителя зависит не только от условий эксплуатации, а также от способа охлаждения. И самым эффективным решением, в определённых условиях, конечно, являются системы фрикулинга. Это исключительно прецизионные устройства, разрабатывающиеся почти с нуля в каждом конкретном случае.Также стоит обратить внимание на классификацию по «формфактору». Тут условно можно разделить системы на два типа. Бытовые системы к которым мы все уже привыкли, обычно устанавливаются в офисах и квартирах, подвешиваясь на стены или потолок, но вполне могут служить системами охлаждения специализированных помещений. И прецизионные системы, куда можно отнести специализированные системы кондиционирования, и, конечно же, все фрикулинговые и жидкостные системы.
Внутри прецизионных систем есть систематизация по принципу действия и по способу доставки «холода» до «потребителей». И если с принципиальными отличиями все более менее ясно, то способов охладить непосредственно девайсы великое множество.
Среди классических общепринятых случаев можно выделить холодную комнату с установленными стойками, тут подойдут и бытовые кондиционеры. Классические варианты прецизионных решений- это устройства с рядными воздуховодами, с холодными и горячими коридорами, где стойки стоят рядами таким образом, чтобы забирать холодный воздух поступающий, например, из-под фальшпола. Они отдают нагретый воздух в коридоры, откуда он принудительно отводится. Также есть варианты с воздуховодами до каждой стойки, где воздух подается в каждую отдельно взятую стойку сверху или снизу и потом так же активно отбирается.
Неклассических решений чуть больше чем много. Надо ли говорить что все они прецизионные. Большинство решений это комбинации вышеназванных систем для повышения эффективности и сокращения затрат. Разброс тут - от индивидуальных кондиционеров на каждый серверный шкаф до жидкостного охлаждения каждого отдельного сервера или даже процессора. А так же стоит особо отметить системы с прямым контактом потребителя с жидкостью. В этом случае сервера полностью погружены в специальное масло. Масло это без запаха и абсолютно не проводит электричество. Жидкость постоянно циркулирует внутри бассейнов с оборудованием, и проходит через радиаторы охлаждения.
Стратегия
Не один раз стоит подумать о необходимости строить серверную. Существует мнение, что для мощностей меньше 5кВт выделенная серверная комната не нужна. Обычно все оборудование вполне себе «упихнется» в 42-47-юнитовую стойку-шкаф, и максимум что еще понадобится - это отдельная однорамочная стойка под кросс. Всё это можно отгородить от «админской» или какого нибудь другого помещения (главное не от бухгалтерии) стеклянной или гипсокартонной перегородкой с герметичной дверью, поставить спаренный бытовой кондиционер и идти пить пиво.Но мы строим серверную. Прежде всего нам необходимо решить, какую систему охлаждения мы будем использовать, и дело тут не только в цене. Выбор способа охлаждения зависит от множества факторов: мощность оборудования, место расположения серверной комнаты в здании, географическое расположение самого здания и даже от предвзятого отношения к определённым типам охлаждающих устройств и недальновидности начальства.
Распространено мнение, что системам до 10кВт вполне хватит бытового кондиционера. Оно и понятно, ведь бытовые сплит-системы большей мощности, во-первых, достаточно проблематично купить, во-вторых, их стоимость приближается, а то превышает стоимость аналогичных по мощности прецизионных кондиционеров.
От местоположения серверной комнаты в здании сильно зависит возможность установки той или иной системы охлаждения, возможности подвести коммуникации, воздуховоды для специализированных систем, устроить фальшпол или установить турбины. При недостаточной высоте потолков невозможно устроить фальшпол нужной глубины, для установки туда воздуховодов обдува и забора воздуха прецизионной системы. Положение в середине здания создаст проблемы при прокладке воздуховодов, одного из вариантов фрикулинговой системы, а соседство с экономическим отделом вообще поставит крест на строительстве серверной из за «намжешумит».
Географический фактор играет одну из первостепенных ролей и часто ставит крест на возможности фрикулинга, если вы находитесь, например, в тропическом поясе. Именно поэтому ЦОДо строители так любят северные районы нашей планеты, ведь там можно вообще не использовать кондиционеры.
Вдобавок ко всему некоторые технические специалисты имеют своё собственное очень твёрдое убеждение в применимости одной системы и абсолютной неприемлемости других вариантов охлаждения. Они будут спокойно и уверено доказывать свою правоту, находя аргументы «за» и выискивая недостатки других предложений, от реальных до мифических.
В итоге, отталкиваясь от выбранной стратегии, мы и будем проектировать устройство самой серверной.
Стратегия охлаждения бытовыми кондиционерами
Вы обладатель небольшого парка серверов, 2-3 стойки с которыми будут стоять в отдельной комнате. У вас не намечается перспективы плавного роста мощностей и вы, либо не хотите заморачиваться, либо (что наиболее вероятно) не имеете бюджета на более энергоэффективные и экологичные решения.Прежде всего решите, как в вашей серверной будут располагаться стойки с оборудованием относительно кондиционеров. Лучшим из вариантов в вашем случае будет установка внутренних модулей сплит-системы напротив ряда стоек один над одним, направленные на «лицевую» сторону открытой стойки или шкафа с сетчатой дверью. Оборудование внутри стойки имеет смысл устанавливать той стороной, с которой оно забирает воздух для охлаждения внутренних компонентов. Некоторые устройства, устанавливающиеся в стойки, могут быть перестроены или даже выпускаться в исполнении, когда они либо забирают либо выбрасывают воздух с лицевой стороны, или в одну из боковых стенок. Подумайте об этом при покупке.
Даже если роста суммарной мощности не предвидится, кондиционеры стоит взять с запасом по мощности, например, взяв за максимум пиковое потребление-рассеивание самой «горячей» стойки и помножив на их, стоек, количество.
Минимум отказоустойчивости в этой стратегии - N+1. На практике это выглядит как два и больше кондиционеров одинаковой мощности, где «N» кондиционеров способный поддерживать рабочую температуру в серверной пока "+1" ремнтируется или обслуживается. Чаще всего в небольших серверных используется два агрегата. Для продления ресурса обоих кондиционеров необходимо использовать устройство ротации кондиционеров. Устройство в определённые периоды времени переключает работу с одного кондиционера на другой, отслеживает их запуски и контролирует производительность. При выходе из строя одного из кондиционеров оно должно автоматически подключить «спящий» и оповестить ответственного о проблеме. Стоит отметить, что эту функцию поддерживают далеко не все модели бытовых кондиционеров.
Все серверные сплит-системы, установленные в широтах нашей страны, должны иметь так называемый «зимний комплект». Он представляет собой блок правления, некоторое усовершенствование радиатора внешнего блока кондиционера и систему подогрева картера насоса. Работает автоматически.
Рис.1. Охлаждение бытовыми кондиционерами.
Прецизионные системы охлаждения помещений
Прецизионный (высокоточный) кондиционер (или другой охладитель) - создан в точности так, чтобы максимально эффективно работать в инфраструктуре с заданными конечными параметрами. Иными словами, когда мы говорим «прецизионный кондиционер», мы подразумеваем, что и помещение, и оборудование серверной, и сама «холодильная установка» разработаны в проекте, как совокупность технологий, позволяющих наилучшим образом обеспечить работоспособность, сохранность и долговечность дорогостоящего оборудования.Надо ли говорить, что устройства индивидуального дизайна - удовольствие дорогое. Священные войны идут между приверженцами разных лагерей. Одни утверждают, что для обычной серверной комнаты достаточно спареного индустриального варианта бытового кондиционера, такие есть, например, у Daikin (серии FT и FAQ) или Mitsubishi (серии Heavy). При выборе такого варианта важно принимать во внимание такие минусы, как локальные застои горячего воздуха в углах или в юнитах стоек, которые не заняты активным оборудованием. Не менее опасный фактор - низкая влажность, ведь, как известно, кондиционер, осушает воздух. Сухой воздух способствует накоплению статического электричества, наличие статического потенциала на тонкой электронике негативно сказывается на работе чипов, и повышает риск их уничтожения разрядом. Конечно, большая часть факторов устранима, но в большинстве случаев это костылепроизводство. Дополнительные вентиляторы, увлажнители воздуха, это все множащиеся точки отказа, затраты на электроэнергию и обслуживание. Обслуживание, кстати, того же увлажнителя, дело не столько затратное по средствам, сколько по времени. Нужна регулярная чистка и ежедневный долив воды.
У прецизионников тоже не все гладко. Прежде всего они весьма габаритны: фреоновые кондиционеры имеют габариты двух-трех полноразмерных стоек. Так как контроль влажности - одна из основных функций специализированного кондиционера, то к внутренним блокам требуется подвести воду, что для некоторых IT-шников совершенно неприемлемо. Холодный воздух от таких агрегатов подводится к стойкам по воздуховодам, которые проводятся или под фальшполом, самый частый и самый дорогой вариант, или под потолком, что подразумевает высокие потолки и накладывает дополнительные ограничения на прокладку кабельных коммуникаций. Конденсаторы-охладители таких кондиционеров имеют порядочные размеры, и сразу возникает вопрос с их размещением и подводкой системы труб от внутреннего блока.
С минусами покончили, перейдем к плюсам. Сюда можно отнести: высокую производительность, резервируемость только активных компонентов кондиционера (например воздуховоды, я думаю, -резервировать смысла нет), четкий контроль за температурой и влажностью, возможность детального мониторинга. Плюсы следующие отсюда- это относительная экономия, гарантированая доставка холодного воздуха до потребителя, поддержка высокой плотности потребителей на стойку (это скорее правило, если стойка будет пустовать, она будет работать неэффективно и влиять на всю «экосистему»). Между увеличением затрат на кондиционер и последующей энергоэффективностью прослеживается вполне объяснимая взаимосвязь.
Как я уже говорил, самым распространенным явлением прецизионного кондиционирования является коридорная система, где стойки расположены рядами и установлены так, чтобы забирать воздух из холодных коридоров (куда воздух подается кондиционером) и отдавать в горячие (откуда воздух отбирается системой вентиляции). Воздуховодом такой системы чаще всего служит фальшпол. Панели самого пола в основном сплошные, вся кабельная коммуникация по возможности из-под фальшпола переносится под потолок, перед рядами стоек в полу устраиваются решетчатые панели откуда охлажденный воздух поступает на лицевую сторону стойки. Двери серверных шкафов при таком устройстве делают сетчатыми с обоих торцов, или же или же совсем не делают. Затем нагретый серверами воздух выдувается в горячий коридор откуда высасывается системой принудительной вентиляции. В идеале, следуя принципам термодинамики, вытяжку стоит располагать вверху горячего коридора, но часто это делают в фальшполу для экономии пространства над стойками для прокладки кабельных коммуникаций. С относительно недавних пор, холодные и горячие коридоры стали делать герметичными от общего помещения серверной. Этим удалось добиться существенной экономии на рассеивание ценного холода. В свободные юнитовые пространства шкафов обязательно требуется устанавливать заглушки, потому что горячий воздух так и норовит смешаться с охлажденным. Этим можно повысить эффективность охлаждения в полтора-два раза.
Рис. 2. Система с открытыми коридорами, очевидны потери драгоценного холодного воздуха.
Рис. 3. Более эффективная, система с изолированными коридорами.
Intel, например, преследуя идею максимально просто и эффективно охлаждать оборудование, пошли дальше и даже запатентовали стойку с вытяжкой . Стойка представляет собой обычный 19" шкаф, но глубже аналогов и имеет в верхней крышке воздуховод, открывающийся в пространство фальшпотолка, откуда горячий воздух высасывается кондиционерами. Вся система, кроме кондиционеров, абсолютно пассивна. Но при этом, по утверждению Intel, способна охлаждать 32 кВт оборудования на стойку.
Принимая во внимание климат нашей страны, у прецизионных кондиционеров есть еще один большой плюс: их схему можно достаточно безболезненно доработать, добавив полный или частичный жидкостный контур. Используя в качестве хладагента этиленгликоль, параллельно контуру кондиционера строят еще один контур с жидкостным охлаждением, тем самым сокращая затраты на электричество, обслуживание кондиционера и увеличивая срок службы оных. Эффективность гликолевого контура начинается уже при температуре ниже +20 С, что даже летом по ночам в России совсем не редкость.
Дополнительный жидкостный контур дублирует таковой фреоновый, и в принципе может работать круглосуточно, в дневное «жаркое» время охлаждая компрессор кондиционера и конденсатор, а при падении уличной температуры переходя на частичное и полное охлаждение внутреннего теплообменника.
Лидерами среди производителей прецизионных систем охлаждения являются Schneider Electric, STULZ, Emerson Network Power, RC Group. Среди их решений есть и готовые комбинированные системы.
Жидкостные системы
Принципиальная разница жидкостного охлаждения и фреонового лишь в том, что в контуре жидкость чаще всего не меняет фазового состояния, отчего при равной мощности системы водяные и гликолевые системы проиграют фреоновым в эффективности. Однако у жидкостных систем есть неоспоримые преимущества, такие как емкость и универсальность. В системах с жидкостным охлаждением охладителем может быть как фанкоил на крыше или во дворе здания, так и система отопления самого здания. Жидкость может охлаждать воздух в серверной, а может использоваться как хладагент для отдельно взятого процессора . Неоспоримое преимущество жидкостного кондиционирования - это практически неограниченная протяженность трас, за счет низкой цены на хладагент, для самой же системы это только плюс. Самое опасное в данной ситуации - это протечка токопроводящего агента, но, судя по всему, это никого уже не пугает. IBM в этой ситуации отличился строительством SuperMUC, где добился 40% экономии энергии за счет отсутствия в системе охлаждения чиллеров. А Google в большинстве своих ЦОДов и вовсе используют систему собственной разработки, где используется система холодных и горячих коридоров.Еще одна система с жидкостью подразумевает погружение сервера в специальное минеральное масло. Масло - диэлектрик, так что замыкания не будет. Что касается энергоэффективности, то, по утверждениям специалистов того же Intel, на систему охлаждения в таком случае затрачивается на 90% меньше энергии, а также снижается энергопотребление самих серверов. Стойки для погружного жидкостного охлаждения уже выпускаются, например, компанией СarnotJet . Стойки пригодны для размещения любых серверов, только предварительно требуется вытащить из них все вентиляторы.
Рис. 4. Самое жидкостное охлаждение
Еще одним фактором универсальности является огромное количество способов охлаждения хладагента. Для примера можно привести технологию SeaWater Air Conditioning (SWAC), по этой технологии построен ЦОД Google в Финляндии. Из названия понятно, что для охлаждения воды, поступающей в ЦОД, используется теплообменник на холодной воде, забираемой с морских глубин.
Классическая же система жидкостного охлаждения выступает посредником между относительно высокой температурой внутри помещения серверной и охладителем, чаще сухой градирней и чиллером, снаружи.
Сухая градирня представляет собой закрытый контур охлаждения, где жидкость поступает в радиатор, который принудительно обдувается воздухом. Есть еще мокрые градирни, в них вода разбрызгивается и одновременно продувается. В грядирнях, или фанкоилах, жидкий хладагент обычно только подготавливается, охлаждаясь до температуры воздуха, само же охлаждение происходит теплообменнике чиллера.
Чиллер - это холодильник, он действует на фреоне, охлаждая проходящую через его охладитель жидкость до требуемой температуры.
Для классического жидкостного кондиционирования верны все те же правила, что и для систем на фреоне. Охлажденный в испарителе воздух проходит через потребителей и отбирается из серверной самой системой охлаждения. Несмотря на то, что жидкостные системы более универсальны и в целом дешевле в эксплуатации, чем фреоновые, эффективность их ниже за счет большего числа посредников воздух-чиллер-жидкость-воздух. Согласитесь, не самая удачная схема.
Убираем посредников
Прямой фрикулинг - самый энергоэффективный способ охлаждения серверных. Конечно, его эффективность целиком зависит от температуры воздуха «за бортом», но некоторые изменения в стандартизации и различные зеленые технологии постепенно двигают системы охлаждения серверных именно в этом направлении.Начнем с того, что крупнейший стандартизатор инженерных систем, а в частности систем охлаждения и отопления, ASHRAE (англ. American Society of Heating, Refrigerating and Air-Conditioning Engineers) - Американское общество инженеров по отоплению, охлаждению и кондиционированию воздуха, с 2004 г. два раза повышало рекомендуемую температуру воздуха для охлаждения серверных с +22 до +27 градусов С. А в 2011 году были внесены поправки в стандарт, стратифицирующие два новых класса оборудования для серверных A3 и A4, где температурный диапазон увеличен до +40 и +45 градусов. Производители серверов уже выпускают такие модели. Хотя они еще не получили широкого распространения, все больше ЦОДо строителей склоняются к использованию зеленых технологий в охлаждении.
Для серверных в наших широтах фрикулинг может стать если не полной заменой классической модели охлаждения, то серьёзным подспорьем в охлаждении в холодное время года, а также позволит снизить и мощность кондиционеров.
Самой большой проблемой прямого фрикулинга является общая загрязненность воздуха в городах. Может случится так, что количество, расход фильтров и мощность вентиляторов для их продува может свести на нет всю экономию по электроэнергии и мощности. Это проблема решается разделением контуров и введения между ними теплообменника на основе роторного рекуператора . В данном случае фильтры тоже понадобятся, но более дешевые и с минимальным сопротивлением воздуху.
Другой большой проблемой является то, что, при вспомогательной функции нашего фрикулера, он будет плохо сочетаться с бытовыми системами и лучше всего с прецизионными.
Из плюсов: при прямом фрикулинге нет риска пересушить воздух в помещении серверной, т.к. идет постоянный обмен воздухом с внешней средой. С другой стороны, влажность воздуха на улице может категорически не соответствовать принятым стандартам влажности для серверных комнат, и тут на помощь приходит один из главных козырей систем фрикулинга - адиабатическое охлаждение.
Давно замечено что влажный воздух у водоемов всегда прохладнее чем на равнинах в удаленни от них, вспомнить хотя бы морской бриз. Для адиабатического охлаждения воздуха не нужно ни систем резервирования ни сложных технических решений. Устроены они по принципу мокрых градирен, в нагретый внешний воздух в камерах форсунками разбрызгивается вода, которая испаряясь охлаждает и увлажняет воздух. Данная система не только эффективно понижает температуру внешнего воздуха, но так же и создает необходимую влажность воздуха. Правда в таких системах появляется новый расходный материал - вода. По этому, на равне с PUE (Power usage effectiveness) ASHRAE ввела новый термин WUE (Water usage effectiveness (PDF)) . За что отвечают данные параметры я думаю понятно всем.
В качестве ярких примеров внедрения таких систем можно упомянуть ЦОД eBay “Меркурий” в Фениксе (США) и Facebook в Прайнвилле (США).
Вместо заключения
«Так как же, все таки охлаждать небольшие серверные на пару десятков кВа?» - спросите вы.Ответ неоднозначен. Большинству читателей подойдет решение из двух нормальных бытовых кондиционеров. Те же, кто сможет убедить собственное руководство в необходимости экономии и введения экологичных инноваций, получат море головной боли и потом бесконечное наслаждение конечным результатом.
Как я уже говорил, конкретное решение сильно зависит от климатических условий конкретного региона. Для восприятия климатической картины лучше всего взять историческую справку по максимумам и минимумам температуры и влажности за всю историю инструментальных наблюдений в вашем регионе или городе, а также проанализировать подробные данные по самым жарким температурам за последние лет 10-20. Этого с лихвой хватит на то, чтобы выработать четкую стратегию.
Несмотря на все плюсы фрикулинга, в условиях средней полосы, в 80 случаях из 100 обойтись без компрессорного или жидкостного кондиционера скорее всего не получится. В связи с этим, общая идея построения “большой” энергоэффективной серверной такова:
- Это помещение с прецизионной системой охлаждения. В помещении устроены фальшполы для подвода холодного воздуха, с разделением на холодные и горячие корридоры, изолированные от общего помещения серверной для обеспечения более четкого теплообмена.
- Большую часть времени, система работает на прямом фрикулинге, при повышении температуры внешнего воздуха подключается система адиабатического охлаждения. При превышении допустимых норм по температуре влажности, подключается система компрессорного или жидкостного охлаждения, т.е. кондиционер.
Стоит обратить внимание на то, что такая система не сможет работать без адекватного и подробного мониторинга состояния внутренней среды. Мониторинг температуры в холодном и горячем коридорах, влажность воздуха внутри и снаружи, наличие воды в системе адиабатики, контроль протечек. Для этого существуют устройства мониторинга, способные публиковать данные с различных датчиков через Ethernet или Wifi. Представлены они в виде плат, корпусных изделий и изделий для установки в стандартные 19" стойки. К примеру, netping уже оснащаются встроенным GSM модемом с SMS-модулем, способным оповестить о существенных изменениях параметров или срабатывании датчика не только ответственные узлы системы охлаждения, но и вас лично.
К тому же все эти данные не только можно, но и нужно вводить в систему глобального мониторинга, например, Zabbix , где по графикам и выборкам можно анализировать карту температур серверной, коррелировать изменения внутри серверной и снаружи. Автоматизировать создание инцидентов, основаных на совокупности показателей, а не на каком-то одном.
Все это позволит отстроить систему охлаждения на максимальную эффективность и предупредить её поломки.
К сожалению, в одной небольшой статье невозможно досконально проработать тему охлаждения серверной. С одной стороны, может показаться, что фрикулинг - это выход для всех, но на самом деле, это достаточно рискованное предприятие. История знает порядочно количество эпичных ситуаций, когда из строя выводились целые ЦОДы из за ошибок в проектировании и недостаточном внимании к деталям. Наилучшим, хоть и более дорогим, является решение, которое подразумевает дублирование штатных систем охлаждения альтернативными.
Больших вам ЦОДов, и непрестанного шума в серверных.