Система охлаждения серверных помещений. Кондиционеры для серверных

Группа компаний «МЭЛ» - оптовый поставщик систем кондиционирования Mitsubishi Heavy Industries.

www.сайт

Лет 10 тому назад автору статьи довелось быть свидетелем одной ситуации. Серверная организации представляла собой выделенную стеклопластиком половину кабинета. За окном был зимний морозный день, батарея центрального отопления не справлялась, и айтишник открыл дверь серверной и выключил кондиционер, чтобы тепло от оборудования нагрело комнату. Через час выключился основной сервер организации с ERP-системой. Причём не просто выключился, а вышло из строя 2 дорогих SSD-диска. Более ста сотрудников сидели без дела полдня, ушедших на восстановление данных из резервов. А если бы не было архива.. В общем, зачем серверным кондиционер – после этого знали все.

Варианты охлаждения серверных.

Кондиционер для большой серверной. Самый дорогой, но далеко не всегда оптимальный способ.

Слово «прецизионный» сразу ассоциируется с точностью. Увы, большинство «прецизионных» серверных кондиционеров поставляется с On-Off компрессорами, и ни о каком точном поддержании температуры даже речь не идёт, разбег 2-3 градуса в лучшем случае.

Следующий минус – шум. Обычные прецизионные кондиционеры для серверных - это моноблок с выносным конденсатором. К немалому шуму вентилятора испарителя добавляется шум от компрессора. Хорошо, когда серверная – выделенное необитаемое помещение. Но работать в комнате с работающим «прецизионником» (а бывает и такое) – крайне утомительно.

Цена. Стоимость прецизионного кондиционера – в два-три раза выше полупромышленного инверторного «японца» той же производительности.

Возможно, их единственный плюс – выносной конденсатор, потенциально позволяющий работать прецизионному кондиционеру зимой при более низких температурах, чем обычный кондиционер с зимним комплектом.

2. Сплит-система . Самое распространённое решение для охлаждения серверных комнат, одновременно универсальное, доступное и недорогое. Самая маленькая «серверная», которую видел автор статьи – шкаф из стеклопластика размером 2м*1м*0,4м, расположенный в комнате айтишников. Естественно, кроме бытового настенного сплита туда ничего поставить было невозможно.

Большинство руководителей организаций всё-таки понимают степень риска потери данных на серверах, и покупают японские кондиционеры для серверной комнаты. Хотя основной тренд российского рынка на удешевление средней стоимости кондиционеров начинает проявляться и здесь.

Предпочтительнее ставить полупромышленный кондиционер для серверной с зимним комплектом, потому что в полупром, даже маленьких номиналов от 9000-12000 BTU, всегда заложен повышенный запас прочности: более надёжный компрессор, увеличенная площадь теплообменников, больше защитных функций.

3. Приточная вентиляция зимой. Один из вариантов системы free-cooling. Суть системы – собирается наборная приточная установка, и регулирующие заслонки управляют притоком уличного холодного воздуха. Обычно комбинируют со сплит-системой (для работы летом). Главный плюс – бесплатный уличный холод заменяет кондиционер зимой, экономия на электричестве и ресурсе сплит-системы. Минус – не везде возможна установка. Такие системы часто используют, например, на базовых станциях сотовой связи.

Расчёт кондиционера для серверной.

Доводилось видеть ситуации, когда мощность кондиционера для серверной выбиралась исходя из площади помещения, как в квартиру. С предсказуемым результатом. Конечно же, расчёт кондиционера для серверной должен строиться на теплопритоках от оборудования. В идеале, нужно знать притоки от каждого сервера/шкафа. Но зачастую этого не указано в документации. Тогда самый простой способ – посчитать мощность блоков питания серверов, или хотя бы мощность источников бесперебойного питания. Получатся цифры с запасом, но это лучше, чем сделать выбор серверного кондиционера с меньшей производительностью.

Следующий выбор – место расположения внутреннего блока. Поскольку тепло от шкафов поднимается вверх, можно сразу утилизировать его внутренним блоком, подпотолочного или кассетного типа. Но есть опасность, что при недобросовестном монтаже или обслуживании, из внутреннего блока вниз может потечь дренаж. Поэтому внутренний блок серверного кондиционера не должен располагаться непосредственно над сервером или любым электрическим устройством. Лучше всего, когда блок расположен немного в стороне, и поток холодного воздуха дует прямо на оборудование.

Проблемы кондиционера зимой.

1. Замерзание масла компрессора. Даже полиэфирные масла, используемые с фреоном R410A, при низких температурах будут застывать, кинетическая вязкость и смазывающие свойства ухудшаются зимой. Соответственно, в момент запуска, компрессор начинает работать «всухую», возникает повышенный ток, повышенное трение частей компрессора, в самом худшем случае компрессор может попросту заклинить.

2. Масло компрессора абсорбируется с фреоном. Чем дольше кондиционер выключен, тем большее количество фреона растворено в масле. В момент запуска фреон в компрессоре вскипает и уходит в трубопровод вместе с частичками масла. Возможна ситуация, когда доля ушедшего в трассу масла будет настолько велика, что компрессору придётся работать «всухую».

3. У On-Off сплит-систем, самых распространённых серверных кондиционеров, вентилятор наружного блока постоянно работает на максимальной скорости вращения. В результате, уже при нулевой температуре на улице производительность серверного кондиционера падает на 30-40%. А при отрицательных температурах расход фреона упадёт настолько, что может возникать перегрев компрессора, при этом холодопроизводительность кондиционера зимой упадёт до минимума.

4. Зачастую у сплит-систем отвод дренажа производится на улицу, а не во внутреннюю систему канализации. Соответственно, при работе кондиционера зимой дренажная трубка без подогрева просто замёрзнет, и вода потечёт из внутреннего блока.

Чтобы избежать всех этих проблем при работе кондиционера зимой, устанавливают

Зимний комплект кондиционера.

В стандартный зимний комплект кондиционера входит три элемента:

Кабель подогрева картера компрессора . Обычно его длина 0,5м и мощность 30-50Вт. Устанавливается в нижней части компрессора, лучше всего устанавливать на примерной границе масла и фреона, чтобы минимизировать их смешивание. Частая ошибка – подключение этого подогрева на клеммник питания компрессора. Проблема в том, что подогрев будет включаться только одновременно с запуском компрессора, т.е. когда он уже бесполезен. Поэтому подогрев компрессора должен включаться на отдельную, постоянно запитанную линию 220В.

Некоторые японские производители пишут в каталогах, что в их компрессорах постоянный подогрев масла осуществляется обмотками статора. Однако, на всех этих блоках они сами продолжают ставить обычные ленточные подогревы, что как бы намекает..

Кабель подогрева дренажа. Одевается на дренажную трубку (в случае, когда дренаж выведен наружу).

. Представляет собой электронный блок, включаемый в разрыв питания вентилятора наружного блока. Его назначение – поддерживать постоянную температуру конденсации, регулируя обороты вентилятора от 0 до 100%, в зависимости от показаний собственного датчика температуры, крепящегося обычно в середине конденсатора.

Бывают более сложные регуляторы конденсации, например с подстраиваемой пользователем температурой, либо регулирующие не температуру, а именно давление конденсации. Но, ввиду высокой цены, они малораспространены.

Такой зимний комплект кондиционера ставят на On-Off модели, самые распространённые из-за своей дешевизны. Но в последние годы начинают появляться

Инверторные кондиционеры в серверной.

Главное отличие инверторных кондиционеров - плавная регулировка оборотов компрессора. При этом, вентилятор наружного блока может быть обычным, нерегулируемым. Соответственно, при выборе зимнего кондиционера обязательно нужно проверять этот нюанс.

Плюсы инверторных кондиционеров неоспоримы: меньшее энергопотребление, отсутствие пусковых токов, повышенный КПД (в режиме неполной загрузки), увеличенная пиковая производительность, более точное поддержание температуры.

Главный аргумент противников инверторных кондиционеров в серверных комнатах – их техническая сложность и потенциально меньшая надёжность.

С первым возражением нельзя не согласиться, но почему нужно считать это минусом? Больше контрольных функций, обратная связь со всевозможными датчиками для подстройки системы под изменения внешней среды - это как раз преимущества.

Увеличение числа компонентов системы потенциально увеличивает риски, это верно. Но инверторные технологии уже давно отработаны, и у серьёзных производителей они не менее надёжны, чем устаревшие On-Off системы. Даже первые мультизональные системы с инверторными компрессорами до сих пор исправно работают уже на продолжении 15 лет. А с тех пор технологии качественно выросли, не говоря о накопленном опыте и устранении «детских болезней». К примеру, у Mitsubishi Heavy количество отказов компрессоров в серии KX4 снизилось по сравнению с серией KX2 в 10 раз!

У инверторных кондиционеров в серверной возможны отдельные проблемы именно с защитными функциями.

Часть защит, например – отказ системы включиться при температуре ниже -15/-20С (по датчику уличной температуры), можно доработать или "обойти" непосредственно на объекте.

Другая часть защитных функций в обычных условиях трудно отключаема, например, защита по датчику низкого давления или температуре испарителя. Если в регионе установки серверного кондиционера нередки температуры ниже -35С, то лучше не рисковать серверной и выбрать вариант прецизионного кондиционера с выносным конденсатором либо приточной вентиляции, в крайнем случае - устанавливать наружный блок сплит-системы в помещении (лестничный марш, чердак...).

В любом случае, японские производители уже начали снимать с производства On-Off серии сплит-систем, например, Mitsubishi Heavy Industries уже несколько лет выпускает только инверторный полупром. Поэтому даже у противников перехода на инверторные кондиционеры в серверных нет альтернативы, пусть и через два-три года.

Что упускают из виду специалисты по кондиционерам.

1. Все значения холодопроизводительности в сервис-мануалах указаны для внутренних параметров: температура 27С, влажность 50%. Однако в серверных кондиционеры работают на поддержание постоянной температуры 18-20С. При этой температуре явная холодопроизводительность блока падает на 20-30%.

Чтобы избежать проблем с нехваткой холода, нужно учитывать именно явную производительность при 18С.

2. Внутренний блок рассчитывается производителем на температуру 27С. Когда на испаритель поступает всего 18С, возникает вероятность неполного испарения фреона. Особенно рискуют зимой кондиционеры On-Off с капиллярной трубкой, у инверторов с EEV этот риск меньше. Недоиспарение фреона повлечёт за собой возврат хладагента в компрессор в жидкой фазе и поломку компрессора. Считается, что "влажный ход" должны демпфировать аккумуляторы перед компрессором, но на практике они помогают не всегда.

Чтобы предотвратить влажный ход и залив компрессора, возможно устанавливать внутренний блок на один типоразмер больше наружного. Например, внутренний блок 9000 BTU, а наружный 7000 BTU.

3. При работе кондиционера на охлаждение в помещении постоянно удаляется влага из воздуха. Если помещение серверной чисто технологическое и не имеет приточной вентиляции, влажность воздуха может упасть до 30%. При этом резко вырастает опасность повреждения электронной аппаратуры статическим электричеством. Наиболее чувствительны к этой проблеме АТС и большие ЦОД, где рекомендуется поддерживать относительную влажность не ниже 50-60%.

Если в серверной будет установлено электронное оборудование, чувствительное к электростатическим разрядам, необходимо предусмотреть систему увлажнения воздуха.

Что упускают из виду IT-специалисты.

1. Ротация кондиционеров. Даже самое лучшее оборудование может внезапно выйти из строя. Например, по причине скрытых дефектов монтажа, проблем с электроснабжением или человеческого фактора. Для минимизации рисков в серьёзных серверных (например, в банках) всегда ставят дополнительный серверный кондиционер. Обычно ставится два кондиционера, каждый из которых способен охладить серверную в одиночку, но работают они поочерёдно. В случае, когда первый кондиционер не справляется с теплопритоками или вообще неисправен – автоматически включается второй.

У кондиционеров Mitsubishi Heavy Industries функция ротации кондиционеров штатно поддерживается проводным пультом RC-EX1 , который возможно подключить ко всем полупромышленным моделям, а также настенным инверторам бытовой серии.

Управление ротацией кондиционеров других брендов возможно обеспечить отдельным устройством, «блоком ротации кондиционера». Универсальные блоки ротации делятся на две группы:

1) Управление производится "прерыванием фазы". Кабель электропитания заводится в блок ротации, а уже затем подключается к кондиционеру. Блок ротации, по сигналам датчиков температуры и реле времени, просто отключает или восстанавливает ~220В на резервном кондиционере. Соответственно, кондиционер должен поддерживать функцию "авторестарт".

2) Более изящное решение - имитация ИК-пульта кондиционера. Перед ИК-приёмником внутреннего блока крепятся компактные ИК-диоды, на которые (по проводному или радиоканалу) поступают команды с блока ротации. Обычно имитируются только ИК-сигналы включения и выключения для данной сплит-системы, соответственно, режим и температурные параметры нужно предварительно задать с пульта.

В больших серверных таких кондиционеров может быть больше двух, и работать они могут по любому заданному циклу, например «пять рабочих три резервных», причём работающие и резервные чередуются друг с другом в течение суток.

2. Удалённый мониторинг. Современные инверторные кондиционеры могут подключаться к Интернету в двустороннем режиме, принимать команды от пользователя и сообщать о состоянии работы и ошибках.

Эконом-вариант. Проводной пульт подключается через USB к компьютеру/серверу, устанавливается программа-драйвер, и IT-специалист может наблюдать за состоянием серверного кондиционера и управлять настройками. Соответственно, через удалённый рабочий стол он может следить за температурой в серверной откуда угодно. Такие возможности штатно предоставляет, например, проводной пульт RC-EX1 в кондиционерах Mitsubishi Heavy.

Планшет или смартфон. В серверный кондиционер подключается отдельный Wi-Fi модуль, который связывается с удалённым сервером производителя, и передаёт данные о своей работе. IT-специалист устанавливает на свой гаджет специальное приложение (iOS или Android), и может просматривать логи работы серверного кондиционера, менять его настройки (режим работы, температуру..), а также получать сообщения об авариях и ошибках.

BMS или SNMP. Если в здании имеется единая система управления инженерными коммуникациями («Умный дом»), то серверные кондиционеры тоже могут стать её частью. Стандартные индивидуальные адаптеры ModBus, KNX, EnOcean есть у всех японских производителей. Интерфейсы LonWorks или BACnet подключить тоже возможно, но цена вопроса будет на порядок большей.

У Mitsubishi Heavy Industries подключение к сетям BMS возможно как для внутренних блоков мультизональных систем, так и для отдельных сплит-систем, причём не только полупромышленного типа, но и инверторных настенных блоков бытовых серий.

Также в больших серверных возможно организовать локальный сервер сбора данных по протоколу SNMP, блоки ротации серверных кондиционеров с его поддержкой имеются на рынке.

Во второй части будут подробно рассмотрены прецизионные кондиционеры и использование приточной вентиляции.

Серверная комната — это отдельная комната внутри помещения, в которой нет окон. Очень часто под серверную, отдаются помещения, которые невозможно приспособить ни подо что другое. В серверных иногда даже не предусмотрена вентиляция. В таких помещениях жарко и душно, а для вычислительного оборудования нужна низкая температура воздуха с определенным уровнем влажности. Вся ли климатическая техника подходит для охлаждения такого помещения?

Характеристики кондиционера для помещения с серверным оборудованием

Очень часто подбор климатического оборудования в серверную комнату ложится на IT специалистов, поэтому выбор нужного типа сплит-системы ограничивается их личными предпочтениями. Но, на самом деле совершенно неважно какого типа кондиционер для серверной комнаты будет охлаждать в ней воздух, важно то, что он должен бесперебойно работать в течение продолжительного времени, 365 дней в году, «без перерывов и выходных», в стужу при -30С° и в жару +45С°. Для того чтобы кондиционер мог функционировать в таком температурном режиме нужно изначально приобретать его с «зимним комплектом».

Важно!
Продукция не всех производителей дает возможность установки «зимнего комплекта», и на это стоит обратить особое внимание при выборе. Некоторые климатические системы можно «модернизировать» только до -10С° — 15С°.

Обозначим необходимые требования климатической системы для серверного помещения:

1. Зимний комплект. Такие известные производители как: DAIKIN, MITSUBISHI ELECTRIC, и еще некоторые компании, по заказу могут сразу установить «зимний комплект» на свою климатическую технику. Можно поступить и по-другому: сначала приобрести кондиционер, а уж потом, в условиях авторизованного сервисного центра установить его на оборудование, но перед этим, следует прояснить вопрос о гарантийном обслуживании. Некоторые компании-производители отказывают потребителям в гарантийном обслуживании после установки «зимнего комплекта», а некоторые его уменьшают вполовину. Правда, основные игроки на рынке климатической техники, все же оставляют гарантию неизменной.
2. Ротация и резервирование. На сегодняшний день деятельность практически каждого предприятия зависит от компьютеров, поэтому невозможно себе представить, что будет при выходе из строя серверов и локальной сети. Именно в целях повышения надежности системы кондиционирования, многие хорошие руководители устанавливают в серверное помещение несколько установок, которые объединяются в единую сеть специальным ротационным устройством. Во время выхода из строя одной сплит-системы, устройство автоматически введет в строй резервный кондиционер. В рабочем режиме, одна техника будет останавливаться на отдых и обслуживание, а другая, автоматически вводится в эксплуатацию.
3. Автоматика для дистанционного наблюдения и управления климатическими показателями в комнате в серверами. Это не самое обязательное условие, и поэтому многие руководители предприятий не придают автоматике должного значения. Но намного удобнее следить за всеми температурными показателями через монитор компьютера, где данные будут отображаться в виде таблиц и графиков, а каждая неисправность, ее характер и степень опасности будет выводиться на экран в виде всплывающих сообщений, сопровождающихся звуковым сигналом.
4. Длина фреоновой магистрали. Это очень важный показатель при выборе конкретной модели сплит-системы для кондиционирования серверной, ведь ее наружный блок должен находиться на уличной стене или на крыше.

Важно!
Далеко не все производители климатической техники имеют возможность предложить модели кондиционеров с длиной фреоновой магистрали более 15 метров. При выборе на это следует обратить особое внимание.

Расчет мощности кондиционера в помещение с серверами

Сплит-системы для серверных комнат должны иметь требуемую производительность, расчетами которой должны заниматься исключительно специалисты. Но многие руководители предприятий и эту миссию возлагают на IT-шников. Как рассчитать мощность кондиционера, не имея специальных знаний?

Прежде всего, нужно поднять всю документацию по установленным серверам. В технической части этого документа можно найти значение «тепловыделение», ведь каждый прибор, используя электрическую энергию, преобразовывает ее в тепловую.

После чего, следует сложить все значения тепловыделения, прибавить к ним тепло, идущее от стен и 10% для перестраховки. В итоге получается порядка 50 — 70Вт мощности на 1 м3 объема помещения. Такой расчет можно использовать лишь в крайних случаях, а всеми работами с этим связанными должны заниматься исключительно специалисты.

Важно!
Не используйте маломощные и недорогие кондиционеры для охлаждения воздуха в серверных комнатах, так как они не имеют регулировок по чистоте и влажности воздуха. При выходе из строя серверов их ремонт во много раз превысит стоимость хорошего специализированного климатического оборудования.

На видео вебинар как выбрать кондиционер для серверной.

Наиболее популярной климатической техникой, используемой в серверных, являются сплит-системы с настенным расположением внутреннего блока.




Важно! Если комната для установки серверов имеет небольшую площадь, то можно ограничиться установкой полупромышленной серии климатической техники с встроенной системой резервирования и ротации. Если в серверной комнате существуют особые требования к параметрам воздуха и перепадам температур, то для таких серверных необходимо использовать .

Прецизионная климатическая техника

Прецизионный – значит точный, и это сказано именно о прецизионной климатической технике. Такие кондиционеры способны поддерживать температуру с точностью до 0,5 С, а влажность до 5%. Они дороги, но долговечны, многие модели рассчитаны на беспрерывную работу до 20 лет.

Эта техника прекрасно подходит для комнат с установленной электроникой, и благодаря встроенной системе фильтрации замечательно справляется с бытовой пылью – злейшим врагом электронных устройств.

Прецизионные кондиционеры имеют несколько важнейших преимуществ перед другими системами кондиционирования:

• Эта техника имеет возможность наиболее точного поддержания параметров воздушной смеси.
• Это оборудование может работать длительное время без ТО в непрерывном режиме.
• Они наиболее надежны и имеют длительный срок службы.
• Прецизионная техника может работать при значительных перепадах температуры воздуха.
• Они совместимы с устройствами дистанционного контроля и управления микроклиматом помещения.

Такой тип устройств на протяжении долгого времени прекрасно себя показал в качестве основного типа климатического оборудования, установленного в помещениях с микроэлектронной аппаратурой. Многие производители электроники не дают на свои устройства гарантию, если в помещении не установлено прецизионное оборудование.

При выборе кондиционеров для серверных помещений руководствуются следующими «Техническими требованиями к зданиям и помещениям для установки средств вычислительной техники» (СН 512-78):

1. Температура воздуха в помещениях - от 18° до 22°C.
2. Относительная влажность воздуха – от 20 до 70 %.
3. Оптимальная скорость потока воздуха - 0,2 м/с (не более 0,3 м/с для холодного, 0,5 м/с для теплого периодов).
4. Запыленность воздуха помещений не должна превышать: в серверной – 0,75 мг/м 3 , с размерами частиц не более 3 мкм (атм. пыль, сажа, дым, споры, асбест); в помещениях обработки данных – 2 мг/м 3 .

Поэтому серверные в обязательном порядке должны быть оборудованы климатической системой, поддерживающей температуру, влажность и запыленность в указанных выше пределах.

Кондиционеры работают круглый год. Поэтому в зимний период кондиционеры должны поддерживать работу при уличной температуре до -30°C или дополнительно оборудованы зимним комплектом (системой подогрева дренажа и картера наружных блоков).

Особое внимание необходимо уделить вопросам надежности работы кондиционера в серверной. Выход из строя системы охлаждения приводит к огромным потерям из-за нарушения работы серверной техники. Поэтому всегда ставят резервную климатическую систему. Получается, что холодопроизводительность кондиционеров в серверной должна быть минимум вдвое больше рассеиваемого серверами тепла.

Рекомендуется периодически отключать основную систему охлаждения и включать резервную. Иначе велика вероятность того, что резервная система, простояв отключенной три года, просто не включится при выходе из строя основной. А также попеременный режим вдвое увеличивает период бесперебойной работы кондиционеров. Вручную переключают кондиционеры только в самых экономичных решениях, из-за человеческого фактора такой вариант оказывается ненадежным. Мы рекомендуем установку автоматического блока переключения режимов работы кондиционеров.

При отсутствии окон в серверном помещении необходимую мощность кондиционеров можно ориентировочно оценить как сумму 70% от суммарной мощности блоков питания всего оборудования и 20% от мощности источников бесперебойного питания. Мощность холодопроизводительности кондиционера должна быть выше рассчитанного значения. Для резервирования расчетное количество кондиционеров нужно увеличить вдвое.

Как выбрать кондиционер для серверной?

Для подбора кондиционеров сначала нужно рассчитать суммарную мощность рассеивания тепла серверным оборудованием.

При отсутствии окон в серверном помещении необходимую мощность кондиционеров можно ориентировочно оценить как сумму 70% от суммарной мощности блоков питания всего оборудования и 20% от мощности источников бесперебойного питания. Мощность холодопроизводительности выбранного кондиционера должна быть выше рассчитанного значения. Для резервирования расчетное количество кондиционеров нужно увеличить вдвое.

Мы настоятельно рекомендуем, чтобы подбор кондиционеров и выбор схемы их установки осуществлял специалист после точного расчета на основе проекта помещения или при личном выезде. Это позволит избежать ошибок и сберечь дорогостоящее оборудование.

Кроме количества и мощности кондиционеров важным критерием является стоимость и надежность оборудования. Кондиционер должен проработать не менее трех лет и при этом его стоимость должна быть экономически обоснована. Желательно ориентироваться на стоимость кондиционеров вместе с монтажом в пределах 10% стоимости серверов.

По вертикали откладывается суммарная стоимость серверного оборудования (только вычислительная техника), разделенная на его суммарную мощность тепловыделения. По горизонтали суммарная мощность тепловыделения всего оборудования. На пересечении можно увидеть список рекомендуемых для данной серверной брендов кондиционеров и их ориентировочную стоимость вместе с монтажом.

Пример подбора кондиционеров для серверного помещения:

В помещении площадью 9 м 2 без окон с высотой потолков 3 метра установлено пять серверов с блоками питания по 400 Вт и стоимостью по 2 500 долларов США каждый, монитор с блоком питания 200 Вт, стоимостью 200 долларов США, источник бесперебойного питания мощностью 5000ВА (3500 Вт) стоимостью 2 700 долларов.

Общее значение мощности рассеивания тепла составит:

1. 70% от мощности основного оборудования: (5 х 400+ 1 х 200) х (70% / 100%) = 1 540 Вт
2. 20% от мощности источников бесперебойного питания: 1 х 3500 х (20% / 100%) = 700 Вт
3. Итого мощность рассеивания: 1 540 + 700 = 1 940 Вт ≈ 2 кВт.

Мощность рассеивания серверного оборудования (вычислительной техники) равна 5 х 400 х (70% / 100%) = 1400 Вт = 1,4 кВт.

Стоимость серверного оборудования (только вычислительной техники): 4 х 2 500 = 12 500 USD

Удельная стоимость вычислительной техники на каждый киловатт выделяемого тепла: 12 500 / 1,4 = 8 929 USD/кВт.

По графику выбираем пересечение первого столбца (общая мощность рассеивания тепла 2 кВт < 20 кВт) и второй строки (удельная стоимость вычислительной техники 8 929 USD/кВт меньше 10 000, но больше 6 000).

Получаем, что для указанного примера подойдут кондиционеры с брендами Mitsubishi Heavy, Hitachi, Toshiba, Panasonic. Суммарная мощность охлаждения всех кондиционеров должна составить не менее удвоенной общей мощности рассеивания тепла, т.е. не менее 2 х 2 кВт = 4 кВт.

Можно предложить установить два кондиционера с холодопроизводительностью по 2,1 кВт каждый, что в сумме составит 4,2 кВт.

Стоимость выбранного оборудования на момент написания статьи составляет 427 USD х 2 = 854 USD. Стоимость монтажа 7 900 х 2 = 15 800 руб. Общая стоимость при курсе доллара 62 руб/USD составит 68 750 руб.

В определенный момент некоторые предприятия дорастают до того состояния, когда их внутренние информационные системы перестают умещаться в одном серверном шкафу. Тогда руководителю IT-департамента предстоит взвесить все «за» и «против» и решить, строить или не строить серверную. Вариантов может быть несколько: от полного избавления от собственных мощностей и увода их в облака или колокейшн в большом ЦОДе, до строительства собственного мини- (или не очень мини) ЦОДа с блэкджеком.

Процесс расчетов, планирования и постройки серверной весьма ответственный и дорогостоящий. Вложится придется еще на стадии проекта, тут, кстати, можно сэкономить если все процедуры в серверной, от проектирования до строительства, будет производить один подрядчик. Естественное желание руководителя предприятия в такой ситуации - уложиться в минимально возможную сумму. И в штыки воспринимается любое удорожание проекта. В таких перепалках часто забывается, что, помимо строительства объекта, последует его содержание, которое при неправильном проектировании может оскуднить бюджет предприятия на еще одну несуществующую серверную по прошествии двух-трех лет.

Второй по величине потребитель ресурсов (в данном случае это электричество и расходники) в серверной - это система охлаждения. Ни для кого не новость, что “мощность” системы охлаждения серверной должна минимум совпадать, а в лучшем случае превышать на пару десятков процентов пиковую мощность всего оборудования установленного в серверной. О том, какие системы охлаждения бывают и как сэкономить на эксплуатации таких систем мы и поговорим в этой статье.

Классификация систем охлаждения помещений

Наиболее привычными для эксплуатации и понимания являются компрессорные кондиционеры. В них хладагент (в подавляющем большинстве случаев - фреон) переносит тепло от радиатора внутреннего блока во внешний, где рассеивает энергию в окружающую среду. Подробнее о принципе действия кондиционера можно прочитать . Затем идут жидкостные и комбинированные системы, в качестве основного хладагента используют воду или этиленгликоль, и выбор теплоносителя зависит не только от условий эксплуатации, а также от способа охлаждения. И самым эффективным решением, в определённых условиях, конечно, являются системы фрикулинга. Это исключительно прецизионные устройства, разрабатывающиеся почти с нуля в каждом конкретном случае.

Также стоит обратить внимание на классификацию по «формфактору». Тут условно можно разделить системы на два типа. Бытовые системы к которым мы все уже привыкли, обычно устанавливаются в офисах и квартирах, подвешиваясь на стены или потолок, но вполне могут служить системами охлаждения специализированных помещений. И прецизионные системы, куда можно отнести специализированные системы кондиционирования, и, конечно же, все фрикулинговые и жидкостные системы.

Внутри прецизионных систем есть систематизация по принципу действия и по способу доставки «холода» до «потребителей». И если с принципиальными отличиями все более менее ясно, то способов охладить непосредственно девайсы великое множество.

Среди классических общепринятых случаев можно выделить холодную комнату с установленными стойками, тут подойдут и бытовые кондиционеры. Классические варианты прецизионных решений- это устройства с рядными воздуховодами, с холодными и горячими коридорами, где стойки стоят рядами таким образом, чтобы забирать холодный воздух поступающий, например, из-под фальшпола. Они отдают нагретый воздух в коридоры, откуда он принудительно отводится. Также есть варианты с воздуховодами до каждой стойки, где воздух подается в каждую отдельно взятую стойку сверху или снизу и потом так же активно отбирается.

Неклассических решений чуть больше чем много. Надо ли говорить что все они прецизионные. Большинство решений это комбинации вышеназванных систем для повышения эффективности и сокращения затрат. Разброс тут - от индивидуальных кондиционеров на каждый серверный шкаф до жидкостного охлаждения каждого отдельного сервера или даже процессора. А так же стоит особо отметить системы с прямым контактом потребителя с жидкостью. В этом случае сервера полностью погружены в специальное масло. Масло это без запаха и абсолютно не проводит электричество. Жидкость постоянно циркулирует внутри бассейнов с оборудованием, и проходит через радиаторы охлаждения.

Стратегия

Не один раз стоит подумать о необходимости строить серверную. Существует мнение, что для мощностей меньше 5кВт выделенная серверная комната не нужна. Обычно все оборудование вполне себе «упихнется» в 42-47-юнитовую стойку-шкаф, и максимум что еще понадобится - это отдельная однорамочная стойка под кросс. Всё это можно отгородить от «админской» или какого нибудь другого помещения (главное не от бухгалтерии) стеклянной или гипсокартонной перегородкой с герметичной дверью, поставить спаренный бытовой кондиционер и идти пить пиво.

Но мы строим серверную. Прежде всего нам необходимо решить, какую систему охлаждения мы будем использовать, и дело тут не только в цене. Выбор способа охлаждения зависит от множества факторов: мощность оборудования, место расположения серверной комнаты в здании, географическое расположение самого здания и даже от предвзятого отношения к определённым типам охлаждающих устройств и недальновидности начальства.

Распространено мнение, что системам до 10кВт вполне хватит бытового кондиционера. Оно и понятно, ведь бытовые сплит-системы большей мощности, во-первых, достаточно проблематично купить, во-вторых, их стоимость приближается, а то превышает стоимость аналогичных по мощности прецизионных кондиционеров.

От местоположения серверной комнаты в здании сильно зависит возможность установки той или иной системы охлаждения, возможности подвести коммуникации, воздуховоды для специализированных систем, устроить фальшпол или установить турбины. При недостаточной высоте потолков невозможно устроить фальшпол нужной глубины, для установки туда воздуховодов обдува и забора воздуха прецизионной системы. Положение в середине здания создаст проблемы при прокладке воздуховодов, одного из вариантов фрикулинговой системы, а соседство с экономическим отделом вообще поставит крест на строительстве серверной из за «намжешумит».

Географический фактор играет одну из первостепенных ролей и часто ставит крест на возможности фрикулинга, если вы находитесь, например, в тропическом поясе. Именно поэтому ЦОДо строители так любят северные районы нашей планеты, ведь там можно вообще не использовать кондиционеры.

Вдобавок ко всему некоторые технические специалисты имеют своё собственное очень твёрдое убеждение в применимости одной системы и абсолютной неприемлемости других вариантов охлаждения. Они будут спокойно и уверено доказывать свою правоту, находя аргументы «за» и выискивая недостатки других предложений, от реальных до мифических.

В итоге, отталкиваясь от выбранной стратегии, мы и будем проектировать устройство самой серверной.

Стратегия охлаждения бытовыми кондиционерами

Вы обладатель небольшого парка серверов, 2-3 стойки с которыми будут стоять в отдельной комнате. У вас не намечается перспективы плавного роста мощностей и вы, либо не хотите заморачиваться, либо (что наиболее вероятно) не имеете бюджета на более энергоэффективные и экологичные решения.

Прежде всего решите, как в вашей серверной будут располагаться стойки с оборудованием относительно кондиционеров. Лучшим из вариантов в вашем случае будет установка внутренних модулей сплит-системы напротив ряда стоек один над одним, направленные на «лицевую» сторону открытой стойки или шкафа с сетчатой дверью. Оборудование внутри стойки имеет смысл устанавливать той стороной, с которой оно забирает воздух для охлаждения внутренних компонентов. Некоторые устройства, устанавливающиеся в стойки, могут быть перестроены или даже выпускаться в исполнении, когда они либо забирают либо выбрасывают воздух с лицевой стороны, или в одну из боковых стенок. Подумайте об этом при покупке.

Даже если роста суммарной мощности не предвидится, кондиционеры стоит взять с запасом по мощности, например, взяв за максимум пиковое потребление-рассеивание самой «горячей» стойки и помножив на их, стоек, количество.
Минимум отказоустойчивости в этой стратегии - N+1. На практике это выглядит как два и больше кондиционеров одинаковой мощности, где «N» кондиционеров способный поддерживать рабочую температуру в серверной пока "+1" ремнтируется или обслуживается. Чаще всего в небольших серверных используется два агрегата. Для продления ресурса обоих кондиционеров необходимо использовать устройство ротации кондиционеров. Устройство в определённые периоды времени переключает работу с одного кондиционера на другой, отслеживает их запуски и контролирует производительность. При выходе из строя одного из кондиционеров оно должно автоматически подключить «спящий» и оповестить ответственного о проблеме. Стоит отметить, что эту функцию поддерживают далеко не все модели бытовых кондиционеров.

Все серверные сплит-системы, установленные в широтах нашей страны, должны иметь так называемый «зимний комплект». Он представляет собой блок правления, некоторое усовершенствование радиатора внешнего блока кондиционера и систему подогрева картера насоса. Работает автоматически.

Рис.1. Охлаждение бытовыми кондиционерами.

Прецизионные системы охлаждения помещений

Прецизионный (высокоточный) кондиционер (или другой охладитель) - создан в точности так, чтобы максимально эффективно работать в инфраструктуре с заданными конечными параметрами. Иными словами, когда мы говорим «прецизионный кондиционер», мы подразумеваем, что и помещение, и оборудование серверной, и сама «холодильная установка» разработаны в проекте, как совокупность технологий, позволяющих наилучшим образом обеспечить работоспособность, сохранность и долговечность дорогостоящего оборудования.

Надо ли говорить, что устройства индивидуального дизайна - удовольствие дорогое. Священные войны идут между приверженцами разных лагерей. Одни утверждают, что для обычной серверной комнаты достаточно спареного индустриального варианта бытового кондиционера, такие есть, например, у Daikin (серии FT и FAQ) или Mitsubishi (серии Heavy). При выборе такого варианта важно принимать во внимание такие минусы, как локальные застои горячего воздуха в углах или в юнитах стоек, которые не заняты активным оборудованием. Не менее опасный фактор - низкая влажность, ведь, как известно, кондиционер, осушает воздух. Сухой воздух способствует накоплению статического электричества, наличие статического потенциала на тонкой электронике негативно сказывается на работе чипов, и повышает риск их уничтожения разрядом. Конечно, большая часть факторов устранима, но в большинстве случаев это костылепроизводство. Дополнительные вентиляторы, увлажнители воздуха, это все множащиеся точки отказа, затраты на электроэнергию и обслуживание. Обслуживание, кстати, того же увлажнителя, дело не столько затратное по средствам, сколько по времени. Нужна регулярная чистка и ежедневный долив воды.

У прецизионников тоже не все гладко. Прежде всего они весьма габаритны: фреоновые кондиционеры имеют габариты двух-трех полноразмерных стоек. Так как контроль влажности - одна из основных функций специализированного кондиционера, то к внутренним блокам требуется подвести воду, что для некоторых IT-шников совершенно неприемлемо. Холодный воздух от таких агрегатов подводится к стойкам по воздуховодам, которые проводятся или под фальшполом, самый частый и самый дорогой вариант, или под потолком, что подразумевает высокие потолки и накладывает дополнительные ограничения на прокладку кабельных коммуникаций. Конденсаторы-охладители таких кондиционеров имеют порядочные размеры, и сразу возникает вопрос с их размещением и подводкой системы труб от внутреннего блока.

С минусами покончили, перейдем к плюсам. Сюда можно отнести: высокую производительность, резервируемость только активных компонентов кондиционера (например воздуховоды, я думаю, -резервировать смысла нет), четкий контроль за температурой и влажностью, возможность детального мониторинга. Плюсы следующие отсюда- это относительная экономия, гарантированая доставка холодного воздуха до потребителя, поддержка высокой плотности потребителей на стойку (это скорее правило, если стойка будет пустовать, она будет работать неэффективно и влиять на всю «экосистему»). Между увеличением затрат на кондиционер и последующей энергоэффективностью прослеживается вполне объяснимая взаимосвязь.

Как я уже говорил, самым распространенным явлением прецизионного кондиционирования является коридорная система, где стойки расположены рядами и установлены так, чтобы забирать воздух из холодных коридоров (куда воздух подается кондиционером) и отдавать в горячие (откуда воздух отбирается системой вентиляции). Воздуховодом такой системы чаще всего служит фальшпол. Панели самого пола в основном сплошные, вся кабельная коммуникация по возможности из-под фальшпола переносится под потолок, перед рядами стоек в полу устраиваются решетчатые панели откуда охлажденный воздух поступает на лицевую сторону стойки. Двери серверных шкафов при таком устройстве делают сетчатыми с обоих торцов, или же или же совсем не делают. Затем нагретый серверами воздух выдувается в горячий коридор откуда высасывается системой принудительной вентиляции. В идеале, следуя принципам термодинамики, вытяжку стоит располагать вверху горячего коридора, но часто это делают в фальшполу для экономии пространства над стойками для прокладки кабельных коммуникаций. С относительно недавних пор, холодные и горячие коридоры стали делать герметичными от общего помещения серверной. Этим удалось добиться существенной экономии на рассеивание ценного холода. В свободные юнитовые пространства шкафов обязательно требуется устанавливать заглушки, потому что горячий воздух так и норовит смешаться с охлажденным. Этим можно повысить эффективность охлаждения в полтора-два раза.

Рис. 2. Система с открытыми коридорами, очевидны потери драгоценного холодного воздуха.

Рис. 3. Более эффективная, система с изолированными коридорами.

Intel, например, преследуя идею максимально просто и эффективно охлаждать оборудование, пошли дальше и даже запатентовали стойку с вытяжкой . Стойка представляет собой обычный 19" шкаф, но глубже аналогов и имеет в верхней крышке воздуховод, открывающийся в пространство фальшпотолка, откуда горячий воздух высасывается кондиционерами. Вся система, кроме кондиционеров, абсолютно пассивна. Но при этом, по утверждению Intel, способна охлаждать 32 кВт оборудования на стойку.

Принимая во внимание климат нашей страны, у прецизионных кондиционеров есть еще один большой плюс: их схему можно достаточно безболезненно доработать, добавив полный или частичный жидкостный контур. Используя в качестве хладагента этиленгликоль, параллельно контуру кондиционера строят еще один контур с жидкостным охлаждением, тем самым сокращая затраты на электричество, обслуживание кондиционера и увеличивая срок службы оных. Эффективность гликолевого контура начинается уже при температуре ниже +20 С, что даже летом по ночам в России совсем не редкость.

Дополнительный жидкостный контур дублирует таковой фреоновый, и в принципе может работать круглосуточно, в дневное «жаркое» время охлаждая компрессор кондиционера и конденсатор, а при падении уличной температуры переходя на частичное и полное охлаждение внутреннего теплообменника.

Лидерами среди производителей прецизионных систем охлаждения являются Schneider Electric, STULZ, Emerson Network Power, RC Group. Среди их решений есть и готовые комбинированные системы.

Жидкостные системы

Принципиальная разница жидкостного охлаждения и фреонового лишь в том, что в контуре жидкость чаще всего не меняет фазового состояния, отчего при равной мощности системы водяные и гликолевые системы проиграют фреоновым в эффективности. Однако у жидкостных систем есть неоспоримые преимущества, такие как емкость и универсальность. В системах с жидкостным охлаждением охладителем может быть как фанкоил на крыше или во дворе здания, так и система отопления самого здания. Жидкость может охлаждать воздух в серверной, а может использоваться как хладагент для отдельно взятого процессора . Неоспоримое преимущество жидкостного кондиционирования - это практически неограниченная протяженность трас, за счет низкой цены на хладагент, для самой же системы это только плюс. Самое опасное в данной ситуации - это протечка токопроводящего агента, но, судя по всему, это никого уже не пугает. IBM в этой ситуации отличился строительством SuperMUC, где добился 40% экономии энергии за счет отсутствия в системе охлаждения чиллеров. А Google в большинстве своих ЦОДов и вовсе используют систему собственной разработки, где используется система холодных и горячих коридоров.

Еще одна система с жидкостью подразумевает погружение сервера в специальное минеральное масло. Масло - диэлектрик, так что замыкания не будет. Что касается энергоэффективности, то, по утверждениям специалистов того же Intel, на систему охлаждения в таком случае затрачивается на 90% меньше энергии, а также снижается энергопотребление самих серверов. Стойки для погружного жидкостного охлаждения уже выпускаются, например, компанией СarnotJet . Стойки пригодны для размещения любых серверов, только предварительно требуется вытащить из них все вентиляторы.

Рис. 4. Самое жидкостное охлаждение

Еще одним фактором универсальности является огромное количество способов охлаждения хладагента. Для примера можно привести технологию SeaWater Air Conditioning (SWAC), по этой технологии построен ЦОД Google в Финляндии. Из названия понятно, что для охлаждения воды, поступающей в ЦОД, используется теплообменник на холодной воде, забираемой с морских глубин.

Классическая же система жидкостного охлаждения выступает посредником между относительно высокой температурой внутри помещения серверной и охладителем, чаще сухой градирней и чиллером, снаружи.

Сухая градирня представляет собой закрытый контур охлаждения, где жидкость поступает в радиатор, который принудительно обдувается воздухом. Есть еще мокрые градирни, в них вода разбрызгивается и одновременно продувается. В грядирнях, или фанкоилах, жидкий хладагент обычно только подготавливается, охлаждаясь до температуры воздуха, само же охлаждение происходит теплообменнике чиллера.

Чиллер - это холодильник, он действует на фреоне, охлаждая проходящую через его охладитель жидкость до требуемой температуры.

Для классического жидкостного кондиционирования верны все те же правила, что и для систем на фреоне. Охлажденный в испарителе воздух проходит через потребителей и отбирается из серверной самой системой охлаждения. Несмотря на то, что жидкостные системы более универсальны и в целом дешевле в эксплуатации, чем фреоновые, эффективность их ниже за счет большего числа посредников воздух-чиллер-жидкость-воздух. Согласитесь, не самая удачная схема.

Убираем посредников

Прямой фрикулинг - самый энергоэффективный способ охлаждения серверных. Конечно, его эффективность целиком зависит от температуры воздуха «за бортом», но некоторые изменения в стандартизации и различные зеленые технологии постепенно двигают системы охлаждения серверных именно в этом направлении.

Начнем с того, что крупнейший стандартизатор инженерных систем, а в частности систем охлаждения и отопления, ASHRAE (англ. American Society of Heating, Refrigerating and Air-Conditioning Engineers) - Американское общество инженеров по отоплению, охлаждению и кондиционированию воздуха, с 2004 г. два раза повышало рекомендуемую температуру воздуха для охлаждения серверных с +22 до +27 градусов С. А в 2011 году были внесены поправки в стандарт, стратифицирующие два новых класса оборудования для серверных A3 и A4, где температурный диапазон увеличен до +40 и +45 градусов. Производители серверов уже выпускают такие модели. Хотя они еще не получили широкого распространения, все больше ЦОДо строителей склоняются к использованию зеленых технологий в охлаждении.

Для серверных в наших широтах фрикулинг может стать если не полной заменой классической модели охлаждения, то серьёзным подспорьем в охлаждении в холодное время года, а также позволит снизить и мощность кондиционеров.
Самой большой проблемой прямого фрикулинга является общая загрязненность воздуха в городах. Может случится так, что количество, расход фильтров и мощность вентиляторов для их продува может свести на нет всю экономию по электроэнергии и мощности. Это проблема решается разделением контуров и введения между ними теплообменника на основе роторного рекуператора . В данном случае фильтры тоже понадобятся, но более дешевые и с минимальным сопротивлением воздуху.

Другой большой проблемой является то, что, при вспомогательной функции нашего фрикулера, он будет плохо сочетаться с бытовыми системами и лучше всего с прецизионными.

Из плюсов: при прямом фрикулинге нет риска пересушить воздух в помещении серверной, т.к. идет постоянный обмен воздухом с внешней средой. С другой стороны, влажность воздуха на улице может категорически не соответствовать принятым стандартам влажности для серверных комнат, и тут на помощь приходит один из главных козырей систем фрикулинга - адиабатическое охлаждение.

Давно замечено что влажный воздух у водоемов всегда прохладнее чем на равнинах в удаленни от них, вспомнить хотя бы морской бриз. Для адиабатического охлаждения воздуха не нужно ни систем резервирования ни сложных технических решений. Устроены они по принципу мокрых градирен, в нагретый внешний воздух в камерах форсунками разбрызгивается вода, которая испаряясь охлаждает и увлажняет воздух. Данная система не только эффективно понижает температуру внешнего воздуха, но так же и создает необходимую влажность воздуха. Правда в таких системах появляется новый расходный материал - вода. По этому, на равне с PUE (Power usage effectiveness) ASHRAE ввела новый термин WUE (Water usage effectiveness (PDF)) . За что отвечают данные параметры я думаю понятно всем.

В качестве ярких примеров внедрения таких систем можно упомянуть ЦОД eBay “Меркурий” в Фениксе (США) и Facebook в Прайнвилле (США).

Вместо заключения

«Так как же, все таки охлаждать небольшие серверные на пару десятков кВа?» - спросите вы.
Ответ неоднозначен. Большинству читателей подойдет решение из двух нормальных бытовых кондиционеров. Те же, кто сможет убедить собственное руководство в необходимости экономии и введения экологичных инноваций, получат море головной боли и потом бесконечное наслаждение конечным результатом.

Как я уже говорил, конкретное решение сильно зависит от климатических условий конкретного региона. Для восприятия климатической картины лучше всего взять историческую справку по максимумам и минимумам температуры и влажности за всю историю инструментальных наблюдений в вашем регионе или городе, а также проанализировать подробные данные по самым жарким температурам за последние лет 10-20. Этого с лихвой хватит на то, чтобы выработать четкую стратегию.

Несмотря на все плюсы фрикулинга, в условиях средней полосы, в 80 случаях из 100 обойтись без компрессорного или жидкостного кондиционера скорее всего не получится. В связи с этим, общая идея построения “большой” энергоэффективной серверной такова:

• Это помещение с прецизионной системой охлаждения. В помещении устроены фальшполы для подвода холодного воздуха, с разделением на холодные и горячие корридоры, изолированные от общего помещения серверной для обеспечения более четкого теплообмена.
• Большую часть времени, система работает на прямом фрикулинге, при повышении температуры внешнего воздуха подключается система адиабатического охлаждения. При превышении допустимых норм по температуре влажности, подключается система компрессорного или жидкостного охлаждения, т.е. кондиционер.

Столь интересная с технической и практической точки зрения адиабатика здесь не рассматривается ввиду своей специфичности, она требует более тонкого подхода к реализации. Что касается рассматриваемого варианта, то очевидно, что энергоэффективность в будущем потребует больших вложений на стадии строительства.

Стоит обратить внимание на то, что такая система не сможет работать без адекватного и подробного мониторинга состояния внутренней среды. Мониторинг температуры в холодном и горячем коридорах, влажность воздуха внутри и снаружи, наличие воды в системе адиабатики, контроль протечек. Для этого существуют устройства мониторинга, способные публиковать данные с различных датчиков через Ethernet или Wifi. Представлены они в виде плат, корпусных изделий и изделий для установки в стандартные 19" стойки. К примеру, netping уже оснащаются встроенным GSM модемом с SMS-модулем, способным оповестить о существенных изменениях параметров или срабатывании датчика не только ответственные узлы системы охлаждения, но и вас лично.

К тому же все эти данные не только можно, но и нужно вводить в систему глобального мониторинга, например, Zabbix , где по графикам и выборкам можно анализировать карту температур серверной, коррелировать изменения внутри серверной и снаружи. Автоматизировать создание инцидентов, основаных на совокупности показателей, а не на каком-то одном.

Все это позволит отстроить систему охлаждения на максимальную эффективность и предупредить её поломки.
К сожалению, в одной небольшой статье невозможно досконально проработать тему охлаждения серверной. С одной стороны, может показаться, что фрикулинг - это выход для всех, но на самом деле, это достаточно рискованное предприятие. История знает порядочно количество эпичных ситуаций, когда из строя выводились целые ЦОДы из за ошибок в проектировании и недостаточном внимании к деталям. Наилучшим, хоть и более дорогим, является решение, которое подразумевает дублирование штатных систем охлаждения альтернативными.
Больших вам ЦОДов, и непрестанного шума в серверных.