Организации, занимающиеся проектированием и строительством центров обработки данных, знают, насколько стандартизация позволяет повысить эффективность работы, сэкономить время и деньги.
В конце февраля 2020 года Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило два новых национальных стандарта, касающихся центров обработки данных: ГОСТ Р 58811-2020 "Центры обработки данных. Инженерная инфраструктура. Стадии создания" и ГОСТ Р 58812-2020 "Центры обработки данных. Инженерная инфраструктура. Операционная модель эксплуатации. Спецификация". Это важный шаг в области регулирования строительства и использования дата-центров в эпоху глобальной цифровизации. Стандарты позволят улучшить качество предоставляемых услуг, оптимизировать строительство и эксплуатацию ЦОД.
Центр обработки данных (ЦОД) – это сложный отказоустойчивый комплекс технических средств, таких как:
- Серверное оборудование (вычислительные узлы, или ноды, как на базе процессоров CPU, так и с графическими ускорителями GPU);
- Системы хранения данных (готовые аппаратные решения от ведущих производителей Dell EMC, Fujitsu, HPE, NetApp, Infinidat и других; программно-определяемые СХД Dell Nexenta, Dell EMC ScaleIO, HPE Primera, HPE Simplivity, VMware vSAN, NetApp ONTAP Select и другие; системы хранения, построенные на базе свободно распространяемого ПО, такого как Lustre или CEPH.
- Сетевое оборудование, коммутационные сети, инженерная инфраструктура цод (системы электропитания, энергобезопасности, вентиляции, охлаждения и т.д).
Виды таких технических средств, а также особенности построения инженерных систем определяют вычислительную мощность, отказоустойчивость ЦОД, особенности эксплуатации, капитальные затраты и операционные расходы предприятия (CapEx и OpEx).
Новые ГОСТы и госзакупки
Разработка государственных стандартов, касающихся строительства и оснащения центров обработки данных исключительно важна еще и потому, что позволяет корректно и эффективно осуществлять подготовку конструкторской и закупочной документации. Это особенно важно при проведении закупочных процедур в соответствии с федеральными законами 44-ФЗ «О контрактной системе в сфере закупок товаров, работ, услуг для обеспечения государственных и муниципальных нужд» или 223-ФЗ «О закупках товаров, работ, услуг отдельными видами юридических лиц».
Национальные стандарты позволяют определить критерии, технические и эксплуатационные параметры, которые заказчик должен указать в техническом задании, поскольку федеральный закон 44-ФЗ требует включать в описание объекта закупки требования, показатели, условные обозначения и терминологию, относящиеся к техническим и функциональным характеристикам. Кроме того, должны указываться качественные характеристики объекта закупки, соответствующие техническим регламентам и стандартам.
Таким образом новые ГОСТы можно будет использовать в качестве ориентира при составлении описания объекта государственной закупки, технического задания и другой документации. Важно понять, однако, как новые стандарты будут соотноситься с международными документами в этой области.
Основные международные стандарты, касающиеся ЦОД
На сегодня не существует единой системы стандартизации процессов проектирования, строительства и эксплуатации ЦОД, однако есть набор отдельных документов, широко применяемых на практике.
Фактически, вот уже более двух десятков лет используются стандарты, разработанные в The Uptime Institute, известные как Tier Standard: Topology и Tier Standard: Operational Sustainability, определяющие критерии классификации физической инфраструктуры ЦОД.
Стандарты The Uptime Institute касаются организации электропитания, охлаждения и технического обслуживания дата-центров. Они помогают предусмотреть нужный уровень готовности инфраструктуры для любого этапа жизненного цикла. С помощью этих стандартов также можно сравнивать объекты, построенные по индивидуальным проектам, что важно для оценки соотношения объема инвестиций с бизнес-стратегиями владельцев и операторов ЦОД.
Сертификация The Uptime Institute ориентирована на надежность и доступность дата-центра, стандарты Tier Standard используются для оценки качества услуг коммерческих и корпоративных ЦОД, а также при строительстве объектов.
Однако, несмотря на распространенность, классификация по уровням избыточности и надежности Tier всегда была предметом дискуссий. Главные претензии к этой системе стандартизации связаны со следующими факторами:
- Стандарты не учитывают возможности, которые предоставляют технологические инновации, ранее не доступные для использования в инфраструктурных решениях ЦОД.
- Система классификации Uptime Tier затрагивает только системы электропитания и охлаждения, однако, работоспособность и готовность дата-центров зависит также от сетевой инфраструктуры и безопасности.
- Стандарты The Uptime Institute делают акцент на внутреннем резервировании, не учитывая альтернативный вариант с дублированием функций ЦОД в рамках сети территориально распределенных дата-центров.
Кроме классификации The Uptime Institute существуют и другие документы, касающиеся ЦОД, например, международный ISO/IEC 30134 «Информационные технологии - Центры обработки данных - ключевые показатели эффективности». Первая часть стандарта содержит общие требования и положения, вторая касается эффективности использования мощности и оперирует показателем PUE (Power Utilization Efficiency), третья часть регламентирует возобновляемый энергетический фактор.
Именно на эти международные стандарты ориентируются иностранные производители оборудования для ЦОД такие как HPE, Huawei, APC by Schneider Electric и другие.
Еще один используемые документ — стандарт 002–2010: Data Center Design and Implementation Best Practices, разработанный Международной консультативной службой строительной отрасли и расширенный в 2015 году с выходом ANSI/BICSI 002–2014. Тогда же была принята новая серия европейских стандартов EN 50600, подготовленных Европейским комитетом электротехнической стандартизации (CENELEC). Документы определяют регламент проектирования сооружений и инфраструктуры центров обработки данных.
Ассоциация телекоммуникационной отрасли (TIA) и Американский национальный институт стандартов (ANSI) утвердили стандарт ANSI/TIA-942-A Telecommunications Infrastructure Standard for Data Centers, затрагивающий в основном кабельную и сетевую инфраструктуру, и предусматривающий избыточность и надежность в соответствии с уровнями The Uptime Institute.
В 2016 году ассоциация Green Grid Association предложила открытый стандарт готовности ЦОД (OSDA). По словам его разработчиков, документ призван улучшить методики определения доступности дата-центров, а также оптимизировать сравнительные оценки различных ЦОД.
Открытость стандарта подразумевает, что он не выражает интересов конкретной организации и должен стать таким же общеупотребительным как стандарты The Uptime Institute и ANSI/TIA 942-A. Процедура классификации надежности инфраструктуры ЦОД, предусмотренная этим стандартом, использует четыре уровня: базовый; базовый с резервированием; позволяющий ремонтные и профилактические работы; полностью отказоустойчивый.
Кроме этого, OSDA допускает использование некоторых технологий и решений, не предусмотренных ранее выпущенными стандартами, например, использовать в качестве источников электроснабжения дата-центра альтернативную энергетику и внедрять инновационные решения при проектировании подстанций. Для обеспечения резервирования стандарт допускает не только повышение отказоустойчивости систем охлаждения и энергоснабжения, но и использование распределенной системы дата-центров. И, наконец, предусмотрена система более гибкой сертификации по сравнению с подходом Tier для объектов, доступность которых выше некоторого уровня Tier, но недостаточна для получения более высокой категории.
В 2017 году компания Switch разработала проприетарный стандарт Tier 5, включающий гораздо больше показателей и критериев для оценки надежности дата-центра по сравнению с методологией The Uptime Institute.
Изначально стандарт разрабатывался с прицелом на использование в корпоративных ЦОДах, но развитие отрасли дата-центров приводит к расширению сферы действия стандартов. Кроме параметров отказоустойчивости и избыточности стандарт Tier 5 включает в себя более 30 дополнительных критериев. Например, допускается использование в дата-центре только возобновляемых источников энергии, определяются требования к размещению линейной системы охлаждения в машинных залах, формализуются требования к физической и сетевой безопасности, количеству коммуникаций и операторов связей.
Новые стандарты ГОСТ Р 58811-2020 и 58812-2020, принятые в России
До сих пор в России в сфере IT использовались устаревшие стандарты, определяющие построение автоматизированных систем, а также требования к конструкторской документации при проектировании и создании электроники.
Первым шагом в этом направлении стал стандарт ГОСТ Р ИСО/МЭК 30134-2-2018, принятый в 2018 году и вводящий систему оценок ключевых показателей эффективности ЦОД. Данный ГОСТ повторяет международный стандарт ISO/IEC 30134-2:2016 «Информационные технологии. Центры обработки данных. Ключевые показатели эффективности». Было рекомендовано использовать его вместо ссылочных международных стандартов, однако ISO/IEC 30134-2:2016 не регулирует вопросы построения ЦОД.
В начале марта 2020 года приказами Росстандарта были утверждены для новых ГОСТа, касающиеся строительства и эксплуатации центров обработки данных. Стандарты были разработаны Ассоциацией участников отрасли ЦОД:
ГОСТ Р 58811-2020
Стандарт ГОСТ Р 58811-2020 "Центры обработки данных. Инженерная инфраструктура. Стадии создания" определяет этапы создания инженерной инфраструктуры центров обработки данных и перечень работ на каждом этапе.
ГОСТ Р 58812-2020
Второй стандарт ГОСТ Р 58812-2020 "Центры обработки данных. Инженерная инфраструктура. Операционная модель эксплуатации. Спецификация" формулирует требования к эксплуатации инженерных систем ЦОДов для предоставления услуг высокого качества.
Авторы работали над стандартами долгое время. Разработчики утверждают, что при работе над документами они учитывали опыт и наработки не только в области ЦОД, но и в смежных областях.
Участники рынка осторожно оценивают перспективы применения документов. Возможно, это упростит переход государственных организаций и частных компаний в публичные коммерческие дата-центры, однако чрезмерное регулирование может отрицательно сказаться на динамике развития отрасли. Сейчас сложно оценить, насколько широко новые ГОСТ будут использоваться. Кроме того, придется тщательно анализировать официальные тексты, когда они будут опубликованы, чтобы понять, насколько эти документы соотносятся с международными стандартами в этой сфере.
Специалисты ЗАО «Карма Групп» обладают большим опытом реализации сложных комплексных ИТ-решений как для госзаказчиков, так и для крупных коммерческих организаций. Наша компания предлагает свои услуги по ведению комплексных проектов, таких как создание ИТ-инфраструктуры «под ключ», проектирование, строительство ЦОД, оснащение системами хранения данных, серверами, обеспечение коммутации и интерконнекта, подключение инженерных систем ЦОД.
Специалисты «Карма Групп» работают в соответствии законодательством и принимают во внимание все правовые нормы при построении центров обработки данных и создании инженерной инфраструктуры. Новые ГОСТы вступают в полную силу с 1 августа 2020, но мы готовим проектную документацию не только в соответствии с прежними госстандартами, но и с учетом новых ГОСТ Р 58811-2020 и Р 58812-2020.
Ниже мы подготовили список стандартов, действующих сейчас в России, и так или иначе затрагивающих сферу строительства и эксплуатации центров обработки данных.
Прежние, но действующие ГОСТы
Национальные стандарты, используемые сегодня в сфере ИТ – это в основном документы, описывающие требования к построению автоматизированных систем и регламентирующие оформление конструкторской документации при проектировании и создании электроники. Многие из них были приняты достаточно давно и не учитывают появившиеся в последнее время новые технологии. Однако, до утверждения новых документов, соответствующих современной ситуации, имеет смысл принимать во внимание имеющиеся стандарты.
Стандарты ГОСТ 34, касающиеся автоматизированных систем
- ГОСТ 34.201-89 Виды, комплектность и обозначения документов при создании автоматизированных систем
- ГОСТ 34.320-96 Концепции и терминология для концептуальной схемы и информационной базы
- ГОСТ 34.321-96 Информационные технологии. Система стандартов по базам данных. Эталонная модель управления
- ГОСТ 34.601-90 Автоматизированные системы. Стадии создания
- ГОСТ 34.602-89 Техническое задание на создание автоматизированной системы (Взамен ГОСТ 24.201-85)
- ГОСТ 34.603-92 Информационная технология. Виды испытаний автоматизированных систем
- РД 50-34.698-90 Автоматизированные системы. Требования к содержанию документов
- ГОСТ Р ИСО/МЭК 30134-2-2018 Информационные технологии. Центры обработки данных. Ключевые показатели эффективности. Часть 2. Коэффициент энергоэффективности (PUE)
Стандарты, содержащие общие требования к электронному оборудованию
- ГОСТ 2.001-2013 ЕСКД. Общие положения
- ГОСТ 2.002-72 ЕСКД. Требования к моделям, макетам и темплетам, применяемым при проектировании
- ГОСТ 2.004-88 ЕСКД. Общие требования к выполнению конструкторских и технологических документов на печатающих и графических устройствах вывода ЭВМ
- ГОСТ 2.051-2013 ЕСКД. Электронные документы. Общие положения
- ГОСТ 2.052-2006 ЕСКД. Электронная модель изделия. Общие положения
- ГОСТ 2.053-2013 ЕСКД. Электронная структура изделия. Общие положения
Основные положения
- ГОСТ 2.101-68 ЕСКД. Виды изделий
- ГОСТ 2.102-2013 ЕСКД. Виды и комплектность конструкторских документов
- ГОСТ 2.103-68 ЕСКД. Стадии разработки
- ГОСТ 2.104-2006 ЕСКД. Основные надписи
- ГОСТ 2.105-95 ЕСКД. Общие требования к текстовым документам
- ГОСТ 2.106-96 ЕСКД. Текстовые документы
- ГОСТ 2.109-73 ЕСКД. Основные требования к чертежам
- ГОСТ 2.111-2013 ЕСКД. Нормоконтроль
- ГОСТ 2.113-75 ЕСКД. Групповые и базовые конструкторские документы
- ГОСТ 2.114-2016 ЕСКД. Технические условия
- ГОСТ 2.116-84 ЕСКД. Карта технического уровня и качества продукции
- ГОСТ 2.118-73 ЕСКД. Техническое предложение
- ГОСТ 2.119-73 ЕСКД. Эскизный проект
- ГОСТ 2.120-73 ЕСКД. Технический проект
- ГОСТ 2.123-93 ЕСКД. Комплектность конструкторских документов на печатные платы при автоматизированном проектировании
- ГОСТ 2.124-85 ЕСКД. Порядок применения покупных изделий
- ГОСТ 2.125-2008 ЕСКД. Правила выполнения эскизных конструкторских документов. Общие положения
Классификация и обозначение изделий и конструкторских документов
- ГОСТ 2.201-80 ЕСКД. Обозначение изделий и конструкторских документов
Правила изменения и обращения конструкторской документации
- ГОСТ 2.501-2013 ЕСКД. Правила учёта и хранения
- ГОСТ 2.502-68 ЕСКД. Правила дублирования
- ГОСТ 2.503-2013 ЕСКД. Правила внесения изменений
- ГОСТ 2.601-2013 ЕСКД. Эксплуатационные документы
- ГОСТ 2.602-2013 ЕСКД. Ремонтные документы
- ГОСТ 2.603-68 ЕСКД. Внесение изменений в эксплуатационную и ремонтную документацию
- ГОСТ 2.604-2000 ЕСКД. Чертежи ремонтные. Общие требования
- ГОСТ 2.605-68 ЕСКД. Плакаты учебно-технические. Общие технические требования
- ГОСТ 2.608-78 ЕСКД. Порядок записи сведений о драгоценных материалах в эксплуатационных документах
- ГОСТ 2.610-2006 ЕСКД. Правила выполнения эксплуатационных документов
- ГОСТ 2.701-2008 ЕСКД. Схемы. Виды и типы. Общие требования к выполнению
- ГОСТ Р 2.901-99 ЕСКД. Документация, отправляемая за границу. Общие требования