IBM® PureApplication System - это готовая к применению система облачных вычислений, полностью укомплектованная аппаратными и программными средствами для развертывания и исполнения рабочих нагрузок в облачной среде - т.е. всем необходимым для формирования среды частного облака в корпоративном центре обработки данных. Эта статья представляет собой обзор аппаратных средств системы PureApplication System. Для просмотра различных компонентов используется системная консоль.
Введение
IBM PureApplication System W1500 v1.0 и IBM PureApplication System W1700 v1.0 - это готовые к применению системы облачных вычислений, полностью укомплектованные аппаратными и программными средствами для развертывания и исполнения рабочих нагрузок в облачной среде - т.е. всем необходимым для формирования среды частного облака в корпоративном центре обработки данных. Эта статья представляет собой обзор аппаратных средств системы PureApplication System. Для просмотра различных компонентов этой системы используется системная консоль.
Классы систем PureApplication System
На данный момент имеется три класса систем PureApplication System.
- Модели W1500-32 и W1500-64: Модель W1500 монтируется в низкой стойке и имеет 32 или 64 процессорных ядра Intel®.
- Модели W1500-96 - W1500-608: Каждая из этих моделей W1500 монтируется в высокой стойке и имеет 96, 192, 384 или 608 процессорных ядер Intel.
- Модели W1700-96 - W1700-608: Каждая из этих моделей W1700 монтируется в высокой стойке и имеет 96, 192, 384 или 608 процессорных ядер Power®.
В таблице 1 сравниваются характеристики аппаратных средств вышеперечисленных классов.
Таблица 1. Классы аппаратных средств PureApplication System
| W1500-32 and -64 |
W1500-96 thru -608 |
W1700-96 thru -608 |
Стойка |
25U - стойка 19" высотой 1,3 м |
42U - стойка 19" высотой 2,0 м |
42U - стойка 19" высотой 2,0 м |
Шасси для узлов |
Одно шасси типа Flex Chassis |
Три шасси типа Flex Chassis |
Три шасси типа Flex Chassis |
Процессоры |
Intel Xeon E5-2670, 8 ядер |
Intel Xeon E5-2670, 8 ядер |
POWER7+, 8 ядер |
Вычислительные узлы |
2 или 4 |
6, 12, 24 или 38 |
3, 6, 12 или 19 |
Процессорные ядра |
32 или 64 |
96, 192, 384 или 608 |
96, 192, 384 или 608 |
Оперативная память |
0.5 или 1.0 TB |
1.5, 3.1, 6.1 или 9.7 TB |
1.5, 3.1, 6.1 или 9.7 TB |
Узлы хранения |
Один контроллер V7000 Один модуль расширения V7000 |
Два контроллера V7000 Два модуля расширения V7000 |
Два контроллера V7000 Два модуля расширения V7000 |
Накопители |
6 твердотельных накопителей по 400 ГБ 40 жестких дисков по 600 ГБ |
16 твердотельных накопителей по 400 ГБ 80 жестких дисков по 600 ГБ |
16 твердотельных накопителей по 400 ГБ 80 жестких дисков по 600 ГБ |
Емкость подсистемы хранения данных |
2,4 ТБ при использовании твердотельных накопителей 24,0 ТБ при использовании жестких дисков |
6,4 ТБ при использовании твердотельных накопителей 48,0 ТБ при использовании жестких дисков |
6,4 ТБ при использовании твердотельных накопителей 48,0 ТБ при использовании жестких дисков |
Узлы управления |
Два узла PureSystems Manager (PSM) Два узла Virtualization System Manager (VSM) |
Два узла PureSystems Manager (PSM) Два узла PureFlex System Manager (FSM) |
Сетевые средства |
2 коммутатора IBM RackSwitch (64 порта; 10 Gb Ethernet) |
Питание |
4 устройства распределения питания |
Каждая модель допускает модернизацию в рамках своего класса до определенного максимального уровня - W1500-64, W1500-608 и W1700-608, соответственно.
Возможности аппаратных средств PureApplication System
В этом разделе описываются аппаратные средства всей стойки PureApplication System, вычислительного узла и совместно используемых ресурсов системы.
Инфраструктура стойки
Текущее представление аппаратных средств для определенной системы PureApplication System можно увидеть в ее консоли администрирования. Для этого откройте окно Infrastructure Map и выберите опцию System Console > Hardware > Infrastructure Map (см. рис. 1).
Чтобы пользователь мог получить доступ к меню Hardware, ему необходимо предоставить полномочия Hardware administration.
Рисунок 1. Меню Hardware
Представление Infrastructure Map можно просматривать в виде интерактивного изображения (см. рис. 2) и в виде иерархического дерева компонентов.
Рисунок 2. Представление Infrastructure Map для модели W1500-96 - графический вид
На рис. 3 показано размещение аппаратных компонентов в системной стойке моделей W1500-96 - W1500-96-608, соответствующее показанному выше графическому виду представления Infrastructure Map.
Рисунок 3. Аппаратные средства модели IBM PureApplication System W1700-608
Как показано в представлении Infrastructure Map и в схеме на рис. 3 система PureApplication System представляет собой стойку размером 42U (высота 2015 мм; ширина 644 мм; глубина 1100 мм; масса в полной комплектации 1088 кг), которая содержит следующие основные компоненты (сверху вниз).
- Коммутаторы типа Top-of-rack: Два коммутатора IBM System Networking RackSwitch™ G8264 (64 порта 10 Gb Ethernet).
- Для просмотра этих устройств выберите опцию System Console > Hardware > Network Devices. Страница сетевых устройств также содержит список сетевых коммутаторов и SAN-коммутаторов для каждого шасси.
- Для просмотра подробных сведений о сетевой конфигурации выберите опцию System Console > System > Customer Network Configuration.
- Узлы хранения: Два устройства хранения IBM Storwize® V7000 (каждое из которых содержит узел контроллера, соединенный с узлом расширения), объединенные в кластер и управляемые как одна сеть SAN.
- Для просмотра этих устройств выберите опцию System Console > Hardware > Storage Devices.
- Шасси типа Flex Chassis: В системе используется три шасси IBM Flex System™ Enterprise Chassis Type 7893, каждое из которых имеет размер 10U (с номерами 3, 2 и 1; нумерация снизу вверх). Шасси выполняет функции док-станции для вычислительных узлов. Вычислительные узлы вставляются в шасси как выдвижные ящики в шкаф для документов. Когда узел вставляются в отсек, происходит сцепление соответствующих разъемов узла и отсека. Эта конструкция позволяет заменять вычислительный узел при работающей системе.
- Для просмотра этих устройств выберите опцию System Console > Hardware > Flex Chassis.
- Сервисный ноутбук: Ноутбук, подключенный к системе; хранится в секции размером 1U, которая находится в стойке между шасси 2 и шасси 3. IBM использует этот ноутбук для администрирования системы.
- Блоки распределения электропитания (PDU): Стойка содержит четыре блока PDU, каждый из которых отдельно подключается к внешнему источнику энергии. Эти блоки поочередно распределяют энергию модулям питания шасси, коммутаторам и узлам хранения.
Каждое шасси Flex Chassis содержит несколько компонентов.
- Вычислительные узлы: Каждое шасси содержит четырнадцать отсеков для вычислительных узлов, расположенных в семь горизонтальных рядов и в два вертикальных ряда. Каждый отсек может содержать один вычислительный узел Intel. В случае модели W1700 два расположенных рядом отсека могут содержать вычислительный узел Power (см. рис. 5).
- Для просмотра вычислительных узлов системы выберите опцию System Console > Hardware > Compute Nodes.
- Узлы управления: В каждом шасси с номером 1 и 2 по два отсека используются для размещения узлов управления.
- Virtualization system manager (VSM): Этот узел, размещенный в отсеке для узла 1, управляет гипервизорами вычислительных узлов. В случае модели W1700 в узле управления развернут продукт PureFlex System Manager (FSM). Обратитесь к рис. 5 и к разделу "Узлы управления".
- PureSystems manager (PSM): Этот узел, размещенный в отсеке для узла 2, осуществляет хостинг компонента IBM Workload Deployer.
- Для просмотра узлов управления системы выберите опцию System Console > Hardware > Management Nodes.
- Сетевые коммутаторы: В каждом шасси установлено два 66-портовых Ethernet-коммутатора типа IBM Flex System Fabric EN4093 10Gb Scalable Switch, посредством которых осуществляется связывание вычислительных узлов этого шасси. Коммутаторы шасси соединяются с системными коммутаторами через Ethernet-магистраль с пропускной способностью 40 Гбит/с (представляет собой четыре канала 10 GB Ethernet).
- Коммутаторы SAN: В каждом шасси установлено два 48-портовых коммутатора Fiber Channel типа IBM Flex System FC5022 16Gb SAN Scalable Switch, посредством которых осуществляется подключение вычислительных узлов к общей памяти системы.
- Для просмотра установленных в шасси сетевых коммутаторов и коммутаторов SAN выберите опцию System Console > Hardware > Network Devices.
- Модули питания: Каждое шасси имеет шесть блоков питания, расположенных по три на каждой стороне. Эти блоки питания резервированы так, чтобы шасси и вычислительные узлы продолжали работать даже в случае отказа одного блока питания.
- Устройства охлаждения шасси: Десять вентиляторов, обеспечивающих поддержание нужной температуры аппаратных средств.
Модели уменьшенных размеров и модели на базе процессоров Power
Аппаратные средства в стойках для моделей W1500-32 и W1500-64 и для моделей W1700-96 - W1700-608 очень похожи на аппаратные средства в стойках для моделей W1500-96 - W1500-608. На рис. 4 показано размещение аппаратных компонентов в системной стойке для моделей W1500-32 - W1500-64.
Рисунок 4. Аппаратные средства модели IBM PureApplication System W1500-64
Эти аппаратные средства подобны аналогичным средствам моделей W1500-96 - W1500-608, за исключением следующих особенностей:уменьшенная высота корпуса (25U вместо 42U), одно шасси вместо трех, максимальное количество вычислительных узлов равно четырем, одно устройство хранения данных вместо двух. Вычислительные узлы во всех моделях W1500 аналогичны, а подсистемы хранения и сетевые средства работают одинаковым образом.
На рис. 5 показано размещение аппаратных компонентов в системной стойке моделей W1700-96 - W1700-608.
Рисунок 5. Аппаратные средства модели IBM PureApplication System W1700-608
Эти аппаратные средства весьма похожи на аналогичные средства моделей W1500-96 -W1500-608; основное различие состоит в том, что модели W1700 комплектуются вычислительными узлами на базе процессоров Power вместо вычислительных узлов на базе процессоров Intel. По сравнению с вычислительным узлом на процессорах Intel вычислительный узел Power содержит вдвое больше процессорных ядер и вдвое больше оперативной памяти. Корпус для вычислительного узла Power в два раза шире, поэтому в шасси он занимает два отсека по горизонтали; таким образом, каждое шасси содержит вдвое меньше вычислительных узлов Power. За исключением вычислительных узлов, подсистемы хранения и сетевые средства аналогичны вышеописанным системам.
Еще одно отличие - в узле управления виртуализацией установлен продукт PureFlex System Manager (FSM), а не продукт Virtualization System Manager (VSM). См. раздел "Узлы управления".
Устойчивость аппаратных средств
Общий подход к организации аппаратных средств системы состоит в применении резервирования компонентов для повышения устойчивости и исключения общих точек отказа. Система содержит не только несколько вычислительных узлов, но и две пары узлов управления, два системных сетевых коммутатора, два устройства хранения и четыре блока PDU. Она содержит три шасси Flex Chassis, в каждом из которых имеется два сетевых коммутатора, два коммутатора SAN и шесть блоков питания. Сетевые адаптеры и адаптеры SAN в вычислительных узлах имеют по несколько портов с целью повышения пропускной способности и устойчивости.
Кроме того, аппаратные средства изолируют системное управление от пользовательских рабочих нагрузок. Узлы управления - PureSystems™ Manager и Virtualization System Manager - развернуты на базе своих собственных вычислительных узлов. Это обеспечивает их изоляцию от пользовательских рабочих нагрузок, поскольку функции системного управления поддерживаются своими собственными выделенными аппаратными средствами. Это также снимает большую часть накладных расходов по управлению со стандартных вычислительных узлов, поэтому их ресурсы полностью выделяются пользовательским рабочим нагрузкам. На случай отказа имеется две пары узлов управления; один из узлов находится в режиме ожидания с целью резервирования другого узла.
Узлы управления
PureSystems Manager (PSM) осуществляет хостинг компонента Workload Deployer, который развертывает шаблоны, а также хостинг системных административных сервисов. Доступ к этим сервисам осуществляется посредством следующих трех интерфейсов.
- Консоль. Консоль администратора (графический веб-интерфейс пользователя).
- Интерфейс REST API. Интерфейс прикладного программирования (API) на основе REST.
- Интерфейс CLI. Интерфейс командной строки.
Эти интерфейсы обращаются к PSM по его IP-адресу; текущий IP-адрес управления показан на странице Customer Network Configuration (System Console > System > Customer Network Configuration). Переход по этому IP-адресу в веб-браузере открывает консоль системного администрирования.
Управление гипервизорами в моделях W1500 и W1700 организовано сходным образом, однако в этих двух моделях оно функционирует с определенными различиями. Эти две модели построены на процессорах с разной архитектурой (Intel® и Power), на которых выполняются разные программные гипервизоры: VMware и PowerVM соответственно. Узлы управления виртуализацией - Virtualization System Manager (VSM) и PureFlex System Manager (FSM) соответственно - реализованы подобным образом, но на различных аппаратных средствах, на которых исполняются разные программные средства управления гипервизорами (VMware vCenter и VMControl соответственно).
В таблице 2 обобщены различия между двумя типами узлов управления виртуализацией. Несмотря на эти различия, продукт PureSystems Manager (PSM) в обеих моделях использует эти программные средства управления гипервизорами аналогичным образом.
Таблица 2. Сравнение средств управления гипервизорами
| W1500 Intel |
W1700 Power |
Процессор |
Intel Xeon |
POWER7+ |
Программное обеспечение гипервизора |
VMware vSphere Hypervisor (ESXi) |
IBM PowerVM |
Программное обеспечение управления гипервизорами |
VMware vCenter Server |
IBM Systems Director V6.3.2.1 с плагином VMControl V2.2.2.1 |
Вычислительные узлы модели W1500
Вычислительный узел, также известный под более общим названием ITE (Integrated Technology Element - элемент с интегрированными технологиями), представляет собой весьма компактный компьютер. Примечание: некоторые ITE используются особым образом, в качестве узлов управления. Система W1500 комплектуется вычислительными узлами Intel типа IBM Flex System x240 Compute Node, каждый из которых содержит следующие компоненты.
- Центральные процессоры: Вычислительный узел Intel содержит два процессора, т.е. 16 ядер. Два процессора Intel® Xeon® E5-2670 (8 ядер; 2,6 ГГц; 115 Вт) имеют в общей сложности 16 физических ядер, которые гипервизор использует как 32 логических ядра (то есть гипервизор способен исполнять в этих 16 ядрах 32 параллельных потока). Из этих 32 логических ядер 28 ядер доступны для исполнения пользовательских рабочих нагрузок.
- Оперативная память: Вычислительный узел Intel содержит 256 ГБ оперативной памяти: 8 пар модулей по 16 ГБ (1333 МГЦ; DDR3; LP RDIMM; 1,35 В).
- Подсистема хранения данных: Вычислительный узел укомплектован интерфейсной платой для сети SAN, которая представляет собой адаптер Fiber Channel типа IBM Flex System FC3172 2-port 8 GB FC Adapter. Кроме того, каждый узел содержит по два жестких диска (250 ГБ; 2,5 дюйма), которые не используются и игнорируются системой.
- Сетевые средства: Плата сетевого интерфейса вычислительного узла представляет собой 4-портовый адаптер Ethernet типа IBM Flex System CN4054 10 GB Virtual Fabric Adapter.
- Корпус: Корпус вычислительного узла Intel имеет половинную ширину; другими словами, каждый вычислительный узел заполняет один отсек шасси, а два узла могут находиться рядом друг с другом в смежных отсеках (см. рис. 3 и рис. 4).
Компоненты вычислительного узла показаны на рис. 6.
Рисунок 6. Компоненты вычислительного узла
Вычислительные узлы модели W1700
Система W1700 комплектуется вычислительными узлами Power типа IBM Flex System p460 Compute Node, каждый из которых содержит следующие компоненты.
- Центральные процессоры: Вычислительный узел Power содержит четыре процессора, т. е. 32 ядра. Четыре восьмиядерных процессора POWER7 + с частотой 3,61 ГГц имеют в общей сложности 32 физических ядра, которые гипервизор использует в качестве 128 логических ядер (то есть гипервизор способен исполнять 128 параллельных потоков). Из этих 128 логических ядер 116 ядер доступны для исполнения пользовательских рабочих нагрузок.
- Оперативная память: Вычислительный узел Power содержит 512 ГБ оперативной памяти: 16 пар модулей по 16 ГБ (1066 МГЦ; DDR3; LP RDIMM; 1,35 В).
- Подсистема хранения данных: Узлы Power комплектуются такими же адаптерами, что вычислительные узлы Intel, но в отличие от узла Intel в узле Power устанавливается два таких адаптера. Вычислительный узел укомплектован интерфейсными платами для сети SAN, каждая из которых представляет собой адаптер Fiber Channel типа IBM Flex System FC3172 2-port 8 GB FC Adapter. Кроме того, каждый узел содержит по два жестких диска (250 ГБ; 2,5 дюйма), которые не используются и игнорируются системой.
- Сетевые средства: Узлы Power комплектуются такими же адаптерами, что вычислительные узлы Intel, но в отличие от узла Intel в узле Power устанавливается два таких адаптера. Каждая плата сетевого интерфейса вычислительного узла представляет собой 4-портовый адаптер Ethernet типа IBM Flex System CN4054 10 GB Virtual Fabric Adapter.
- Корпус: Корпус вычислительного узла Power имеет полную ширину; другими словами, каждый такой узел имеет вдвое большую ширину, чем вычислительный узел Intel. Каждый вычислительный узел Power занимает в шасси два отсека по горизонтали (см. рис. 5).
Вычислительный узел модели W1700 содержит вдвое больше ядер и вдвое больше оперативной памяти, чем вычислительный узел модели W1500. Поскольку размеры узла Power также в два раза больше, в стойке содержится вдвое меньше таких узлов.
Общие ресурсы
Каждый вычислительный узел имеет доступ к системным ресурсам, которые используются совместно всеми вычислительными узлами, а именно к ресурсам хранения данных и к сетевым ресурсам.
- Подсистема хранения данных: cистема PureApplication в высокой стойке поддерживает подсистему хранения данных на твердотельных накопителях общей емкостью 6,4 ТБ и подсистему хранения данных на жестких дисках общей емкостью 48 ТБ; из этой емкости может быть использовано 4,8 ТБ и 43,2 ТБ соответственно.
- Подсистема хранения реализуется в виде кластера, состоящего из двух устройств IBM Storwize V7000. Каждое устройство V7000 имеет узел контроллера и узел расширения, которые работают совместно.
- Эти четыре узла содержат в общей сложности 16 2,5-дюймовых твердотельных накопителей по 400 ГБ и 80 2,5-дюймовых жестких дисков по 600 ГБ.
- Контроллеры комплектуются программным обеспечением системы управления хранением IBM System Storage® Easy Tier®.
- Подсистема хранения организована в виде массивов RAID 5 с целью обеспечения избыточности. Каждое устройство хранения содержит 40 жестких дисков и 8 твердотельных накопителей.
- Из этих 40 жестких дисков один диск находится в горячем резерве, а остальные 39 дисков организованы в три массива по 13 дисков со страйпами из 12 сегментов данных и 1 сегмента четности.
- Из 8 твердотельных накопителей один находится в горячем резерве, а остальные 7 накопителей организованы в массив со страйпами из 6 сегментов данных и 1 сегмента четности.
- Вычислительные узлы обращаются к подсистеме хранения как к сети SAN посредством 2-портовых адаптеров 8 GB Fiber Channel.
- Сетевые средства: Система PureApplication System комплектуется двумя 64-портовыми Ethernet-коммутаторами типа IBM System Networking RackSwitch G8264, которые обеспечивают пропускную способность до 320 Гбит/с между коммутаторами и внешней сетью. Конфигурация коммутаторов показана на странице Customer Network Configuration (System Console > System > Customer Network Configuration). Порты коммутаторов используются следующим образом.
- Порты 41-56 (16 портов в общей сложности) на каждом коммутаторе открыты для соединения с сетью центра обработки данных.
- Каждый порт поддерживает соединение 10/1 GB Ethernet. Встроенный разъем предназначен для медных линий, однако каждый порт также может быть подключен к разъему для оптоволоконных линий или к DAC-разъему (direct access connect).
- Для поддержания высокой степени готовности для пар портов в двух коммутаторах должна применяться агрегация каналов.
- Порт 63 (в любом коммутаторе) используется сервисным ноутбуком, с помощью которого специалисты IBM осуществляют загрузку и администрирование системы.
- Порт 64 (с агрегацией каналов на обоих коммутаторах) используется заказчиком для доступа к PureSystems Manager (PSM) с помощью консоли администрирования.
- Остальные порты коммутаторов системы поддерживают связь по технологии Ethernet между коммутаторами трех шасси, а также связывают друг с другом два коммутатора RackSwitch.
Сети управления
Для самой системы требуются три виртуальных сети (VLAN), которые система использует для управления своими компонентами. На странице Customer Network Configuration (System Console > System > Customer Network Configuration) эти сети перечислены как внутренние VLAN-сети. Кроме того, каждая из этих управляющих VLAN-сетей указана среди остальных VLAN-сетей на странице Virtual Networks (System Console > Hardware > Virtual Network). Эти управляющие VLAN-сети перечислены в таблице 3.
Таблица 3. Внутренние VLAN-сети
| Наименование |
Сетевое имя |
VLAN ID |
Mobility |
VMOTION |
1358 |
Console |
CONSOLE |
3201 |
Management |
MERION |
4091 |
Заключение
В статье были рассмотрены аппаратные средства системы PureApplication System. Были описаны основные аппаратные компоненты, рассмотрены характеристики этих компонентов и их взаимодействие с другими компонентами, а также показано, как найти эти компоненты с помощью консоли администрирования. Эта информация поможет вам углубить свое понимание аппаратного обеспечения платформы PureApplication System.
Ссылки по теме