Как сделать вычислительный кластер
Создание вычислительного кластера Машинного обучения Azure
Узнайте, как создавать вычислительные кластеры и управлять ими в рабочей области Машинного обучения Azure.
Вычислительную среду Машинного обучения Azure можно использовать для распространения процесса обучения или пакетного вывода в кластере вычислительных узлов на основе ЦП или GPU, размещенном в облаке. Дополнительные сведения о размерах виртуальных машин, которые содержат GPU, см. в статье Размеры виртуальных машин, оптимизированных для GPU.
В этой статье раскрываются следующие темы:
Предварительные требования
Рабочая область машинного обучения Azure. Дополнительные сведения см. в разделе Создание рабочей области Машинного обучения Azure.
При использовании пакета SDK для Python настройте среду разработки с использованием рабочей области. После настройки среды подключитесь к рабочей области в скрипте Python:
Что такое вычислительный кластер?
Вычислительный кластер Машинного обучения Azure — это управляемая вычислительная инфраструктура, которая позволяет c легкостью создавать одно- и многоузловые вычислительные среды. Вычислительный кластер — это ресурс, который можно использовать совместно с другими пользователями в рабочей области. Вычислительная среда автоматически масштабируется при отправке задания, а также может быть размещена в виртуальной сети Azure. Кластер вычислений не поддерживает развертывание общедоступного IP-адреса (Предварительная версия) и виртуальную сеть. Она выполняется в контейнерной среде, упаковывая зависимости вашей модели в контейнер Docker.
Вычислительные кластеры безопасно запускают задания в среде виртуальной сети, не требуя, чтобы предприятия открывали порт SSH. Задание выполняется в контейнерной среде и упаковывает зависимости модели в контейнер Docker.
Ограничения
Некоторые сценарии, перечисленные в этом документе, помечены как предварительные версии. Для предварительной версии соглашение об уровне обслуживания не предусмотрено. Мы не рекомендуем использовать ее в рабочей среде. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в статье Дополнительные условия использования предварительных выпусков Microsoft Azure.
Вычислительный кластер можно создать в регионе, отличном от региона рабочей области. Эта функция находится в предварительной версии и доступна только для вычислительных кластеров, а не для вычислительных экземпляров. Эта предварительная версия недоступна, если вы используете рабочую область с поддержкой частных конечных точек.
При использовании вычислительного кластера в регионе, отличном от региона рабочей области или хранилища данных, вы можете столкнуться с повышенной задержкой в сети и расходами на передачу данных. Задержка и затраты могут возникать при создании кластера и при выполнении заданий на нем.
В настоящее время поддерживается только создание (не обновление) кластеров с помощью шаблонов ARM. Для обновления вычислений в настоящее время рекомендуется использовать пакет SDK, Azure CLI или UX.
Вычислительная среда Машинного обучения Azure имеет ограничения по умолчанию, такие как количество ядер, которые могут быть выделены. Дополнительные сведения см. в статье Управление квотами для ресурсов Azure и их запрашивание.
Azure позволяет размещать блокировки ресурсов, чтобы их нельзя было удалить или можно было использовать только для чтения. Не применяйте блокировки ресурсов к группе ресурсов, содержащей рабочую область. Применение блокировки к группе ресурсов, содержащей рабочую область, не позволит выполнять операции масштабирования для вычислений с помощью кластеров Машинного обучения Azure. Дополнительные сведения о блокировке ресурсов см. в статье Блокировка ресурсов для предотвращения непредвиденных изменений.
Кластеры обычно масштабируются до 100 узлов при наличии достаточной квоты для требуемого числа ядер. По умолчанию кластеры настроены с поддержкой взаимодействия между их узлами, например для поддержки заданий MPI. Однако вы можете масштабировать кластеры до тысяч узлов. Для этого просто отправьте запрос в службу поддержки и попросите добавить свою подписку, рабочую область или конкретный кластер в список разрешенных для отключения взаимодействия между узлами.
Создать
Примерное время: приблизительно 5 минут.
Вычислительную среду Машинного обучения Azure можно многократно использовать при различных запусках. Результаты вычислений могут использоваться совместно с другими пользователями в рабочей области. Они сохраняются для последующих запусков, а число узлов в них автоматически масштабируется в зависимости от числа отправленных запросов на запуск и заданного для кластера значения max_nodes. С помощью параметра min_nodes можно контролировать минимально доступное количество узлов.
Квота выделенных ядер на регион на семейство ВМ и суммарная региональная квота, применяемая при создании вычислительного кластера, объединяется и используется совместно с квотой вычислительного экземпляра Машинного обучения Azure.
Чтобы исключить взимание оплаты при отсутствии выполняющихся заданий, установите минимальное количество узлов равным 0. Такая настройка позволяет службе Машинного обучения Azure отменять распределение узлов, когда они не используются. При любом значении больше 0 количество работающих узлов остается равным этому значению, даже если они не используются.
Когда вычислительная среда не используется, она автоматически масштабируется до нуля узлов. Выделенные виртуальные машины создаются для выполнения заданий по мере необходимости.
Чтобы создать постоянный ресурс Вычислительной среды машинного обучения Azure в Python, необходимо указать свойства vm_size и max_nodes. Затем Машинное обучение Azure использует интеллектуальные значения по умолчанию для остальных свойств.
При создании Вычислительной среды машинного обучения Azure вы можете также настроить несколько дополнительных свойств. Эти свойства позволяют создать постоянный кластер фиксированного размера, который может размещаться в существующей виртуальной сети Azure в вашей подписке. Дополнительные сведения см. в разделе о классе AmlCompute.
При использовании вычислительного кластера в регионе, отличном от региона рабочей области или хранилища данных, вы можете столкнуться с повышенной задержкой в сети и расходами на передачу данных. Задержка и затраты могут возникать при создании кластера и при выполнении заданий на нем.
Сведения о создании вычислительного кластера в Studio см. в статье Создание целевых объектов вычислений в студии Машинного обучения Azure.
Снижение стоимости вычислительного кластера
Вы можете также использовать виртуальные машины с низким приоритетом для выполнения части или всех рабочих нагрузок. Эти виртуальные машины не обеспечены гарантиями доступности и могут быть замещены при использовании. Вам потребуется перезапустить замещенное задание.
Используйте любой из следующих способов, чтобы указать виртуальную машину с низким приоритетом:
В Studio при создании виртуальной машины выберите Низкий приоритет.
Настройка управляемого удостоверения
Вычислительные кластеры машинного обучения Azure также поддерживают управляемые удостоверения для проверки подлинности доступа к ресурсам Azure без включения в код учетных данных. Существует два типа управляемых удостоверений.
Настройте управляемое удостоверение в конфигурации подготовки:
Управляемое удостоверение, назначаемое системой:
Управляемое удостоверение, назначаемое пользователем:
Создание нового управляемого вычислительного кластера с управляемым удостоверением
Управляемое удостоверение, назначаемое пользователем
Управляемое удостоверение, назначаемое системой
Добавление управляемого удостоверения в существующий кластер:
Управляемое удостоверение, назначаемое пользователем
Управляемое удостоверение, назначаемое системой
Вычислительные кластеры машинного обучения Azure поддерживают только одно назначенное системой удостоверение или несколько определяемых пользователем удостоверений при условии использования каждого из этих вариантов по отдельности.
Использование управляемого удостоверения
Управляемым удостоверением по умолчанию является управляемое удостоверение, назначенное системой, или первое назначенное пользователю управляемое удостоверение.
Во время работы существует два варианта применения удостоверения:
Система использует удостоверение для настройки подключений к хранилищу, реестру контейнеров и хранилищам данных пользователя.
Пользователь применяет удостоверение для доступа к ресурсам из кода для отправленного выполнения
Например, чтобы получить маркер для хранилища данных с помощью управляемого удостоверения по умолчанию:
Устранение неполадок
Существует вероятность того, что некоторые пользователи, создавшие свою рабочую область Машинного обучения Azure на портале Azure до выпуска общедоступной версии, не смогут создать AmlCompute в этой рабочей области. Можно отправить соответствующий запрос в службу поддержки или создать новую рабочую область с помощью портала или пакета SDK, чтобы немедленно устранить эту проблему.
Блокировка при изменении размера
Azure позволяет размещать блокировки ресурсов, чтобы их нельзя было удалить или можно было использовать только для чтения. Блокировка ресурса может привести к непредвиденным результатам. Для некоторых операции, которые, на первый взгляд, не изменяют ресурс, на самом деле требуются действия, выполнение которых становится невозможным из-за блокировки.
с Машинное обучение Azure применение блокировки удаления в группе ресурсов для рабочей области приведет к тому, что операции масштабирования для кластеров Azure ML вычислений будут запрещены. Чтобы обойти эту проблему, рекомендуется Удалить блокировку из группы ресурсов, а затем применить ее к отдельным элементам в группе.
Не применяйте блокировку к следующим ресурсам:
| Имя ресурса | Тип ресурса |
|---|---|
| -azurebatch-cloudservicenetworksecurityggroup | Группа безопасности сети |
| -azurebatch-cloudservicepublicip | Общедоступный IP-адрес |
| -azurebatch-cloudserviceloadbalancer | Подсистема балансировки нагрузки |
Эти ресурсы используются для взаимодействия с и выполнения операций, таких как масштабирование, в кластере вычислений. Удаление блокировки ресурсов из этих ресурсов должно разрешить автоматическое масштабирование для вычислений в кластере.
Дальнейшие шаги
Используйте вычислительный кластер для следующего:
Высокопроизводительный кластер из старых компьютеров
Если у вас есть 32 старых однопроцессорных компьютера, нужно лишь найти способ, как заставить их работать сообща. Другими словами — собрать из них кластер. Да, у них всего по одному процессорному ядру, но все вместе они смогут сделать больше, чем одна двухъядерная машина. Как это сделать, рассказано в статье Т. Лемана (Tom Lehmann) «Как создать высокопроизводительный вычислительный кластер на Linux». В статье приведен обзор пакета Rocks — Linux-дистрибутива для развертывания, управления и поддержки высокопроизводительного вычислительного кластера.
Re: Высокопроизводительный кластер из старых компов
> но все вместе они смогут сделать больше, чем одна двухъядерная машина
проще сдать весь этот хлам на металлолом и купить четырехъядерную машину
Re: Высокопроизводительный кластер из старых компов
>Если у вас есть 32 старых однопроцессорных компьютера
Re: Высокопроизводительный кластер из старых компов
А я-то думал куда мне деть мои 32 старых компа.
Re: Высокопроизводительный кластер из старых компов
А также не только на старых однопроцессорных компьютерах, но и на КПК, смартфонах, и прочих ЕС ЭВМ http://ru.inferno-os.wikia.com/wiki/%D0%9F%D1%80%D0%BE%D1%81%D1%82%D0%BE%D0%B9_%D0%BF%D1%80%D0%B8%D0%BC%D0%B5%D1%80_Grid
Re: Высокопроизводительный кластер из старых компов
Т.е. 32 компа немногим лучше, чем одна двухядерная машина?
Re: Высокопроизводительный кластер из старых компов
> Т.е. 32 компа немногим лучше, чем одна двухядерная машина?
Скорее хуже, если нет своей АЭС.
Re: Высокопроизводительный кластер из старых компов
/me пошел делать кластер из 133 и 166 машинок
Re: Высокопроизводительный кластер из старых компов
у нас в европе элекричество дорогое. так что лесом эту хрень
лучше купить один мощный комп.
Re: Высокопроизводительный кластер из старых компов
А счет за киловатт-часы кто будет оплачивать?
Re: Высокопроизводительный кластер из старых компов
Это развёртывать можно разве что в университетах, где тачки одинаковые.
Re: Высокопроизводительный кластер из старых компов
> Если у вас есть 32 старых однопроцессорных компьютера
Возможно Вы серьезно больны.
Re: Высокопроизводительный кластер из старых компов
Re: Высокопроизводительный кластер из старых компов
Re: Высокопроизводительный кластер из старых компов
> лучше купить один мощный комп.
А лучше 32 мощных компа 🙂
Re: Высокопроизводительный кластер из старых компов
Именно поэтому по ссылке упоминается InfiniBand.
Re: Высокопроизводительный кластер из старых компов
Вот тут тоже про кластеры.
Re: Высокопроизводительный кластер из старых компов
Это главная? Или толксы?
>Если у вас есть 32 старых однопроцессорных компьютера
Поменяйте их на один новый
>Да, у них всего по одному ядру, но все вместе они смогут сделать больше, чем одна двухъядерная машина.
Потребить электричества уж точно. А без должного распараллеливания нужных процессов такой кластер будет совершенно бесполезен.
Re: Высокопроизводительный кластер из старых компов
чОрт, у меня есть только всего один старый комп. Я смогу сделать из него кластер, который обделает все 10-ядерные ксеноны.
Re: Высокопроизводительный кластер из старых компов
Хм, интересная статья, не знал что есть готовые дистрибутивы заточенные под это.
Re: Высокопроизводительный кластер из старых компьютеров
А о том, как приготовить офигический ужин на двоих из 7 протухших сарделек там не пишут?
Re: Высокопроизводительный кластер из старых компьютеров
а почему вы интересуетесь?
Re: Высокопроизводительный кластер из старых компьютеров
А по делу мне кажется что статья вполне ничего. Как ознакомительная по кластерным дистрам. Кстати, Beowulf-подобные решения вполне могут быть востребованы в тех же универах для обучения. У нас было такое дело что пришел новый класс, старый так тоже вполне себе ничего был. Там оптероны 4-процовые стояли. И их «утилизировали» подобным способом.
Re: Высокопроизводительный кластер из старых компьютеров
> чОрт, у меня есть только всего один старый комп. Я смогу сделать из него кластер, который обделает все 10-ядерные ксеноны.
и питцот галагенок
Re: Высокопроизводительный кластер из старых компьютеров
всё, бегу докупать ещё 31 однопроцессорный комп, и я буду круче чем сосед со своим 2 ядерным ноутбуком. вот я его натяну! ( а электричество.. это уже мелочи.. главное куда деть эти 32 компа?)
Re: Высокопроизводительный кластер из старых компьютеров
только сегодня думал что надо почитать про кластеры линуксовые ^_^
>Если у вас есть 32 старых однопроцессорных компьютер
Re: Высокопроизводительный кластер из старых компьютеров
Слово «старых» явно лишнее в названии статьи.
Re: Высокопроизводительный кластер из старых компьютеров
Действительно хорошая статья. Призадумался о том, чтобы реализовать описанную схему в университете.
Re: Высокопроизводительный кластер из старых компьютеров
Re: Высокопроизводительный кластер из старых компьютеров
>Если у вас есть 32 старых однопроцессорных компьютера
Еще ж не пятница. Вот как надо писать новости, эх!
Re: Высокопроизводительный кластер из старых компьютеров
Re: Высокопроизводительный кластер из старых компьютеров
как пел Евгений Гудзь, «серебряные зайцы водят хоровод». теперь я знаю, он про гленду 😉
Re: Высокопроизводительный кластер из старых компьютеров
Нифигасе высер. А если я четыре сервака на кореквадах в кластер хочу, чтоб аппсервер мог не 3000 а 10000 соединений одновременных обслуживать? А тестироваться/практиковаться на чём?
Хорошая, годная статья.
Спасибо, Виктор Алексеевич. Хорошая, годная статья.
Re: Высокопроизводительный кластер из старых компьютеров
Я бы переименовал в «Как собрать обогреватель».
В принципе лето заканчивается, скоро будет актуально.
Re: Высокопроизводительный кластер из старых компьютеров
Виндовый ботнет и то выглядит перспективнее для всяких расчетов, чем старая рухлядь (еще и 32 шутки). И тише будет.
Re: Высокопроизводительный кластер из старых компьютеров
Чтобы аппсервер мог больше соединений обслуживать, прежде всего замените аппсервер на бэкенды, написанные на C и веб-фронтенды на Perl! Java-сервера приложений 80% времени своей работы тупо жрут процессорное время и память. Дай какой-нибудь веб-сфере сказать «Hello, world!», она и на это потратит столько же тактов, сколько в каком-нибудь 1970-ом году тртилось на расчёт полёта космической ракеты. У меня как у ASM-програмиста подобные вещи ничего, кроме отвращения, не вызывают. Ну и собственно очень редко узким местом является именно процессор, гораздо чаще это всё-таки ввод-вывод, ну а коли у вас все ноды кластера наверняка будут подключены к одной полке и делить одно на всех внешнее ethernet-подключение, то о каком трёхкратном росте производительности может идти речь?
Re: Высокопроизводительный кластер из старых компьютеров
>Чтобы аппсервер мог больше соединений обслуживать, прежде всего замените аппсервер на бэкенды, написанные на C и веб-фронтенды на Perl!
А потом выйдите на улицу на перекур и узнайте, что Землю сто лет назад захватили серо-зеленые жабокрылы.
Re: Высокопроизводительный кластер из старых компьютеров
32 * 300 Watt одной машины
9kWat хорошенький обогреватель, всё равно аля
Re: Высокопроизводительный кластер из старых компьютеров
Аппсервер не на жабе.
Re: Высокопроизводительный кластер из старых компьютеров
Re: Высокопроизводительный кластер из старых компьютеров
Ясно, респект на самом деле, а что за продукт, если не секрет, на чём писан? Собственная разработка?
Re: Высокопроизводительный кластер из старых компьютеров
Re: Высокопроизводительный кластер из старых компьютеров
Писано на С++/Qt+WebKit (некоторые модули, в частности используемые для геренации отчётов и реализации мониторингов используют плюсы и удобство ВЕБ-представления), и PHP (серверная часть. Да-да, гнобите сколько хотите но ТАМ оно РЕАЛЬНО ОЧЕНЬ УДОБНО, и быстро).
Re: Высокопроизводительный кластер из старых компьютеров
Re: Высокопроизводительный кластер из старых компьютеров
А если есть три двухпроцессорных и два однопроцессорных, пролетаю?
Re: Высокопроизводительный кластер из старых компьютеров
А вообще, подскажите мне пожалуйста бытовое применение вычислительных мощностей, в частности кластера?
Re: Высокопроизводительный кластер из старых компьютеров
>У меня как у ASM-програмиста подобные вещи ничего, кроме отвращения, не вызывают.
мне одному вспомнился vsl? 😉
Re: Высокопроизводительный кластер из старых компьютеров
А под каким соусом он мог вспомниться? «Эх, вот бы пришел Профессор и вправил тебе мозги»?
Re: Высокопроизводительный кластер из старых компьютеров
В отдельных случаях, если хочется, можно применить и ассемблерные вставки, и другие пути оптимизации производительности.
Типичный пример ассемблерного коня в вакууме. 😉
Re: Высокопроизводительный кластер из старых компьютеров
Кластера всегда будут кластерами, если нужна отказоустойчивость, доступность и не геморройность при восстановлении, то кластера правильный выбор. Так, что товарищи не в ту сторону смотрите. PS все нужные приложения, которые могут повлиять на работу конторы, раскидываю по кластерам, и уже неоднократно спасало ситуацию. Будем дальше изучать.
Суперкомпьютер своими руками
На сегодняшний день возможно построение домашнего суперкомпьютера, о чем и пойдет речь.
В статье рассмотрены способы аппаратного построения высокопроизводительных вычислительных комплексов. Одно из интересных применений – криптография. Например, благодаря современным технологиям, любому стал доступен взлом MD5 или WPA. Если постараться (информацию быстро выпиливают), в Интернете можно найти способ взлома алгоритма A5/2, используемого в GSM. Другое применение – инженерные, финансовые, медицинские расчеты, биткойнмайнинг.
Немного истории

Касаясь взятой нами темы, нельзя не упомянуть, что сегодня одно из перспективных направлений развития суперкомпьютеров является использование в стандартной компьютерной архитектуре сопроцессоров, по архитектуре напоминающих видеокарты.
Выбор процессора
Сегодня основные производители процессоров – это Intel и AMD. RISC-процессоры, такие как Power 7+, несмотря на привлекательность, достаточно экзотичны и дороги. Вот, например, не самая новая модель такого сервера стоит больше миллиона.
(К слову, говоря, при этом есть возможность собрать недорогой и эффективный кластер из xbox 360 или PS3, процессоры там примерно как Power, и на миллион можно купить не одну приставку.)
Исходя из этого отметим интересные по цене варианты построения высокопроизводительной системы. Разумеется, она должна быть многопроцессорной. У Intel для таких задач используются процессоры Xeon, у AMD – Opteron.
Если много денег
Однако это очень дорого.
Что подешевле
Зато есть перспектива сборки суперкомпьютера на более доступных процессорах AMD Opteron G34, Intel Xeon LGA2011 и LGA 1366.
Таким, образом, мой выбор процессоров для суперкомпьютера – Opteron 6386 SE, Opteron 6344, Xeon E5-2687W и Xeon E5-2630.
Материнские платы
PICMG
Готовые платформы TYAN
За ту же примерно сумму можно приобрести готовую платформу для сборки суперкомпьютеров TYAN FT72B7015. В такой можно установить до восьми GPU и два Xeon LGA1366.
«Обычные» серверные материнские платы
Для LGA2011
Supermicro X9QR7-TF — на эту материнскую плату можно установить 4 Платы расширения и 4 процессора.
Supermicro X9DRG-QF — эта плата специально разработана для сборки высокопроизводительных систем.
Для Opteron
Supermicro H8QGL-6F — эта плата позволяет установить четыре процессора и три платы расширения
Усиление платформы платами расширения
Этот рынок почти полностью захвачен NVidia, которые выпускают помимо геймерских видеокарт еще и вычислительные карты. Меньшую долю рынка имеет AMD, и относительно недавно на этот рынок пришла корпорация Intel.
Особенностью таких сопроцессоров является наличие на борту большого объема оперативной памяти, быстрые расчеты с двойной точностью и энергоэффективность.
| FP32, Tflops | FP64, Tflops | Цена | Память, Гб | |
| Nvidia Tesla K20X | 3.95 | 1.31 | 5.5 | 6 |
| AMD FirePro S10000 | 5.91 | 1.48 | 3.6 | 6 |
| Intel Xeon Phi 5110P | 1 | 2.7 | 8 | |
| Nvidia GTX Titan | 4.5 | 1.3 | 1.1 | 6 |
| Nvidia GTX 680 | 3 | 0.13 | 0.5 | 2 |
| AMD HD 7970 GHz Edition | 4 | 1 | 0.5 | 3 |
| AMD HD 7990 Devil 13 | 2×3,7 | 2х0.92 | 1.6 | 2×3 |
Топовое решение от Nvidia называется Tesla K20X на архитектуре Kepler. Именно такие карты стоят в самом мощном в мире суперкомпьютере Titan. Однако недавно Nvidia выпустила видеокарту Geforce Titan. Старые модели были с урезанной производительностью FP64 до 1/24 от FP32 (GTX680). Но в Титане производитель обещает довольно высокую производительность в расчетах с двойной точностью. Решения от AMD тоже неплохи, но они построены на другой архитектуре и это может создать трудности для запуска вычислений, оптимизированных под CUDA (технология Nvidia).
Решение от Intel — Xeon Phi 5110P интересно тем, что все ядра в сопроцессоре выполнены на архитектуре x86 и не требуется особой оптимизации кода для запуска расчетов. Но мой фаворит среди сопроцессоров – относительно недорогая AMD HD 7970 GHz Edition. Теоретически эта видеокарта покажет максимальную производительность в расчете на стоимость.
Можно соединить в кластер
Для повышения производительности системы несколько компьютеров можно объединить в кластер, который будет распределять вычислительную нагрузку между входящими в состав кластера компьютерами.
При этом коммутационное оборудование для Infiniband стоит довольно дорого. Да и как уже было сказано выше, классическая звезда в качестве топологии вычислительной сети – не лучший выбор.
Однако хосты InfiniBand можно подключать друг к другу напрямую, без свича. Тогда довольно интересным становится, например, такой вариант: кластер из двух компьютеров, соединенных по infiniband. Такой суперкомпьютер вполне можно собрать дома.
Сколько нужно видеокарт
В самом мощном суперкомпьютере современности Cray Titan отношение процессоров к «видеокартам» 1:1, то есть в нем 18688 16-ядерных процессоров и 18688 Tesla K20X.
В Тяньхэ-1А – китайском суперкомпьютере на ксеонах отношение следующее. Два шестиядерных процессора к одной «видюшке» Nvidia M2050 (послабее, чем K20X).
Такое отношение мы и примем для наших сборок за оптимальное (ибо дешевле). То есть 12-16 ядер процессоров на один GPU. На таблице ниже жирным обозначены практически возможные варианты, подчеркиванием – наиболее удачные с моей точки зрения.
| GPU | Cores | 6-core CPU | 8-core CPU | 12-core CPU | 16-core CPU | |||||
| 2 | 24 | 32 | 4 | 5 | 3 | 4 | 2 | 3 | 2 | 2 |
| 3 | 36 | 48 | 6 | 8 | 5 | 6 | 3 | 4 | 2 | 3 |
| 4 | 48 | 64 | 8 | 11 | 6 | 8 | 4 | 5 | 3 | 4 |
Если система с уже установленным отношением процессоров/видеокарт сможет принять «на борт» еще дополнительно вычислительных устройств, то мы их добавим, чтобы увеличить мощность сборки.
Итак, сколько стоит
Представленные ниже варианты – шасси суперкомпьютера без оперативной памяти, жестких дисков и ПО. Во всех моделях используется видеоадаптер AMD HD 7970 GHz Edition. Его можно заменить на другой, по требованию задачи (например, на xeon phi). Там, где система позволяет, одна из AMD HD 7970 GHz Edition заменена на трехслотовую AMD HD 7990 Devil 13.

































