В секторе высокопроизводительных серверных компонентов компания Intel предлагает CPU Intel Xeon Scalable. Наибольшими возможностями обладают в настоящее время изделия второго поколения, представленные моделями нескольких линеек
Евгений Рудометов
Стремительный рост генерируемых данных, быстрое расширение облачных вычислений, повсеместное развертывание сетей 5G, а также распространение высокопроизводительных вычислений (HPC) и искусственного интеллекта (AI) требуют адекватных аппаратно-программных средств. Утверждается, что более 50% всего объема мировых данных было создано за последние два года. Однако из этого объема только 2% было проанализировано, так как оперативная обработка данных требует соответствующих вычислительных мощностей, которых часто не достаточно.
Растущие требования определяют архитектуру центров обработки данных (ЦОД) и сетей, которые могут быстро масштабироваться. При этом необходимо отметить, что по оценкам IDC средняя длительность жизненного цикла типичного сервера составляет примерно пять лет. Дальнейшая же эксплуатация устаревших аппаратно-программных средств часто неэффективна и нецелесообразна. Действительно, совокупные затраты на поддержание производительности ЦОД на должном уровне могут существенно превышать стоимость приобретения технологий следующего поколения. Более того, обновленные серверные платформы, созданные на основе новейших высокопроизводительных процессорах (CPU), предоставляют новые возможности для модернизации существующей IT-инфраструктуры, сочетая в себе решения, которые отвечают актуальным требованиям в вопросах передачи, хранения и обработки данных.
Масштабируемые процессоры
В ответ на потребности рынка компания Intel представила в 2017 очередное обновление модельного ряда серверных процессоров Intel Xeon. С целью значительного увеличения скоростных возможностей компания значительно переработала их внутреннюю архитектуру. Изделия получили общее наименование Intel Xeon Scalable (от англ. Scalable — масштабируемый). Это наименование по замыслу производителя должно свидетельствовать о больших возможностях процессоров, обеспечивающих масштабируемость высокопроизводительных компьютерных систем. О выпуске второго поколения было объявлено в 2019 г. В настоящее время осуществляется массовый выпуск и внедрение соответствующих компьютерных систем.
(кликнуть мышью для увеличения картинки)
В данный момент высокопроизводительные серверные процессоры Intel Xeon Scalable второго поколения (продукция с прежним кодовым названием Cascade Lake), как и их предшественники, представлены модельными рядами Intel Xeon Platinum, Intel Xeon Gold, Intel Xeon Silver, Intel Xeon Bronze. Их модели отличаются и количеством ядер, и тактовыми частотами, а также рядом параметров, влияющих на скорость выполнения задач, требующих высокой производительности от компьютерных систем.
(кликнуть мышью для увеличения картинки)
Самыми мощными являются процессоры Intel Xeon Platinum. Они представлены моделями линеек 8200 и 9200.
Две линейки Platinum
В настоящее время в линейке Intel Xeon Platinum 8200 — 11 моделей. Среди них старшими являются модели с номерами 8280L и 8280. Они имеют по 28 вычислительных ядер, способных обрабатывать по 56 потоков с базовой тактовой частотой 2,7 ГГц и возможностью ее увеличения до 4,0 ГГц в режиме Turbo Boost. Из других особенностей следует отметить: кэш-память — 38,5 Мбайт, литография — 14 нм, расчетная мощность энергопотребления — 205 Вт, максимальный объем оперативной памяти DDR4-2933 с использованием до 6 каналов: — 4,5 Тбайт (8280L) и 4,0 Тбайт (8280), количество каналов UPI — 3, разъем — FCLGA3647, размер корпуса — 76,0 х 56,5 мм. Обеспечена, в частности, поддержка энергонезависимой памяти Intel Optane DC Persistent Memory (Intel Optane DC Persistent Memory), а также кодов ECC, до 48 линий PCI Express 3.0, наборов команд Intel SSE4.2, Intel AVX, Intel AVX2, Intel AVX-512, технологий Intel Deep Learning Boost (Intel DL Boost), Resource Director Technology (Intel RDT), Intel Hyper-Threading, виртуализации (VT-x, VT-d). Рекомендованная производителем цена модели Intel Xeon Platinum 8280L составляет $13012, Intel Xeon Platinum 8280 — $10009.
Еще большей производительностью обладают изделия линейки Xeon Platinum 9200.
(кликнуть мышью для увеличения картинки)
Эта линейка представлена пока (на момент данной статьи) четырьмя моделями. Их номера: 9282, 9242, 9222, 9221. Старшей моделью является Xeon Platinum 9282. Ряд параметров этих процессоров приведен в таблице.
Intel Xeon Platinum 9200
| Номер модели | 9282 | 9242 | 9222 | 9221 |
| К-во ядер/потоков | 56 / 112 | 48 / 96 | 32 / 64 | 32 / 64 |
| Тактовая частота, баз./макс, ГГц | 2,6/3,8 | 2,3/3,8 | 2,3/3,7 | 2,3/3,7 |
| Кэщ-память, Мбайт | 77 | 71,5 | 71,5 | 71,5 |
| Литография, нм | 14 | 14 | 14 | 14 |
| Расчетная мощность, Вт | 400 | 350 | 250 | 250 |
| Макс. частота памяти DDR4, МГц | 2933 | 2933 | 2933 | 2933 |
| Макс. число каналом памяти | 12 | 12 | 12 | 12 |
| Кол-во каналов UPI | 4 | 4 | 4 | 4 |
| Разъем процессора | FCBGA5903 | FCBGA5903 | FCBGA5903 | FCBGA5903 |
Производитель отмечает, что процессоры Intel Xeon класса Platinum ориентированы на ресурсоемкие критически важные рабочие нагрузки искусственного интеллекта, аналитики и гибридных облачных сред. Они обеспечивают оптимальный уровень производительности при возможности увеличения количества процессоров: 2, 4, 8 и более.
«Золотые», «серебряные» и «бронзовые»
Несколько меньшими возможностями обладают модели линеек Intel Xeon Gold (49 моделей с числом ядер от 4 до 28), Intel Xeon Silver (10 моделей с числом ядер от 8 до 16), Intel Xeon Bronze (2 модели с числом ядер 6 и 8). Однако и их возможности сравнительно велики и способны удовлетворить потребности многих потенциальных пользователей.
Процессоры Intel Xeon класса Gold обладают оптимизированной под рабочие нагрузки производительностью и повышенной надежностью, высокой скоростью памяти, большой ее емкостью и улучшенной структурой межсоединений, улучшенной масштабируемостью благодаря возможности использования 2 и 4 процессоров.
Процессоры Intel Xeon класса Silver — это оптимальная производительность и энергоэкономичность, увеличенная скорость памяти, средние вычислительные и сетевые ресурсы, а также ресурсы хранения данных.
Процессоры Intel Xeon класса Bronze — это доступная производительность для малого бизнеса и базовых систем хранения, аппаратные функции безопасности, надежные возможности масштабирования благодаря поддержке 2 процессоров.
Производительность платформ
Как показывают многочисленные результаты тестирования, процессоры Intel Xeon второго поколения обеспечили заказчикам значительное повышение производительности их компьютерных систем. При этом по оценке Intel, средняя производительность Intel Xeon Gold 2-го поколения в 1,36 раза выше по сравнению с аналогичным процессором Intel Xeon Gold 1-го поколения, а с учетом цен — в 1,42 раза выше. Более того, при использовании технологии Intel DL Boost модель Intel Xeon Platimum 9200 обеспечивает еще больший прирост.
(кликнуть мышью для увеличения картинки)
Важным достоинством данных процессоров является поддержка энергонезависимой памяти Intel Optane DC PM. Представленные в виде модулей, емкость которых, может достигать 512 Гбайт, они устанавливаются в слоты DRAM материнских плат. Указанные модули Intel Optane DC PM совместно с модулями DRAM позволяют довести полный объем оперативной памяти до 36 Тбайт. При этом комбинированная подсистема, обеспечивая высокие скоростные показатели, оказывается существенно дешевле по сравнению с решениями, предусматривающими использование только традиционных модулей DRAM.
Для повышения производительности компьютерных систем в указанных процессорах реализована поддержка технология Intel Deep Learning Boost. Это позволяет повысить выполнение задач искусственного интеллекта, что, учитывая стремительный рост данного сектора, является актуальным для многих потенциальных пользователей.
(кликнуть мышью для увеличения картинки)
Российские заказчики уже оценили преимущества новых платформ, созданных на основе процессоров Intel Xeon Scalable второго поколения.
Как утверждают специалисты Яндекс.Облака, данные процессоры стабильно показывают ускорение от 10 до 90%. Наборы команд AVX512 (Advanced Vector Instructions) и VNNI (Vector Neural Network Instructions) Intel Xeon Scalable 2-го поколения могут в два раза ускорить решение задачи машинного обучения и обработки изображений.
Компании Mail.ru Group удалось достичь уменьшения показателя TCO/performance почти вдвое — с 1.45 до 0.84 за счет перехода на 2-е поколение процессоров Intel Xeon Scalable (2х6230 / 12х16GB / 2×2TB-SSD). Таким образом, по оценке экспертов компании, повышение производительности системы окупило затраты на более высокую стоимость вычислительных решений в расчете на одно ядро.
Компания Axxonsoft отметила потенциал многократного ускорения исполнения соответствующих задач на 2-м поколении процессоров Intel Xeon Scalable благодаря появлению технологии Intel DL Boost. В результате первичного, неоптимизированного запуска обученной нейронной сети с использованием пакета инструментов Intel OpenVINO на сервере, созданном на базе процессоров 2-го поколения Intel Xeon Scalable c Intel DL Boost, было получено ускорение в 1,6 раз относительно системы на базе первого поколения соответствующей серверной платформы Intel.
Согласно тестам компании МТС, использование памяти Intel Optane DC PM в комбинации с процессорами Intel Xeon Scalable 2-го поколения позволяет добиться четырехкратного увеличения производительности при обработке крупных объемов данных. Компания SAP отметила сокращение времени загрузки системы, использующей постоянную память Intel Optane DC PM, в 12,5 раз, с 60 до 4 минут. Эксперты компании VMware обнародовали результаты тестирования постоянной памяти Intel Optane DC PM в двух режимах. В режиме «App-Direct» комбинация DRAM и постоянной памяти Intel Optane DC PM в совокупности предоставляет до 6 Tбайт памяти на 2 сокета и 12 Tбайт на 4 сокета. Результаты исполнения виртуализированных приложений на примере баз данных показали 16,6-кратное увеличение записи в БД в секунду до почти 96 Кбайт в секунду с помощью Intel Optane в режиме «App-Direct». Отдельное внимание заслуживают результаты в режиме «Память». Так, например, измеренная производительность приложений в виртуализированных средах VmWare по тесту VmMark 3.1 на серверах HPE ProLiant Gen10 с процессорами Intel Xeon Scalable 2-го поколения и постоянной памятью Intel Optane DC PM показала эквивалентную производительность на таких же серверах с обычной DRAM-памятью.
Третье поколение
В конце июня 2020 г. были представлено масштабируемое семейство процессоров Intel Xeon 3-го поколения. Новые процессоры были ранее анонсированы под кодовым наименовением “Cooper Lake”. Они делают возможным более широкое развертывание систем искусственного интеллекта (ИИ) на процессорах общего назначения для приложений, включающих классификацию изображений, механизмы рекомендаций, распознавание речи и моделирование естественных языков.
По прогнозам IDC, к 2021 году 75% корпоративных приложений будут использовать ИИ. К 2025 году, согласно оценкам IDC, примерно 25% всех данных будут генерироваться в реальном времени, при этом различные устройства Интернета вещей (IoT) будут отвечать за 9% этого объема.
В новых процессорах добавлена поддержка чисел с плавающей запятой формата bfloat16 в Intel DL Boost для улучшения производительности обучения нейронных сетей и построения логических выводов; bfloat16 — это компактный цифровой формат, который использует половину битов, как и современный формат FP32, но при этом достигает сопоставимой точности модели с минимальными изменениями программного обеспечения (если таковые требуются). Добавление поддержки bfloat16 ускоряет обучение ИИ и построение логических выводов на процессорах. Оптимизированные для Intel дистрибутивы bfloat16 поддерживаются в ведущих фреймворках глубокого обучения, в том числе в TensorFlow и Pytorch. Они доступны в инструментах Intel AI Analytics для ускорения глубокого обучения и вычислений. Также Intel внедрила оптимизацию bfloat16 в свой инструментарий OpenVINO и среду ONNX Runtime для облегчения логических построений.
Процессоры Intel Xeon Scalable 3-го поколения являются дальнейшим развитием 4- и 8-сокетных решений Intel. Процессор предназначен для выполнения рабочих нагрузок глубокого обучения, для работы в высокоплотных окружениях виртуальных машин (ВМ), для запуска баз данных в оперативной памяти, критически важных приложений, а также для аналитических нагрузок. Клиенты, обновляющие стареющие инфраструктуры, могут рассчитывать на средний ожидаемый прирост производительности в 1,9 раза в популярных рабочих нагрузках и до 2,2 раз больше ВМ по сравнению с 4-сокетными эквивалентами платформы пятилетней давности.
(кликнуть мышью для увеличения картинки)
В настоящее время в семействе процессоров Intel Xeon 3-го поколения — 15 моделей. Они представлены в линейках Intel Xeon Platinum 8300 и в линейках Intel Xeon Gold 6300 и Intel Xeon Gold 5300. При этом четыре старшие модели Intel Xeon Platinum 8300 являются 28-ядерными, а две старшие Intel Xeon Gold 6300 — 24-ядерными.
Итак, высокопроизводительные масштабируемые серверные процессоры Intel Xeon Scalable и созданные на их основе компьютерные платформы предоставляют широкие возможности для модернизации IT-инфраструктуры предыдущего поколения. И нет сомнений, что следующие поколения серверных процессоров Intel Xeon Scalable и соответствующие компьютерные системы будут обладать еще большими возможностями.