27 августа, 2019 
adminGWP 
Нa кoнфeрeнции Hot Chips 31 кoмпaния Intel рaскрылa сло вaжнeйшиx xaрaктeристик сeмeйствa ускoритeлeй нeйрoнныx сeтeй Nervana NNP-T к мaшиннoгo oбучeния (трeнирoвки). Ускoритeли Nervana NNP-T, чтo вaжнo знaть про дaльнeйшeгo пoнимaния, Intel рaзрaбaтывaeт вмeстe с китaйским интeрнeт-гигaнтoм кoмпaниeй Baidu. Вeрoятнo имeннo этoт фaкт oпрeдeлил выбoр прoизвoдствa чипoв Nervana NNP-T. Кaк oкaзaлoсь, прoизвoдствoм и упaкoвкoй этиx решений Intel занимается тайваньская честная) TSMC. В случае санкций, направленных вперерез сотрудничества американских и китайских компаний, TSMC может стать той тихой гаванью, идеже без помех смогут гармонично трудиться все заинтересованные стороны.
Ускорители Nervana NNP-T базируются в оригинальной разработке израильской компании Nervana, поглощённой Intel в 2016 году. Кодовое слава ускорителя Spring Crest. Приговор предназначено для масштабируемых и распределённых платформ глубокого машинного обучения ни дать ни взять для облачных сервисов, (на)столь(ко) и для запуска на пограничном (периферийном) оборудовании. Анонсированный чипилис относится к старшему сегменту и ориентирован получай масштабируемые платформы в составе центров за обработке данных. Традиционно в (видах этого сектора компания Intel предлагала универсальные платформы Xeon (Scalable) с поддержкой специальных ИИ-инструкций. Как-никак компания признаёт, что специализированные ускорители интересах ML и ИИ ― это самое правильное разгадывание с точки зрения удержания в приемлемых рамках энергетического и производительного бюджетов. Гвозди микроскопом есть забивать, но выходит западло и дорого.
Итак, ускорители Nervana NNP-T выпускает у них своя свад TSMC, для чего использует 16-нм техпроцесс CLN16FF+ и транзисторы FinFET. Упаковкой ускорителей равным образом занимается она, с применением компоновки 2.5D CoWoS (Chip-on-Wafer-on-Substrate). Стержневой кристалл Nervana NNP-T с вычислительными ядрами, памятью и интерфейсами площадью 688 мм2 располагается держи кремниевом мосту-подложке площадью 1200 мм2. Вискер окружают расположенные на мосту 4 микросхемы HBM2-2400 ёмкостью 8 Гбайт каждая. Проститутка ёмкость памяти Nervana NNP-T достигает 32 Гбайт со скоростью 2,4 Гбайт/с получи каждый вывод (1,2 Тбайт/с нате весь массив памяти).
Сердце компьютера Nervana NNP-T содержит до 24 тензорных ядер с суммарной производительностью 119 триллиона операций в помедли (TOPS). К центральному процессору разгадывание подключается 16-ю линиями шины PCI Express 4.0. К связи с соседними ускорителями используется интерфейс SerDes с 8 приёмопередатчиков по 8 линий и тот и другой. Всего 64 линии SerDes обеспечат выбор масштаба до 1024 узлов после 8 ускорителей в каждом. Тактовая колебание каждого тензорного ядра Nervana NNP-T может настигать 1,1 ГГц. Это даёт максимальное огромность потребления на уровне 250 Вт, дорого при необходимости потребление может браться удержано на уровне 150 Вт. Транзисторный смета старшего кристалла, кстати, 27 млрд стукко ключей. Графический процессор NVIDIA GV100 с его 21,1 млрд транзисторов отодвинут в сторонку.
Тензорные ядра в составе Nervana NNP-T объединены ячеистой сетью с малыми задержками. Рядышком с ядрами в сеть вплетена встроенная и распределённая в соответствии с кристаллу память SRAM общим объёмом 60 Мбайт (соответственно 2,5 Мбайт на каждое тензорное становая жила). Такая организация позволит навести погреб пересылку данных во показный пул памяти, хотя в подхвате у Nervana NNP-T на одной с ней подложке находится кроме 32 Гбайт памяти HBM2.
Добавим, безграмотный углубляясь в типы поддерживаемых ускорителем моделей обучения, почто Nervana NNP-T может ускорять оптимальным образом по образу многие существующие модели, беспричинно ещё и не придуманные, поелику тензорные ядра могут непременничать перепрограммированными удобным для владельцев образом. Поставки решения в виде PCIe-адаптеров и модулей в формфакторе OAM (Open Compute) начнутся в 2020 году.
Гнездо:
Опубликовано в рубрике