ТехноСаратов → Блог

IBM анонсировала выход ИИ-ускорителей Spyre Accelerator

← Новости

Корпорация IBM сообщила, что с конца этого месяца специализированные ИИ-ускорители Spyre Accelerator станут доступны для серверов z17 и LinuxONE 5. В начале декабря этого года такие карты начнут устанавливаться и в системы POWER11. Информация о разработке Spyre Accelerator появилась в августе прошлого года, когда исследовательское подразделение IBM Research представило этот продукт. Ускорители предназначены для выполнения задач инференса с низкой задержкой, что делает их идеальными для генеративных приложений и ИИ-агентов.

Spyre Accelerator представляет собой плату расширения с интерфейсом PCIe 5.0 x16 и включает в себя нейропроцессор IBM с 32 ядрами, а также 128 ГБ памяти LPDDR5. Продукт состоит из 25,6 миллиардов транзисторов и изготавливается с использованием 5-нм технологии, при этом энергопотребление составляет 75 Вт.

IBM подчеркивает, что традиционные CPU и GPU сталкиваются с проблемами масштабируемости и производительности при работе с ресурсозатратными задачами в области ИИ. Ускорители Spyre Accelerator были разработаны для устранения этих недостатков. В системах POWER11 возможно объединение до 16 плат, а в z17 — до 48. В сочетании с процессорами Telum II, которые используются в z17 и LinuxONE 5, компании смогут одновременно запускать несколько ИИ-моделей, что обеспечивает локальный инференс и минимизирует обращения к внешним сервисам, снижая задержки и повышая безопасность. Потенциальными клиентами Spyre Accelerator могут стать финансовые учреждения, ритейлеры, государственные структуры, медицинские учреждения и промышленные предприятия.