Компания Patriot Memory анонсировала серию специализированных модулей памяти DDR5 и твердотельных накопителей PCIe M.2 2280 NVMe для локальных вычислений с использованием искусственного интеллекта, сообщает TechPowerUp.
Линейка, получившая название Patriot AI Matrix, разделена на уровни PRO, Mid и Entry в зависимости от того, на решение задач какой сложности ориентированы компоненты. На каждом уровне компания подбирает пары объём-скорость, чтобы согласовать затраты и возможность выполнения определённых рабочих сценариев с применением больших языковых моделей (БЯМ).
Компания планирует ежемесячно тестировать предлагаемое оборудование для оценки скорости обработки запросов, генерации токенов и устойчивости к высоким нагрузкам. В частности, модули DRAM должны стабильно работать в многоканальных конфигурациях при непрерывной генерации токенов и обработке контекста, а SSD-накопители выдерживать частые циклы чтения и записи. Специалисты Patriot Memory намерены обновлять данные по мере развития моделей, предоставляя системным интеграторам и разработчикам актуальные рекомендации по локальному развёртыванию ИИ.
Источник изображения: Patriot Memory
Уровень PRO ориентирован на системы для запуска БЯМ с количеством параметров от 34 до 70 млрд., Enterprise RAG, многоэтапный вызов инструментов, многоязычные рабочие процессы. В данной категории Patriot Memory предлагает M.2 NVMe SSD-накопитель AI Matrix MS560 с поддержкой PCIe Gen 5 в вариантах объёмом 1, 2 и 4 ТБ. Скорости последовательного чтения и записи в серии достигают 14 и 11 гигабайт в секунду соответственно. Кроме SSD в категории PRO представлены комплекты оперативной памяти AI Matrix MD57N DRAM общим объёмом 64 ГБ со скоростью до 6000 мегатранзакций в секунду.
Средний уровень Mid для запуска БЯМ (включая мультимодальные) с количеством параметров от 14 до 34 млрд., генерации кода, локальных помощников. В данной категории предлагаются SSD-накопитель AI Matrix MS450 с поддержкой PCIe Gen 4 и оперативная память AI Matrix MD55N DRAM со скоростью 6000 мегатранзакций в секунду в комплектах общим объёмом 32 ГБ. Скорость последовательного чтения и записи SSD-накопителей в серии достигает 5000 и 4500 мегабайт в секунду соответственно.
Начальный уровень Entry предполагает запуск БЯМ с количеством параметров от 7 до 14 млрд. для помощи в программировании, перевода и копирайтинга. Предлагаются SSD-накопители AI Matrix MS350 объёмом 512 ГБ, 1 и 2 ТБ с поддержкой PCIe Gen 3 x4. Скорости достигают 3000 и 2000 мегабайт в секунду на последовательных операциях чтения и записи соответственно. Также в категории доступна оперативная память AI Matrix MD35N и MD34N в комплектах по 32 ГБ. Скорость модулей DDR5 составляет 5600 мегатранзакций в секунду.
Цены и сроки начала продаж не уточняются.

