Раздел Технологии выходит при поддержке
Новый XL-Flash SSD от Kioxia получит скорость более 10 млн IOPS в рабочих нагрузках с малыми блоками. Это в три раза быстрее, чем пиковая скорость современных SSD.
Компания сообщила о разработке на корпоративной стратегической встрече в начале прошлой недели. Одним из узких мест производительности современных серверов искусственного интеллекта является передача данных между хранилищем и GPU с помощью центрального процессора, которое значительно увеличивает задержки. Kioxia разрабатывает новый контроллер, приспособленный именно для максимизации IOPS, который обеспечит графическим чипам постоянную 100% загрузку из-за быстрого доступа к данным.
Предложенный AI SSD будет использовать одноуровневую флешпамять XL-Flash (SLC), которая имеет задержку задержкой чтения всего от 3 до 5 микросекунд. Современные накопители на основе обычной 3D NAND предлагают от 40 до 100 микросекунд. также хранение одного бита на ячейку в SLC обеспечивает меньшее время доступа и большую выносливость, критические для задач ИИ.
Современные высокопроизводительные SSD для ЦОД обычно достигают от 2 до 3 млн IOPS, как в операциях случайного чтения 4 КБ, так и с 512 Б. Большие языковые модели обычно выполняют небольшие случайные обращения для выбора данных, параметров или записей базы. В этих сценариях меньшие блоки работают лучше, поэтому есть смысл использовать блоки 512 Б для работы моделей LLM и RAG.
AI SSD от Kioxia также будет оптимизирован для одноранговой связи между GPU и накопителем вне участия центрального процессора. Графические процессоры обычно работают с сопоставимыми интересами кэша памяти, поэтому считывание 512 Б лучше согласуется их конфигурациями. Выпуск Kioxia AI SSD запланирован на вторую половину 2026 года.
Источник: Tom`s Hardware
Раздел Технологии выходит при поддержке
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
