Разделение потоков данных и управления, ортогональная схема без объединительной платы и ускоритель файлового доступа DataTurbo дают 10 млн IOPS и 500 ГБ/с на контроллерный шкаф. По данным Huawei, это в 8 раз быстрее ближайшей альтернативы; в тестах MLPerf A800 занимает первое место по общей производительности, по производительности на узел и на единицу стойки.
Масштаб
Кластер расширяется до эксабайтов и 512 контроллеров. Рядом с данными можно добавлять карты расширения с разными функциями. Huawei заявляет поддержку кластера из 100 000 ускорителей (xPU).
Вывод моделей
Долговременная память с многоуровневым KV-кэшем сокращает время до первого токена на 78% и повышает пропускную способность одного ускорителя на 60–67% (на странице Huawei названы обе цифры). Репозиторий знаний на десятки миллиардов векторов позволяет искать за миллисекунды при выводе.
Общие характеристики OceanStor A800
Данные производителя. Конфигурацию и стоимость рассчитаем под ваш проект.