LinQ HPD - ИИ‑ускоритель для туманных вычислений и ЦОД

LinQ HPD – универсальный ускоритель для туманных вычислений и центров обработки данных

Модуль LinQ HPD предназначен для запуска ИИ-приложений и применения в области туманных вычислений, а также в стандартной инфраструктуре центров обработки данных.

LinQ HPD входит в линейку модулей ускорения LinQ стандарта PCI Express (PCIe). Скорость передачи данных до 8 Гбайт/с (8 линий) модулей LinQ HPD позволяет использовать его для выполнения инференса нейронных сетей в реальном времени с низкой задержкой, обеспечивая потоковую передачу входных данных и результатов инференса.

Ускоритель построен на базе двух тензорных процессоров LinQ H, что позволяет добиться максимальной производительности устройства при решении целевых задач.

Ключевые характеристики

• Сверхнизкая задержка при малом батче (текущий: 2,3 мс, возможность оптимизации до 1,5 мс для ResNet-50)
• Высокая эффективность на малом батче на CNN/Transformer моделях
• Нет сторонних IP в вычислителях (ARM, etc.)
• Оптимизаторы компилятора с элементами ИИ
• Программный стек собственной разработки
• Прямая интеграция с TF2
• Интеграция PyTorch через ONNX
• Пиковая производительность 48 TOPS (int8)
• Поддержка инференса нескольких моделей
• Форм-фактор PCIe Standard Height 3/4 Length
• PCIe интерфейс x16 PCIe Gen3
• Тактовая частота: 500-812 МГц (ПО управляема)
• Память: 32 ГБ DDR4 ECC
• Потребление: 60/70 Вт (типовое/пиковое)
• Watchdog Timer, Power Monitor, мониторинг температуры

Области применения

• Фото и видеоаналитика
• Компьютерное зрение
• Автономная навигация
• Городская безопасность
• Умное строительство
• Контроль производства
• Smart Grid
• Адаптивное обучение
• Предиктивное техобслуживание
• Промышленный интернет вещей (IIoT)

Смотрите также RSC ScaleStream-C GPU/TPU - модульная вычислительная платформа для ускорения задач искусственного интеллекта