Ускоритель LinQ HP обеспечивает запуск ИИ‑приложений на периферии с минимальной задержкой и производительностью до 24 TOPS (int8). Модуль в форм‑факторе PCIe x8 оптимизирован для инференса CNN и Transformer‑моделей в реальном времени и отлично подходит для робототехники, компьютерного зрения и IIoT‑систем
LinQ HP - универсальный ускоритель для периферийных вычислений и робототехники
Модуль LinQ HP предназначен для запуска ИИ-приложений и применения в области периферийных вычислений и встроенных решений.
LinQ HP входит в линейку модулей ускорения LinQ стандарта PCI Express (PCIe). Скорость передачи данных до 8 Гбайт/с (8 линий) позволяет использовать модули LinQ HP для выполнения инференса нейронных сетей в реальном времени с низкой задержкой, обеспечивая потоковую передачу входных данных и результатов инференса.
Ускоритель LinQ HP построен на базе тензорного процессора LinQ H, что позволяет добиться максимальной производительности устройства при решении целевых задач.
Ключевые характеристики
- Сверхнизкая задержка при малом батче (текущий: 2,3ms, возможность оптимизации до 1,5 ms для ResNet-50)
- Высокая эффективность на малом батче на CNN /Transformer моделях
- Нет сторонних IP в вычислителях (ARM, etc.)
- Оптимизаторы компилятора с элементами ИИ
- Программный стек собственной разработки
- Прямая интеграция с TF2
- Интеграция PyTorch через ONNX
- Пиковая производительность 24 TOPS (int8)
- Поддержка инференса нескольких моделей
- Форм-фактор PCIe Standard Height Half Length
- PCIe интерфейс x8 PCIe Gen3
- Тактовая частота: 500-812 МГц (ПО управляема)
- Память: 16 ГБ DDR4 ECC
- Потребление: 25/35 Вт (типовое/пиковое)
- Watchdog Timer, Power Monitor, мониторинг температуры
Области применения
- Фото и видеоаналитика
- Компьютерное зрение
- Автономная навигация
- Управление роботами
- Предиктивное техобслуживание
- Промышленный интернет вещей (IIoT)
- Анализ медицинских данных
- Умный ретейл
Смотрите также RSC ScaleStream-C GPU/TPU - модульная вычислительная платформа для ускорения задач искусственного интеллекта
