Бывший консультант по чипам Тайо Адесанья запустил Lola Vision Systems в 2024 году, чтобы убрать узкое место периферийного ИИ: ручная подготовка модели под новое железо занимает около 200 часов еще до начала тестирования. Компания из Вашингтона создала компилятор, который превращает код клиента и модели в инструкции для чипа, а также разрабатывает собственные полупроводники. Для бизнеса это важно, поскольку быстрое внедрение позволяет ответственным операторам запускать более точные модели на собственных данных при меньшем энергопотреблении.
Компилятор и первые клиенты компании
Адесанья почти 12 лет помогал крупным производителям выбирать микрочипы и процессоры для ИИ, и эта работа сформировала его взгляд на спрос в вычислениях. Lola Vision Systems работает как поставщик инфраструктуры ИИ для вычислений на устройствах и предлагает альтернативу технологиям NVIDIA. Компания сообщает о дюжине корпоративных клиентов с письмами о намерении купить ее будущие чипы, а также об одном подписанном заказчике. Общий объем привлеченного финансирования составляет чуть более 1 млн долларов.
Базовый продукт принимает код клиента и выбранную модель ИИ, собственную или с открытым кодом, и преобразует их в инструкции для конкретного чипа. По словам Адесанья, слой компилятора перестроен так, чтобы автоматизировать операции, которые команды сейчас выполняют вручную. До выпуска собственных чипов компания будет лицензировать это программное обеспечение для существующего оборудования, чтобы раньше получить выручку. Она также заключила партнерство с программой SCALE, которая развивает кадры для микроэлектроники, чтобы работать с большим числом лабораторий.
Контекст — типичная стартовая точка многих производителей устройств: компактные модули NVIDIA Jetson или модели с открытым кодом. По словам Адесанья, такие связки часто не запускаются или плохо работают сразу, поэтому команды тратят дни и недели на базовый запуск, а затем еще недели на отладку. Далее энергопотребление превышает бюджет периферийных вычислений либо плате не хватает мощности для средних и крупных моделей. В итоге системы распознавания на камерах, дронах и похожей технике пропускают цели или неверно определяют объекты.
Что ускоренный запуск на устройствах дает бизнесу
Для аэрокосмических и других регулируемых операторов сокращение настройки меняет экономику проектов: инженеры могут тестировать более крупные и точные модели на закрытых данных без переноса работы в центр обработки данных. Меньшее энергопотребление упрощает непрерывную работу камер и дронов и снижает потребность в перепроектировании из-за тепла и батарей. Небольшие компании получают способ дойти до рабочего прототипа без крупной команды портирования, а крупные производители могут унифицировать внедрение на нескольких типах чипов.
При закупке нужно учитывать ограничения. Собственные чипы Lola пока недоступны, поэтому в ближайшее время покупатели оценивают программное обеспечение на сторонних чипах, а не готовый аппаратный комплекс. Точность, надежность и энергопотребление еще предстоит проверить на модели и плате заказчика, поскольку результат на устройстве зависит от сенсоров, данных и условий работы. У поставщика следует спросить, какие чипы и архитектуры моделей поддерживаются, что входит в тестирование, а также как оформляются обновления и документы для регуляторов.
Практический ориентир — выступление компании на TechCrunch Disrupt в Сан-Франциско 13-15 октября в составе Battlefield 200. Превращение дюжины писем о намерениях в платные лицензии на программное обеспечение, а затем в платные пилоты на существующем железе подтвердит спрос на сам компилятор. Адесанья сказал, что рассчитывает на встречи с инвесторами, поэтому следующими сигналами станут сообщения о финансировании и названных внедрениях.
