Исследователи MIT разработали метод, который заставляет генеративные модели ИИ выдавать решения, удовлетворяющие обязательным требованиям безопасности, физическим законам или условиям конкретной задачи — так называемым жёстким ограничениям. Метод получил название HardFlow и работает на этапе развёртывания с предобученными моделями, такими как Stable Diffusion и FLUX, поэтому переобучение не требуется. Для бизнеса это важно потому, что снимает ключевой барьер для применения генеративных моделей в робототехнике, промышленном управлении и других сферах, где правдоподобный, но небезопасный ответ недопустим.
Что именно создали исследователи MIT
Работа описана в статье, опубликованной на этой неделе в IEEE Transactions on Pattern Analysis and Machine Intelligence. Старший автор — Navid Azizan, Alfred H. and Jean M. Hayes Career Development Associate Professor на кафедре машиностроения и в Institute for Data, Systems, and Society (IDSS), а также principal investigator Laboratory for Information and Decision Systems (LIDS). Ведущий автор — Zeyang Li, аспирант по машиностроению и сотрудник LIDS; вместе с ним в работе участвует Kaveh Alim, аспирант IDSS и LIDS. Команда проверяла HardFlow в робототехнике, управлении физическими процессами и компьютерном зрении.
В экспериментах, охватывающих роботизированные манипуляции, навигацию в лабиринте и редактирование изображений по текстовому описанию, HardFlow обеспечивал полное соблюдение ограничений и при этом стабильно превосходил базовые методы по качеству решения. Например, он позволил роботизированному манипулятору избегать столкновений с препятствиями и одновременно находить кратчайший путь к целевому объекту. Большинство конкурирующих методов либо приводили к столкновениям, либо находили пути, требующие значительно больше времени. Время вычислений у HardFlow было сопоставимым с большинством конкурирующих методов или ниже.
Что это значит для бизнеса
Практическое следствие в том, что компании могут добавить гарантии безопасности к генеративным моделям, которые уже используют, без создания новых моделей и сбора новых обучающих данных. На заводе планировщик траектории робота можно ограничить так, чтобы он избегал столкновений с людьми, но при этом оптимизировал маршрут по длине. Та же логика plug-and-play применима к управлению процессами и к генерации изображений, где нельзя нарушать определённые правила по содержанию. Для небольшой компании это снижает стоимость входа в автоматизацию с повышенными требованиями к безопасности, поскольку метод надстраивается над существующими предобученными моделями. Для крупного предприятия это уменьшает риск развёртывания генеративного ИИ в регулируемых средах.
Новость не означает, что генеративные модели становятся безопасными по умолчанию. HardFlow обеспечивает соблюдение ограничений, которые задаёт сам пользователь, поэтому качество этих формулировок остаётся ответственностью компании. Framework тестировали в исследовательских условиях, и его поведение в промышленных системах со множеством взаимодействующих ограничений в источнике не описано. Перед внедрением покупателю стоит выяснить, как задаются ограничения, как метод обрабатывает конфликтующие требования и укладывается ли время вычислений в возможности целевого оборудования.
Исследователи планируют расширить framework на сценарии, где можно обновлять и саму модель ИИ, чтобы соблюдение ограничений и качество выборки улучшались более адаптивно. Именно это расширение и будет маркером для наблюдения: если MIT покажет сочетание контроля ограничений с обновлением модели на реальной промышленной задаче, подход превратится из надстройки на этапе развёртывания в полный конвейер обучения и вывода. Для бизнеса это означало бы, что генеративный ИИ для критичных по безопасности задач становится стандартным компонентом, а не исследовательским проектом.
