Исследователи проверили шесть слоев контроля вокруг открытой языковой модели и выяснили, что рост точности достигался только за счет отклонения ответов, а не их исправления. На постах форумов медицинского характера базовый экстрактор давал верный ответ примерно в одном случае из трех, заявляя при этом полную уверенность в двух третях ответов. В число слоев входили детерминированные проверки, повторные запросы, голосование большинством, оценка второй моделью и проверка человеком. Для бизнеса результат важен потому, что наращивание проверок увеличивает объем ручной работы, не увеличивая число верных результатов.
Как шесть слоев проверили на записях CADEC
Для теста использовался корпус CADEC: 1 250 постов форумов о двух препаратах, где каждая побочная реакция размечена как фрагмент текста с кодом SNOMED CT. Модель не генерировала коды напрямую, а цитировала каждую реакцию, после чего поисковая система искала совпадения среди 227 554 строк «ключевое слово — код» из австралийского издания SNOMED CT от 31 июля 2026 года. Каждая цитата преобразовывалась моделью granite-embedding:30m в вектор из 384 измерений, а затем модели показывали меню из 20 ближайших понятий для выбора. Коды записывались через вертикальную черту, например 271782001 |Drowsy|. Авторы не строили настроенную систему под CADEC и использовали корпус лишь как измерительный инструмент.
Конфигурация конвейера была зафиксирована до сравнения слоев, причем три варианта получения кода измерили на 40 документах разработки в трех холодных запусках. Вспоминание кодов SNOMED по памяти оказалось неработоспособным: до 38 процентов записей получали пустой ответ, а от 13 до 18 процентов выданных кодов отсутствовали в любом выпуске SNOMED. Называние понятия с последующим поиском работало лучше, а лучшим оказался выбор из поискового меню. Выбранный экстрактор использовал gpt-oss:20b, который дал на 6,5 пункта F1 больше, чем llama3.1:8b. Четыре других семейства моделей давали побайтово одинаковый вывод, и лишь модель со смешанной экспертизой менялась между запусками.
Разброс между запусками задал порог шума для всех дальнейших выводов: три одинаковых запуска при нулевой температуре различались на четыре пункта F1. Два запуска совпали побайтово, а третий нашел 98 верных упоминаний против 87 у первой пары из 233 упоминаний, сгруппированных по фрагментам. Там, где все три запуска находили один фрагмент, совпадение кодов достигало 84 процентов, что указывает на нестабильность выделения фрагментов, а не кодирования. Авторы сохранили меняющуюся модель ради более высокого результата и далее приводили каждое изменение как диапазон за три запуска. Контролируемая система CONORM, дообученная на 875 из 1 250 файлов, достигла F1 0,72 при мягком сопоставлении против 0,47–0,50 у экстрактора без обучения.
Что это значит для бизнеса, использующего проверки LLM
Для компаний, обрабатывающих заявки, отчеты или медицинские записи, вывод меняет экономику контроля качества, а не выбор модели. Бесплатная словарная проверка подтвердила лишь 32 процента упоминаний с формулировками из словаря, убрав 128 ошибок ценой 49 верных ответов и 177 записей, отправленных на проверку человеку. На отложенной выборке из 60 документов пять из шести ответов с меткой ACCEPT оказались верными против одного из пяти среди остальных. Такая сортировка полезна для приоритизации, но небольшая команда получает большую очередь ручной проверки, а крупная компания оплачивает контроль без роста пропускной способности.
Платные слои добавили затраты без исправлений, и это влияет на оценку поставщиков и бюджет. Самоисправление почти никогда не срабатывало, голосование большинством по нескольким выборкам результата не улучшило, а вторая модель давала полезные заключения, на которые последующие шаги никак не реагировали. Удаление трех платных слоев изменило решения об отклонении на одну запись в одном запуске и ни на одну в двух других. Правило с оценкой по показанному меню дало F1 0,420 против 0,397 при отправке всего без проверок, и это единственное правило лучше базового уровня. Поэтому у поставщика следует спрашивать, что именно слой меняет в выводе, а не только что он отмечает.
Показателем подтверждения тренда станет публикация поставщиками метрики yield вместе с точностью, то есть доли верных ответов от всех записей. Если будущие продукты для надежности покажут более высокую точность без раскрытия числа отклоненных верных ответов и объема ручной проверки, картина из этого теста повторяется. Настоящим шагом вперед станет рост числа верных выданных ответов на фиксированном корпусе вроде CADEC при неизменной нагрузке на проверку. Пока эта метрика не движется, многослойная проверка остается механизмом сортировки.
