OpenAI начнет использовать данные сессий Daybreak Blue для обучения моделей 29 ноября, отменив исключение, которое ранее держало эту работу по кибербезопасности вне обучения. Участники программы Trusted Access узнали об изменении из письма. Это решение затрагивает неопубликованный анализ безопасности, который компании считали изолированным от улучшения моделей.
Изменение обучения для участников Trusted Access
По данным источника, первое письмо участникам программы Trusted Access подтвердило, что взаимодействия Daybreak Blue попадут в обучение с указанной даты. Раньше такие данные сессий полностью исключались из обучения. Это исключение действовало даже тогда, когда пользователи отключали настройку "improve the model for everyone". Таким образом, новая последовательность отменяет четкую границу между использованием продукта и развитием моделей.
Теперь механизм имеет два уровня. Общее использование сессий Daybreak Blue для обучения начинается 29 ноября по новой политике. Отдельно взаимодействия, отмеченные в ходе проверок безопасности, все еще могут использоваться в целях безопасности. После критики OpenAI направила второе письмо, пообещав отдельный отказ от более широкого использования для обучения. Использование в рамках проверок безопасности остается отдельным от этого пути отказа.
Реакция помогает объяснить сроки и корректировку. Источник описывает негативную реакцию как быструю после рассылки первого письма. Затем OpenAI направила второе сообщение с предложением дополнительного отказа. Для корпоративных покупателей такая двухэтапная схема показывает, насколько чувствительны изменения в данных обучения, когда речь идет о процессах безопасности. Одних формулировок политики оказалось мало для доверия, потребовался инструмент контроля.
Почему команды безопасности видят риск для исследований
Для компаний, которые проводят анализ угроз или разбор инцидентов в Daybreak Blue, практический эффект — это новое решение по управлению данными до 29 ноября. Юристы, служба безопасности и владельцы направления ИИ должны выработать общую позицию о том, может ли содержание сессий попадать в обучение и кто вправе активировать отдельный отказ. Небольшие фирмы без отдельной функции проверки ощутят это как дополнительную процедурную нагрузку. Крупные организации могут провести решение через существующие проверки модельных рисков и классификации данных.
Границы обещания требуют внимательного чтения при оценке поставщика. Отдельный отказ охватывает вновь объявленное использование для обучения, тогда как взаимодействия с пометкой проверки безопасности остаются доступными в целях безопасности. Из источника неясно, как срабатывает такая пометка, какой объем содержания сохраняет проверка и как использование в целях безопасности отделено от обучения возможностей. Эта новость сама по себе не означает, что каждая сессия будет reused, и не означает, что отказ снимает любое хранение.
Показателем станет то, получат ли участники Trusted Access отдельный отказ и воспользуются ли им до старта 29 ноября, а также уточнит ли OpenAI рамки хранения в ходе проверок безопасности. Доля отказов и любая доработка формулировок о проверках покажут, удержится ли граница на практике. Для бизнеса этот исход определит, насколько безопасно можно вести передовую работу по безопасности внутри контура моделей поставщика.
