OpenAI выявила две операции влияния из России и Ирана и заблокировала связанные с ними аккаунты ChatGPT. Российская кампания под названием Dark Clark получила оценку 5 из 6 по шкале Breakout Scale после того, как политики в Латинской Америке отреагировали на ее фабрикации. Это важно для бизнеса, поскольку злоумышленники внедряли выдуманные материалы в настоящие издания, а не ограничивались шумом в социальных сетях.
Как действовали Dark Clark и Bogus Bylines
Российская операция была нацелена на Латинскую Америку и распространяла дезинформацию с целью дискредитировать Украину и дестабилизировать местную политику. Операторы управляли аналитическим центром через вымышленную персону и, вероятно, вовлекли местных сотрудников без их ведома. Сфабрикованные аудиозаписи и документы затем вызвали проверки фактов и официальные опровержения в Эквадоре и Перу. По данным OpenAI, это первый случай категории 5 за два с половиной года ее отчетов.
Иранская операция под названием Bogus Bylines использовала семь вымышленных журналистов для размещения почти 100 статей о конфликте США и Ирана в онлайн-изданиях по всему миру. Эти персонажи также создавали комментарии для социальных сетей, однако такая активность почти не получила отклика. Различие между кампаниями показывает разные пути к одной цели: одна строила институциональное прикрытие, другая создавала авторские личности. Обе избегали крупных сетей ботов, описанных в прежних разоблачениях.
OpenAI отметила, что обе группы применяли ИИ главным образом для внутренней отчетности и адаптации пропаганды под разные языки. Такая схема отличается от опасений по поводу полностью автоматизированных ферм контента, выпускающих тысячи постов в день. Компания также напомнила о прежней российской кампании, построенной вокруг социальных сетей и фальшивого аналитического центра. В новых случаях акцент сместился на доверие, когда выдуманные истории распространялись через настоящие новостные бренды.
Что внедрение историй означает для доверия
Для компаний, применяющих ИИ в коммуникациях, продажах и исследованиях, сдвиг в сторону настоящих изданий повышает стоимость проверки. Сфабрикованный документ или аудиофайл, вызвавший официальное опровержение, может попасть в рыночный анализ, материалы проверки контрагентов или оценки региональных рисков до исправления. Небольшие фирмы ощущают это через зависимость от открытых источников, а крупные — через широкое присутствие на рынках. Наблюдение за региональными СМИ теперь требует такой же дисциплины, как мониторинг социальных каналов.
Ограничения этого разоблачения заслуживают внимания при выборе инструментов и процедур. OpenAI сообщила о блокировке аккаунтов и описала тактику, но не опубликовала полный список затронутых изданий или методику ретроспективной проверки. Эта новость сама по себе не означает, что какое-то конкретное издание скомпрометировано или что детекторы ИИ сами решают проблему. Покупателям стоит спрашивать поставщиков, как проверяется происхождение, как распространяются исправления и чем подтверждается атрибуция.
Показателем станет то, сообщат ли другие поставщики ИИ или наблюдатели о похожих внедрениях в устоявшихся СМИ в следующих циклах отчетности. Второй случай категории 5 или подтвержденная координация между платформами подтвердит, что внедрение через институции стало стандартной практикой. Такой исход заставит службы корпоративной безопасности и коммуникаций по умолчанию считать каждый документ без источника непроверенным.
