Разоблачитель Theranos Тайлер Шульц заявил, что возможности ИИ, которых у компании нет или никогда не будет, подделать несложно. В подкасте PST издания The San Francisco Standard он предупредил, что на фоне притока денег в ИИ инвесторы рискуют поддержать новое мошенничество. Для покупателей и инвесторов вывод прямой: эффектная демонстрация еще не доказывает наличие технологии.
Почему Шульц видит в ИИ риск нового Theranos
Шульц беседовал с Тео Бейкером, который заменял ведущую Эмили Дрейфус. Интервью вышло на фоне нового внимания к Элизабет Холмс из-за фильма «You Can See Everything» Натана Филдера и Лэнса Оппенхайма о ее последних неделях перед тюрьмой. Бейкер спросил, повышает ли поток денег в ИИ риск повторения истории Theranos. Шульц ответил, что по-настоящему новое решение трудно отличить от того, что он назвал ChatGPT wrapper.
По его словам, у желающих ввести людей в заблуждение сейчас есть большие возможности, поэтому инвесторам нужно сохранять бдительность. Время, когда после 30-минутной встречи за кофе отправляли чек на 100000 долларов, должно закончиться. Он напомнил, как Холмс масштабировала эту слабую модель до 100 млн долларов, что он назвал крупнейшим ангельским раундом в истории. Формально инвесторы Theranos были жертвами, но он считает их и пособниками, чья слабая проверка дала ей власть, которой у нее не должно было быть.
Шульц также затронул защиту сотрудников, которые сообщают о проблемах внутри ИИ-компаний. Он отметил, что сферу ИИ регулируют немногие законы, и это затрудняет разоблачения. Соглашения NDA и о запрете негативных высказываний, подписанные многими сотрудниками технологических компаний, чрезмерно жесткие и, вероятно, незаконны, считает он. В Theranos он сам подписал несколько пугающих NDA, думал, что не может обращаться к юристу или регулятору, и связывался с регуляторами под вымышленным именем и с вымышленного адреса почты.
Что это значит для покупателей ИИ и инвесторов
Для компаний, покупающих или финансирующих ИИ, практический вывод — переход от доверия к демонстрации к проверке системы. Стоит просить тесты на собственных данных, доказательства принадлежности модели, описание ограничений интеграции и контакты клиентов. Небольшим фирмам без технических специалистов понадобится внешняя экспертиза перед сделкой, а крупные компании могут встроить проверку ИИ в действующие процедуры закупок и инвестиционных комитетов. Решение на базе ChatGPT wrapper может быть полезным, но его цену и безопасность нужно оценивать соответственно.
Отдельного внимания при выборе поставщика заслуживает обращение с сотрудниками, сообщающими о рисках. В интервью упоминались письмо двадцати демократов Палаты представителей в OpenAI по поводу уволенных специалистов по безопасности, сообщение The Wall Street Journal о проверке телефонов на предмет чатов Signal и показания бывших сотрудников лабораторий на слушаниях по ИИ в Нью-Йорке. Покупатели не могут разрешить эти споры, но могут спросить поставщика о порядке рассмотрения вопросов безопасности, оценки моделей и ухода сотрудников. Шульц отметил, что работники могут обращаться к регуляторам и юристам, причем часть юристов ведет такие дела за процент от взыскания, и сообщил о работе над доступностью этих ресурсов.
Признаком подтверждения тренда станет то, начнут ли фонды и корпоративные заказчики раскрывать глубокую техническую проверку перед крупными раундами и контрактами в ИИ. Сам Шульц ранее сообщал о проблемах руководству Theranos, топ-менеджерам и регулятору, прежде чем помочь журналисту The Wall Street Journal, а Холмс и Рамеш «Санни» Балвани около трех лет назад получили сроки более 11 лет и почти 13 лет. Если крупные чеки продолжат выписывать после коротких встреч, условия, которые он описал, сохранятся.
