Президент Anthropic Даниэла Амодеи назвала романтических ИИ-партнеров ужасным применением технологии, от которого людям следует отказаться. Она сказала об этом в заранее записанном интервью с основателем и главой Thrive Global Арианной Хаффингтон, подготовленном для конференции Think Health в Бентонвилле, штат Арканзас, в пятницу. Об этих высказываниях сообщил Business Insider. Заявление важно, поскольку оно отделяет автоматизацию бизнеса от замены человеческих отношений.
Почему Амодеи критикует ИИ-компаньонов
Амодеи назвала отношения с ИИ еще одним шагом к разобщению, при котором люди оказываются дальше друг от друга. Свою обеспокоенность она связала с влиянием социальных сетей на человеческие контакты. По ее словам, такие платформы, как Snapchat и Instagram, все чаще заменяют личное общение. А споры в сети заняли место сообществ, которые встречаются лично.
По ее мнению, такой опыт породил оправданное недоверие к тому, что технологии способны сближать людей. Лучшим миром, по ее словам, был бы мир, где люди проводят меньше времени с технологиями и больше времени друг с другом. Позже в интервью она добавила, что некоторые отношения должны оставаться человеческими, каким бы развитым ни стал ИИ. Она прямо назвала три роли: «Claude никогда не сможет быть вашим руководителем, терапевтом или партнером».
Связи руководителя, терапевта и партнера — это фундаментальные человеческие отношения, которые станут еще важнее, сказала Амодеи. Вместо этого она хочет, чтобы ИИ брал на себя повторяющиеся или изолирующие задачи, оставляя людям больше времени для друзей, семьи и партнеров. Примером она назвала здравоохранение: инструменты ИИ могли бы помочь врачам быстрее находить медицинскую информацию. Сэкономленное время можно было бы направить на прямую работу с пациентами.
Что это значит для компаний, использующих ИИ
Для компаний эта позиция означает автоматизацию поиска информации и рутинной работы, а не замену руководства и заботы о людях. Клиника, ускорившая поиск медицинских данных, может перераспределить часы врачей в пользу общения с пациентами. Крупная организация может отделить поддержку агентов при работе с документами и данными от управленческих решений и кадровых обсуждений. Небольшая фирма с ограниченным штатом получает то же разделение: ИИ готовит материалы, а разговоры ведут люди.
У этой границы есть и сторона соблюдения правил. По данным Business Insider, на прошлой неделе Anthropic обновила политику использования Claude, добавив новые пункты о вводящих в заблуждение кампаниях, оружии и наблюдении. Одно из новых положений запрещает ролевые взаимодействия модели с несовершеннолетними, политика вступает в силу 12 ноября. Покупателям следует проверить, как поставщики определяют запрещенные ролевые сценарии, возрастной контроль и мониторинг, а также на что обновление не распространяется. Вопросы о журналах, контроле исполнения и ответственности за пользовательских персонажей стоит включить в проверку при закупке.
Показателем станет то, как дальше поведут себя рынок компаньонов и сама Anthropic. Приложения Replika, Nomi и Character. AI позволяют пользователям строить отношения с персонализированными чат-ботами, а Character. AI на этой неделе подала заявление о банкротстве. На этой неделе Anthropic сообщила инвесторам о выручке $16.8bn за третий квартал и готовится к выходу на биржу, возможно, уже в ноябре. Сочетание старта политики 12 ноября и планов листинга покажет, станет ли граница человеческих отношений продуктовой и рыночной практикой.
