Университет Vanderbilt распространяет управление идентификацией на ИИ-агентов, встроенных в институциональные процессы, заявил директор по информационным технологиям Шейн Каллахан на мероприятии Oktane компании Okta. Университет управляет доступом через систему OneVU на базе Okta, которая охватывает студенческие общежития, спортивные подразделения, собственную полицейскую службу и исследования объемом более $1 billion. Этот шаг важен, поскольку отдельные учетные записи агентов с ограниченным доступом сужают их возможности, но не дают ответа, кто отвечает, если агент выходит за установленные guardrails.
Множество ролей и ограниченные права агентов
Каллахан выступил в эфире theCUBE вместе с Кристoй Кейс из theCUBE Research и соведущей Ребеккой Найт, где обсуждались новые требования к идентификации и ответственность агентов. Он пояснил, что один человек может одновременно иметь несколько ролей в университете, приведя собственный пример студента, сотрудника и донора, каждому из которых соответствует свой профиль работы с системами. Отслеживать такие пересекающиеся профили безопасности очень сложно, отметил он. Именно эта сложность стала отправной точкой, поскольку программные агенты теперь действуют в той же среде, где у людей меняются права и affiliations.
Vanderbilt намерен вписать агентов в действующие механизмы контроля, а не создавать отдельный режим для ИИ. Каждый агент получает отдельную учетную запись с ограниченным доступом, которая определяет разрешенные данные, системы и действия и сразу сужает поле его работы. Новые инструменты проходят через существующую программу технологического отбора и межфункциональное управление, где данные идентификации обрабатываются так же, как в любой другой системе. По логике Каллахана, ИИ не требует перестройки управления с нуля, если процедуры отбора, согласования и надзора уже существуют и могут применяться повторно.
Фоном служит изменение отношений между людьми, институтами и технологиями по мере вхождения агентов в повседневные процессы. Vanderbilt ощущает этот сдвиг особенно остро, поскольку общежития, спорт, полицейская служба и крупные исследования имеют разные правила доступа и профили риска. На этом фоне Каллахан указал на пробелы в ответственности, которые не закрываются одними ограничениями доступа. Если агент выходит за guardrails и затрагивает другую группу или компанию, пока неясно, кто несет ответственность — оператор, поставщик инструмента или другая сторона, и покроет ли последствия киберстрахование.
Что учетные записи агентов меняют для бизнеса
Для компаний, внедряющих агентов, практическое следствие состоит в регистрации каждого агента как управляемой учетной записи с определенным объемом прав, владельцем и порядком проверки. Процедура закупок меняется меньше, чем ожидалось, поскольку та же форма отбора, проверка рисков и цепочка согласований, что применяются к программному обеспечению, фиксируют агента, его источники данных и разрешенные действия. В небольшой компании это может означать единый реестр и одного согласующего, который видит всю активность агентов. В крупной организации это требует координации служб безопасности, юристов и бизнес-подразделений, чтобы не появлялись дублирующие, избыточные или бесхозные учетные записи.
Один лишь контроль доступа не снимает рисков, поэтому перед внедрением нужно проверить ряд условий. Покупателям по-прежнему важно знать, как фиксируются действия агентов, как на практике enforced guardrails и что договоры говорят об ущербе третьей стороне. К поставщику стоит обратиться с вопросами о выдаче и отзыве учетных записей агентов, о защите от тихого расширения прав и о документировании инцидентов для страховщиков и аудиторов. Сама по себе эта новость не означает, что правила ответственности прояснены или что страховые полисы уже адаптированы к автономным действиям.
Показателем развития станет появление агентов в документах отбора технологий и в условиях страхования. Если в controles на базе Okta и во внутренних регламентах учетные записи агентов, объем прав и владельцы станут обязательными полями, а страховщики уточнят покрытие действий за пределами guardrails, модель перейдет от принципа к обычной деловой практике.
