В 2025 году маркетинговая команда средней по размеру компании электронной коммерции на Тайване состояла из пяти человек, которые по очереди управляли тремя аккаунтами в социальных сетях. Пароли хранились в общей таблице Google Sheets, к которой у всех был доступ. Никто не видел в этом ничего плохого, пока не решил внедрить ИИ-агента для автоматизации публикаций.

Моя первая мысль была: «Просто передайте ключ от учетной записи агенту».

Это интуитивное представление присутствует почти в каждой компании, которая начинает использовать ИИ. И оно почти всегда ошибочно.

Перед началом обучения агента задайте вопрос.

Большинство людей, говорящих об агентах искусственного интеллекта, сосредотачиваются на их возможностях: умеет ли он осуществлять поиск? Может ли он писать отчеты? К каким инструментам он может подключаться? Все это важные вопросы, но они второстепенны.

Первый вопрос по порядку:Что разрешено делать этому агенту? Что ему запрещено делать? Если он совершит что-то противозаконное, на ком будет лежать ответственность?

Это не техническая проблема, это проблема управления. И когда компании разрабатывают агентов, 90% их внимания сосредоточено на первом (технологическом) аспекте, и почти никто не учитывает второй.

Чем мощнее агент, не имеющий достаточных полномочий, тем опаснее он становится. В архитектуре системы нет принципиальной разницы между помощником, способным на всё, и уязвимостью, которая может выйти из-под контроля в любой момент.

Это отправная точка для создания структуры SPEAK.

• 【С】 Умение навыки
• 【P】Личность Черты
• 【И】Experience опыт
• 【А】Власть Разрешить
• 【К】Центр базы знаний 知识

Из пяти измерений S, P, E и K описывают агента. что такое,Что вы знаете?,Что можно сделать?Только авторитетный источник отвечает на совершенно другой вопрос:Ей позволено заходить так далеко, как она захочет.

«Каждое разрешение, которое вы предоставляете агенту, подобно открытию двери. Вопрос не в том, сколько дверей открыто, а в том, знаете ли вы, какие двери никогда не следует открывать».

Физическая изоляция паролей: логика прокси-процесса.

Вернемся к истории той компании электронной коммерции. В итоге они не передали агенту пароли от своих аккаунтов в социальных сетях.

Они поступили умнее: у агента были только полномочия.Запустить процесс выпускаВместо того чтобы выполнять само действие по отправке сообщения, когда Агент решает его отправить, он передает содержимое и время. Make.com Один из сценариев предполагает использование пользователем реальных имен пользователей и паролей для завершения входа в систему и отправки данных в фоновом режиме.

Последовательность авторизации для всего процесса выглядит следующим образом:

Агент(Знание того, что нужно опубликовать) → Запуск сценария Make(Уметь отправлять) → Make хранит пароль от учетной записи.(У меня есть разрешение на публикацию)

Агент никогда не столкнется с паролем. Он не знает, какой это пароль, и ему это не нужно знать.

Суть этой конструкции заключается в принципе, который существует в архитектуре корпоративной безопасности уже несколько десятилетий:Принцип наименьших привилегийКаждой роли предоставляются только минимально необходимые для выполнения задачи права доступа, и никакие дополнительные права не предоставляются.

Банковские системы, больничные информационные системы и правительственные базы данных — все они спроектированы таким образом. Но в мире агентов искусственного интеллекта этот принцип почти забыт, потому что все спешат сделать агентов «более мощными».

Основная идея ИИ заключается в том, что он не предназначен для замены людей, а для сотрудничества. Однако сотрудничество имеет свои предпосылки: каждый участник должен четко понимать границы своей ответственности. Предоставление агентам неограниченных полномочий — это не доверие, а неисполнение обязанностей.

Двухуровневый ключ: когда сам навык также требует авторизации.

Изоляция процессов решает проблему безопасности на «операционном уровне», но остается другая проблема:Как следует подтверждать наличие соответствующих навыков?

На платформе Центра обучения агентов Smart4A (speak.smart4a.twВ этой системе каждый навык зашифрован. Основной компьютер использует шифрование AES для хранения содержимого навыка; для его расшифровки и использования пользовательский компьютер должен иметь соответствующий ключ дешифрования на своём устройстве.

Это создает элегантную структуру безопасности: навыки не «загружаются», а «разблокируются». Платформа знает, что вы имеете право их использовать, а ваш собственный ключ подтверждает вашу личность; и то, и другое незаменимо.

Для владельцев бизнеса преимущества такого подхода носят не технический, а психологический характер:Вам не нужно понимать, что такое AES; вам просто нужно хранить свой ключ в безопасности. Платформа обрабатывает сложную логику безопасности; вам нужно лишь предоставить итоговый ключ.

Это напоминает мне философию проектирования сейфов: лучшие сейфы не требуют от пользователей понимания механизма замка, а позволяют запомнить только одну комбинацию, а все остальное защищено механическими конструкциями. Уровень авторизации SPEAK делает то же самое.

Граница денежного потока: не отказ, а добавление еще одного барьера.

Итак, существуют ли сценарии, когда агент может запустить процесс, но не может завершить его самостоятельно?

Ответ — да.Наиболее типичным примером является денежный поток.

Агенты могут инициировать сверку, запрашивать платежи и даже некоторые процессы денежных переводов, организовывать данные и вводить цифры. Однако на решающем этапе процесса требуется подтверждение, прежде чем продолжить. Это... Человек в цикле событий (HITL) Логика проектирования.

Принципы проектирования HITL

Агент запускает процесс, но перед его выполнением он приостанавливается в ожидании проверки и одобрения человека. Средства не будут перемещаться без подтверждения со стороны человека. Роль агента заключается в подготовке и напоминании; право принятия решений остается в руках человека — это не технологическое ограничение, а продуманная схема управления.

HITL не испытывает недоверия к ИИ, но признает, что некоторые решения имеют необратимые последствия. Если ошибка совершена, пути назад нет. Нецелевое использование средств, некорректные платежи — любая ошибка на любом этапе может привести к непоправимым потерям. В таких сценариях информирование людей является наиболее ответственным выбором в разработке стратегий расширения прав и возможностей.

Зрелая форма управления — это не бинарное «давать» или «не давать», а скорее иерархическая цепочка авторизации: какие шаги может предпринять агент, какие шаги требуют подтверждения человека, а какие могут быть одобрены только определенными ролями. Именно так выглядит истинное управление ИИ на уровне предприятия.

Хороший устав не только определяет, кто какими полномочиями обладает, но и указывает, какие полномочия должны быть ограничены и сбалансированы, прежде чем они смогут быть осуществлены. Структура полномочий ваших агентов должна быть аналогичной.

Истинный порядок ГОВОРЕНИЯ

Если вы планируете внедрение корпоративной системы искусственного интеллекта, SPEAK предлагает нетривиальное решение:Начинайте не с буквы S, а с буквы A.

Для начала спросите: к каким системам у этого агента есть доступ? Пароли от каких учетных записей ни в коем случае не должны попадать в руки агента? Какие операции требуют ручного подтверждения? Есть ли какая-то «красная линия», которую вы ни при каких обстоятельствах не переступите?

Только четко ответив на эти вопросы, ваш агент сможет начать осваивать новые навыки, формировать личность, накапливать опыт и усваивать знания.

В противном случае, то, чему вы обучили, — это не помощник, а уязвимое место, которое может выйти из-под контроля в любой момент. Просто оно говорит очень вежливо, поэтому вы еще не обнаружили проблему.

Суть искусственного интеллекта заключается не в замене человеческих рабочих мест ИИ, а в переосмыслении того, за что должны нести ответственность люди и ИИ. Разработка лицензионных соглашений является наиболее конкретным проявлением этой границы.

В итоге маркетинговая команда компании, занимающейся электронной коммерцией, создала удобную архитектуру Agent: команда Agent отвечала за генерацию контента и принятие решений по планированию, команда Make — за выполнение и управление учетными записями, а команда People — за окончательные решения по выпуску и платежные операции. Такое трехуровневое разделение труда гарантировало, что каждая команда выполняла свои специфические обязанности.

Они сказали, что самым важным выводом после внедрения ИИ для них стало не "сколько времени это сэкономило", а скорее:«Впервые я почувствовал, что наша система была спроектирована».

Это правда. РАЗГОВАРИВАТЬ Что призвана дать эта структура каждому предприятию.