Безопасно ли поручать действия ИИ-агенту?
Это может быть безопасно, если доступ агента ограничен, он спрашивает разрешения перед действием, а вы проверяете то, что одобряете. Ни один инструмент не исключает риски. Агент может неверно понять письмо или выбрать не ту запись. Поэтому Monmo предусматривает проверку человеком, прежде чем действие агента затронет кого-то за пределами вашей компании.
Защита устроена в три уровня. Вы выбираете, к чему агент получит доступ: только к тем приложениям, которые вы подключили и разрешили ему использовать. Вы решаете, что он может делать: важные действия ждут вашего одобрения. И вы можете наблюдать за его работой и остановить её: следить за экраном, взять управление мышью или отключить доступ.
Что агент может делать без разрешения?
Для работы внутри компании одобрение не требуется. Агент читает, ищет, сравнивает, готовит черновики, анализирует и создаёт файлы без остановки, потому что это ничего не меняет за пределами его компьютера. Так проходит большая часть работы: агент полезен тем, что готовит всё необходимое, прежде чем обратиться к вам.
- Читать письма, записи и документы в разрешённых вами приложениях
- Искать информацию в интернете через собственный браузер
- Готовить черновики ответов, публикаций, отчётов и предложений
- Создавать таблицы, презентации и документы на своём компьютере и сохранять их в Library
- Передавать часть задачи другому агенту и ждать результата
Для каких действий нужно разрешение?
Агент ждёт вашего разрешения перед отправкой письма или сообщения, оплатой, размещением или публикацией, а также перед созданием, изменением или удалением чего-либо в ваших приложениях. Сначала он всё подготовит, затем остановится и покажет карточку. Пока вы не разрешите действие, в приложениях ничего не произойдёт. Если отклоните — действие не будет выполнено.
Есть два важных уточнения. Во-первых, вы можете разрешить определённый тип действий на постоянной основе, а позже отменить это в настройках. Такое решение принимаете вы, а не агент. Во-вторых, проверяется не каждое нажатие: во время поиска информации агент открывает страницы и вводит запросы в браузере без карточки. Само по себе подключение приложения не запускает работу.
| Действие с запросом разрешения | Например |
|---|---|
| Отправить | Ответ клиенту или сообщение коллеге |
| Оплатить | Авиабилет, подписку или счёт поставщика |
| Разместить или опубликовать | Пост в соцсетях, веб-страницу или карточку товара |
| Создать | Новый счёт, лид или событие в календаре |
| Изменить | Этап сделки, цену или заказ |
| Удалить | Запись, файл или событие в календаре |
Что указано в карточке одобрения?
В карточке указано четыре вещи: что агент сделает, зачем, где и какого результата ожидать. Эта информация поможет вам принять решение, не открывая приложение. Затем вы разрешаете или отклоняете действие. Если отклоните, в приложении ничего не изменится, а вы сможете объяснить агенту, что нужно сделать иначе.
| В карточке | Что указано | Пример |
|---|---|---|
| Что | Действие в одной строке | Отправить 11 ответов клиентам |
| Зачем | Почему агент предлагает это сделать | Каждый ответ соответствует вашей политике возвратов, заказы проверены |
| Где | Приложение и аккаунт для действия | Ваш адрес службы поддержки в Gmail |
| Что произойдёт | Что изменится после действия | Одиннадцать клиентов получат письмо с вашего адреса |
Как работает одобрение группы действий?
Одна карточка может включать несколько похожих действий, чтобы вы одобрили их один раз, а не одиннадцать. Например, агент службы поддержки может собрать одиннадцать типовых ответов в одной карточке. Вы можете открыть любой из них, изменить текст и затем разрешить всю группу. Действия, которые не укладываются в общий шаблон, например крупный возврат, выносятся в отдельную карточку.
Безопасность группы действий зависит от того, насколько внимательно вы её проверите. В первые несколько раз открывайте каждый пункт. Позже можно проверять отдельные пункты выборочно и внимательно читать всё, что отличается от остального. Если в группе есть то, что вы сами не стали бы отправлять, отклоните её и объясните почему, чтобы следующая группа была лучше.
Можно ли наблюдать за агентом и взять управление?
Да. Каждый агент работает на собственном рабочем столе, и вы можете в любой момент открыть его экран и наблюдать за работой в реальном времени. Если хотите выполнить какой-то шаг сами, возьмите управление мышью. Агент подождёт, пока вы работаете, и продолжит, когда вы вернёте ему управление. После этого можно просмотреть историю действий, использованные источники и созданные файлы.
Как отключить доступ?
Вы можете в любой момент отключить доступ агента к приложению. После этого он не сможет читать данные или выполнять в нём действия. У доступа два уровня: подключённый вами аккаунт и агенты, которым разрешено его использовать. Можно отключить приложение для одного агента или отключить аккаунт для всей команды. Вы также можете просмотреть, исправить или удалить то, что агент запомнил.
В чём ограничения системы одобрения?
Одобрение передаёт решение вам, но не гарантирует, что оно будет правильным. Если разрешить действие, не прочитав карточку, письмо будет отправлено, а запись изменена. Некоторые действия нельзя отменить: отправленное письмо останется отправленным. Вы отвечаете за то, что одобрили, как если бы подписывали документ, который подготовил сотрудник.
Одобрение касается действий, а не точности. Для сводки по результатам поиска или черновика карточка не нужна, но в них всё равно могут быть ошибки. Поэтому проверяйте важные факты, прежде чем на них полагаться. Начните с задач с низким риском и расширяйте круг обязанностей агента по мере того, как убедитесь в качестве его работы.