让AI智能体代您操作安全吗?
可以,但前提是限制智能体的访问权限、让它在操作前请求审批,并仔细阅读审批内容。没有任何工具能完全消除风险。智能体可能误读邮件或选错记录,因此 Monmo 会在智能体作出决定后、任何内容离开您的企业之前,让人来把关。
安全控制分为三层。您选择智能体能访问什么:只有您连接并授权给它的应用。您决定它可以做什么:重要操作需要等待您的批准。您也可以查看并叫停它:实时查看屏幕、接管鼠标或移除访问权限。
智能体无需审批可以做什么?
只在企业内部进行的工作无需审批。智能体可以持续阅读、搜索、比较、起草、分析和创建文件,因为这些操作不会改变它自己的电脑之外的任何内容。这是大部分工作,也是智能体有用的原因:在向您提出审批请求之前,准备工作已经完成。
- 在您授权的应用中阅读邮件、记录和文档
- 在自己的浏览器中进行网络调研
- 起草回复、帖子、报告和提案
- 在自己的电脑上制作表格、演示文稿和文档,保存在 Library 中
- 将部分任务交给另一个智能体并等待结果
哪些操作需要先审批?
以下操作需要等待您的批准:发送邮件或消息、付款、发帖、发布内容,以及在应用中创建、更改或删除内容。智能体会先做好准备,然后停下来显示一张卡片。在您同意之前,应用中不会发生任何操作;如果您拒绝,操作就不会执行。
有两点需要说明。第一,您可以选择始终允许某一类操作,之后也可以在设置中撤销。这由您决定,而不是由智能体决定。第二,并非每次点击都需要审批:智能体在浏览器中调研时,打开网页和运行搜索无需卡片。连接应用本身不会启动任何工作。
| 需要审批的操作 | 例如 |
|---|---|
| 发送 | 回复客户或给同事发消息 |
| 付款 | 支付机票、订阅或供应商账单 |
| 发帖或发布 | 发布社交帖子、网页或商品信息 |
| 创建 | 创建新发票、销售线索或日历日程 |
| 更改 | 更改交易阶段、价格或订单 |
| 删除 | 删除记录、文件或日历日程 |
审批卡片上有什么?
卡片会说明四件事:智能体要做什么、为什么做、在哪里做,以及操作后的预期结果。这些信息旨在帮助您无需打开应用就能作出决定。然后您可以同意或拒绝。如果拒绝,应用中的内容不会改变,您还可以告诉智能体应该如何调整。
| 卡片内容 | 说明 | 示例 |
|---|---|---|
| 做什么 | 用一行文字说明操作 | 向客户发送 11 条回复 |
| 为什么 | 智能体想要执行该操作的原因 | 每条回复均符合您的退款政策,订单也已核对 |
| 在哪里 | 执行操作的应用和账号 | 您在 Gmail 中的客服邮箱 |
| 预期结果 | 操作完成后会有什么变化 | 十一位客户会收到从您的邮箱发出的邮件 |
批量审批如何运作?
一张卡片可以涵盖多个相似操作,您只需审批一次,而不是十一 次。客服智能体可能会在一张卡片上列出十一条常规回复。您可以打开其中任意一条,修改措辞后再批准整批操作。不符合常规的情况,例如大额退款,会单独放在一张卡片上。
批量操作的安全程度取决于您审阅得是否仔细。最初几次请逐条打开查看。之后可以抽样阅读,并仔细检查与其他内容不太一样的条目。如果其中有您自己不会发送的内容,请拒绝并说明原因,帮助智能体改进下一批内容。
可以查看智能体的工作并接管操作吗?
可以。每个智能体都在自己的桌面上工作,您可以随时打开屏幕实时视图。如果您想亲自完成某一步,可以接管鼠标。智能体会在您操作时等待,您交还屏幕后再继续工作。事后,您可以查看工作记录、它使用的来源和创建的文件。
如何移除访问权限?
您可以随时移除智能体对某个应用的访问权限,此后它将无法在该应用中读取内容或执行操作。访问权限分为两层:您连接的账号,以及哪些智能体可以使用该账号。您可以移除某个智能体对应用的访问权限,也可以为整个团队断开该账号。您还可以查看、更正或删除智能体记住的内容。
审批有什么局限?
审批把决定权交给您,但并不保证决定正确。如果您没有阅读就批准卡片,邮件仍会发出,记录也会被更改。有些操作无法撤销:发出的邮件就是发出了。您仍需对批准的内容负责,就像对员工提交给您签字的工作负责一样。
审批针对的是操作,而不是内容的准确性。调研摘要或草稿不需要审批卡片,但仍可能有错误,因此在使用之前,请核实重要事实。先从低风险工作开始,随着您看到智能体能够正确完成任务,再逐步扩大它的工作范围。