Kas on turvaline lasta AI-agendil enda eest tegutseda?
See võib olla turvaline, kui AI-agendi ligipääs on piiratud, ta küsib enne tegutsemist luba ja sina loed enne kinnitamist, milleks loa annad. Ükski tööriist ei välista riske. AI-agent võib e-kirjast valesti aru saada või valida vale kirje. Seepärast jätab Monmo inimese otsustada, kas AI-agendi ettevalmistatud teave tohib ettevõttest välja minna.
Kontroll toimib kolmel tasandil. Sina valid, millele AI-agent ligi pääseb: ainult need rakendused, mille ühendad ja mille kasutamiseks talle loa annad. Sina otsustad, mida ta teha võib: olulised tegevused ootavad sinu kinnitust. Samuti saad tema tööd jälgida ja peatada: vaadata tema ekraani, võtta hiire üle või eemaldada ligipääsu.
Mida saab AI-agent teha luba küsimata?
Ettevõtte sees tehtav töö ei vaja kinnitust. AI-agent loeb, otsib, võrdleb, koostab mustandeid, analüüsib ja loob faile peatumata, sest ükski neist tegevustest ei muuda midagi väljaspool tema arvutit. See moodustab suurema osa tööst ja teebki AI-agendi kasulikuks: ettevalmistus on tehtud enne, kui sinult midagi küsitakse.
- E-kirjade, kirjete ja dokumentide lugemine rakendustes, mille kasutamiseks oled loa andnud
- Veebis uurimistöö tegemine oma brauseris
- Vastuste, postituste, aruannete ja pakkumiste mustandite koostamine
- Tabelite, esitluste ja dokumentide loomine oma arvutis ning nende hoidmine Librarys
- Osa ülesande andmine teisele AI-agendile ja tulemuse ootamine
Millisteks tegevusteks küsib AI-agent luba?
Sinu kinnitust ootavad e-kirja või sõnumi saatmine, maksmine, postitamine, avaldamine ning sinu rakendustes millegi loomine, muutmine või kustutamine. AI-agent valmistab kõik ette, peatub ja näitab kinnituskaarti. Sinu rakendustes ei juhtu midagi enne, kui annad loa. Kui keeldud, jääb tegevus tegemata.
Arvestada tasub kahe asjaoluga. Esiteks võid valida, et lubad teatud tüüpi tegevusi alati, ja selle loa hiljem seadetes tagasi võtta. See on sinu, mitte AI-agendi otsus. Teiseks ei vaadata iga klõpsu eraldi üle: brauseris uurimistööd tehes avab AI-agent lehti ja teeb otsinguid ilma kinnituskaardita. Rakenduse ühendamine iseenesest tööd ei alusta.
| Kinnitust vajav tegevus | Näiteks |
|---|---|
| Saatmine | Vastus kliendile või sõnum kolleegile |
| Maksmine | Lennupilet, tellimus või tarnija arve |
| Postitamine või avaldamine | Sotsiaalmeediapostitus, veebileht või tooteloend |
| Loomine | Uus arve, müügivihje või kalendrisündmus |
| Muutmine | Tehingu etapp, hind või tellimus |
| Kustutamine | Kirje, fail või kalendrisündmus |
Mida kinnituskaart näitab?
Kinnituskaart näitab nelja asja: mida AI-agent teeb, miks ja kus ta seda teeb ning mida pärast oodata. Kaart annab sulle otsustamiseks vajaliku teabe ilma, et peaksid rakendust avama. Seejärel annad loa või keeldud. Kui keeldud, ei muutu sinu rakenduses midagi ja saad AI-agendile öelda, mida ta peaks teisiti tegema.
| Kaardil | Mida see näitab | Näide |
|---|---|---|
| Mida | Tegevus ühel real | Saada klientidele 11 vastust |
| Miks | Põhjus, miks AI-agent soovib seda teha | Iga vastus on kooskõlas sinu tagasimaksetingimustega ja tellimus on kontrollitud |
| Kus | Rakendus ja konto, kus tegevus toimub | Sinu klienditoe aadress Gmailis |
| Mida oodata | Mis on pärast tegevust teisiti | Üksteist klienti saavad sinu aadressilt e-kirja |
Kuidas tegevuste kinnitamine partiina toimib?
Üks kaart võib hõlmata mitut sarnast tegevust, nii et kinnitad need üksteist korda kinnitamise asemel ühe korraga. Klienditoe AI-agent võib näiteks esitada ühel kaardil üksteist tavapärast vastust. Saad iga vastuse avada, sõnastust muuta ja seejärel kogu partii kinnitada. Kõik tavapärasest erinev, näiteks suur tagasimakse, esitatakse eraldi kaardil.
Partii turvalisus sõltub sellest, kui hoolikalt selle läbi vaatad. Esimestel kordadel ava iga üksus. Hiljem vaata läbi valim ja loe tähelepanelikult kõike, mis teistest erineb. Kui partiis on midagi, mida sa ise ei saadaks, keeldu ja selgita, miks, et järgmine partii oleks parem.
Kas saad AI-agendi tööd jälgida ja üle võtta?
Jah. Iga AI-agent töötab oma töölaual ja saad igal ajal tema ekraani otsevaates avada. Kui soovid mõne sammu ise teha, võta hiir üle. AI-agent ootab, kuni töötad, ja jätkab, kui annad ekraani tagasi. Hiljem saad üle vaadata tema tegevuse, kasutatud allikad ja loodud failid.
Kuidas ligipääsu eemaldada?
Saad igal ajal eemaldada AI-agendi ligipääsu rakendusele. Pärast seda ei saa ta seal lugeda ega tegutseda. Ligipääsul on kaks tasandit: sinu ühendatud konto ja see, millised AI-agendid seda kasutada võivad. Võid eemaldada rakenduse ühe AI-agendi kasutusest või katkestada konto ühenduse kogu tiimi jaoks. Samuti saad vaadata, parandada või kustutada seda, mida AI-agent on meelde jätnud.
Millised on kinnituste piirangud?
Kinnitus jätab otsuse sulle. See ei taga, et otsus on õige. Kui annad kaardil loa seda lugemata, saadetakse e-kiri või muudetakse kirjet. Mõnda tegevust ei saa tagasi võtta: saadetud e-kiri jääb saadetuks. Vastutus kinnitatud tegevuste eest jääb sulle, nagu ka siis, kui töötaja toob sulle töö allkirjastamiseks.
Kinnitused puudutavad tegevusi, mitte täpsust. Uurimistöö kokkuvõte või mustand ei vaja kinnituskaarti, kuid võib siiski sisaldada vigu. Seepärast kontrolli olulisi fakte enne, kui neile tugined. Alusta väikese riskiga tööst ja laienda AI-agendi ülesandeid, kui näed, et ta teeb neid õigesti.