Vaša otázka: Je delegovanie práce na agenta bezpečné?
Bezpečnosť je najsilnejším argumentom pre prístup spoločnosti Microsoft a práve tu sa ukazuje hodnota skúseného partnera. V spoločnosti SoftwareOne je bezpečnosť základom všetkého, čo robíme v oblasti moderného pracovného prostredia, a preto k agentnej AI pristupujeme rovnako: nevnímame ju ako riziko, ktorého by sme sa mali obávať, ale ako schopnosť, ktorú je potrebné bezpečne aktivovať a riadiť.
Dobrou správou je samotná architektúra riešenia. Cowork funguje kompletne v rámci bezpečnostného rámca Microsoft 365 a využíva vaše existujúce mechanizmy, ako sú auditné záznamy, DSPM, eDiscovery, Insider Risk Management a Data Lifecycle Management. Je cloud-native (bez prístupu k lokálnym súborom), z princípu nemôže mazať vaše súbory a využíva kontrolné body s účasťou človeka – teda prístup „zero actions“, pri ktorom je pred akoukoľvek citlivou externou akciou vyžadované explicitné schválenie používateľom.
Rozumným bezpečnostným opatrením je oddeliť fázu „výskumu a prípravy návrhu“ od fázy „vykonania a odoslania“.
Je však potrebné počítať s tým, že ide o skutočne novú kategóriu rizík. Ako uvádza bezpečnostná poznámka spoločnosti Gartner® The Future of AI Security Is in Securing Agent Actions, Not Prompts, pri agentnej AI „hlavným rizikom nie je to, čo AI hovorí, ale to, čo AI robí.“¹ Hranica ochrany sa tak presúva od obsahu vstupných požiadaviek k akciám, ktoré agent vykonáva.
Konkrétnym rizikom je tzv. action injection – situácia, keď škodlivé inštrukcie ukryté v nedôveryhodnom e-maile alebo dokumente prevezmú kontrolu nad agentom, ktorý má prístup k reálnym oprávneniam. Tento typ rizika sa viac podobá správaniu malvéru (laterálny pohyb, eskalácia oprávnení) než bežnej chybe chatbota.
Pri všeobecnej dostupnosti (GA) je potrebné zohľadniť dve oblasti: podpora Copilot DLP pre Cowork je stále vo fáze príprav a pri tenantoch vo Veľkej Británii a Európskej únii sú základné modely Anthropic umiestnené mimo hraníc EU Data Boundary. Preto je Cowork v týchto prostrediach v predvolenom nastavení deaktivovaný a vyžaduje cielené zapnutie administrátorom.
Nič z toho však nie je dôvodom, prečo sa Coworku vyhýbať – je to dôvod aktivovať ho uvážlivo a s nastavenými pravidlami riadenia (governance).