Vaše otázka: Je delegování práce na agenta bezpečné?
Bezpečnost je nejsilnějším argumentem pro přístup společnosti Microsoft a právě zde se ukazuje hodnota zkušeného partnera. Ve společnosti SoftwareOne je bezpečnost základem všeho, co děláme v oblasti moderního pracovního prostředí, a proto k agentní AI přistupujeme stejně: nevnímáme ji jako riziko, kterého bychom se měli obávat, ale jako schopnost, kterou je potřeba bezpečně aktivovat a řídit.
Dobrou zprávou je samotná architektura řešení. Cowork funguje kompletně v rámci bezpečnostního rámce Microsoft 365 a využívá vaše stávající mechanismy, jako jsou auditní záznamy, DSPM, eDiscovery, Insider Risk Management a Data Lifecycle Management. Je cloud-native (bez přístupu k lokálním souborům), z principu nemůže mazat vaše soubory a využívá kontrolní body s účastí člověka – tedy přístup „zero actions“, kdy je před jakoukoli citlivou externí akcí vyžadováno explicitní schválení uživatelem.
Rozumným bezpečnostním opatřením je oddělit fázi „výzkumu a přípravy návrhu“ od fáze „provedení a odeslání“.
Je však potřeba počítat s tím, že jde o skutečně novou kategorii rizik. Jak uvádí bezpečnostní poznámka společnosti Gartner® The Future of AI Security Is in Securing Agent Actions, Not Prompts, u agentní AI „hlavním rizikem není to, co AI říká, ale to, co AI dělá.“¹ Hranice ochrany se tak přesouvá od obsahu vstupních dotazů k akcím, které agent provádí.
Konkrétním rizikem je tzv. action injection – situace, kdy škodlivé instrukce ukryté v nedůvěryhodném e-mailu nebo dokumentu převezmou kontrolu nad agentem, který má přístup ke skutečným oprávněním. Tento typ rizika se více podobá chování malwaru (laterální pohyb, eskalace oprávnění) než běžné chybě chatbota.
Při obecné dostupnosti (GA) je třeba vzít v úvahu dvě oblasti: podpora Copilot DLP pro Cowork je stále ve fázi příprav a u tenantů ve Velké Británii a Evropské unii jsou základní modely Anthropic umístěny mimo hranice EU Data Boundary. Proto je Cowork v těchto prostředích ve výchozím nastavení deaktivovaný a vyžaduje cílené zapnutí administrátorem.
Nic z toho ale není důvodem, proč se Coworku vyhýbat – je to důvod jej aktivovat uvážlivě a s nastavenými pravidly řízení (governance).