10.0 min čítanieDigitálne pracovisko

Pamäť agentov v Copilot Studio GitHub harnesse

ondrej-vysek-contact
Ondřej VýšekBusiness Development Executive – Digital Workplace & Security
Two women working on a laptop in an office.

Nové prostredie Copilot Studia postavené na GitHub Copilot harnesse prináša agentom výrazne lepšiu schopnosť plánovať zložitejšiu prácu, používať nástroje, spracovávať súbory a reagovať na priebežné výsledky. Reasoning a orchestrácia však riešia iba jednu časť problému. Agent môže byť veľmi schopný počas konkrétnej úlohy, a napriek tomu pri ďalšej konverzácii začať bez znalosti predchádzajúcej spolupráce.

Práve túto medzeru rieši funkcia Memory. Umožňuje agentovi zachytiť relevantné informácie z interakcií s konkrétnym používateľom, uložiť ich a využiť ich pri ďalšej práci. Výsledkom môže byť menej opakovaného vysvetľovania, konzistentnejšie výstupy a spolupráca, ktorá sa postupne prispôsobuje človeku, ktorý agenta používa.

Memory však nie je nekonečná história chatu, zdieľaná tímová znalostná báza ani podniková databáza. Ide o súkromný personalizačný kontext oddelený pre každého používateľa a každého agenta. Práve pochopenie tejto hranice rozhoduje, či pamäť prinesie hodnotu, alebo sa stane skrytou a nespoľahlivou závislosťou procesu.

Reasoning a pamäť riešia dve rôzne potreby

GitHub Copilot harness určuje, ako agent pracuje pri riešení úlohy. Z cieľa môže zostaviť plán, vybrať vhodné znalosti a nástroje, delegovať časť práce ďalším agentom a zmeniť postup, ak niektorý krok nevedie k očakávanému výsledku.

Memory rieši inú otázku: čo by si mal agent odniesť z tejto spolupráce do ďalšej konverzácie. Nejde o ďalšie trénovanie modelu ani o automatické učenie celej organizácie. Agent si uchováva vybrané signály, ktoré môžu neskôr vstúpiť do jeho kontextu.

  • Harness pomáha agentovi určiť, čo má urobiť teraz.
  • Memory mu pomáha zohľadniť, čo sa o konkrétnom používateľovi dozvedel skôr.
  • Knowledge poskytuje schválené informácie o organizácii, produktoch a procesoch.
  • Nástroje a podnikové systémy poskytujú aktuálne dáta a umožňujú vykonať akciu.

Schopný agent potrebuje tieto vrstvy správne kombinovať. Pamäť nenahrádza znalosti ani transakčný systém. Pridáva kontinuitu a personalizáciu tam, kde je to pre používateľa užitočné.

Memory je súčasťou nového prostredia Copilot Studia

Funkcia Memory je dostupná v novom prostredí Copilot Studia, ktoré používa GitHub Copilot harness. Autor túto funkciu pre konkrétneho agenta zapína samostatne na karte Build. Nejde teda o automatickú vlastnosť všetkých nových agentov.

Reasoning and memory address two different needs image 1

Táto väzba má praktický dopad na existujúce riešenia. Klasického agenta postaveného na Standard harnesse nemožno iba otvoriť a prepnúť na iný harness. Microsoft používa pre klasické a nové prostredie odlišnú architektúru a artefakty medzi nimi nemožno automaticky previesť. Požiadavka na doplnenie Memory k staršiemu agentovi tak môže v skutočnosti znamenať nový návrh a vytvorenie agenta v novom prostredí.

Dôležité obmedzenie

Memory nie je rozšírenie, ktoré možno bez ďalšieho zapnúť pri ľubovoľnom existujúcom agentovi Copilot Studio. Výber harnessu prebieha pri návrhu riešenia a môže ovplyvniť rozsah migrácie, testovania aj prevádzkové náklady.

Ako Memory funguje

Funkciu Memory možno opísať v troch krokoch. Každý používateľ má pre každého agenta so zapnutou funkciou Memory vlastný priečinok, kam sa informácie ukladajú. Agent doň počas práce zapisuje a pri neskorších interakciách z neho číta.


1  Capture

Agent zachytí relevantné signály, napríklad preferencie, opakujúce sa vzory alebo opravy.

2  Store

Vybrané informácie sa uložia ako súbory do pamäťového priečinka konkrétneho používateľa a agenta.

3  Apply

Pri ďalšej interakcii načíta uložený kontext a použije ho pri odpovedi alebo rozhodovaní.


Capture

Agent počas interakcie zachytí informácie, ktoré môžu byť užitočné v budúcnosti. Môže ísť o preferovaný jazyk, očakávanú štruktúru dokumentu, pracovný zvyk, opakujúcu sa požiadavku alebo opravu, ktorú používateľ poskytol.

Neznamená to, že sa automaticky ukladá kompletný prepis každej konverzácie. Zmyslom je zachytiť relevantné signály a kontext, ktoré môžu zlepšiť ďalšiu spoluprácu používateľa s agentom. .

Store

Zachytené signály sa ukladajú ako súbory v pamäťovom priečinku konkrétneho používateľa a agenta. Informácie sú uložené v dedikovanom priečinku v úložisku spravovanom Microsoftom v rámci tenantu. Pamäť jedného používateľa sa neprenáša na iného používateľa rovnakého agenta.

Apply

Pri ďalšej interakcii môže agent načítať uložené informácie a použiť ich ako súčasť kontextu. Môže automaticky zvoliť preferovaný jazyk, zachovať obvyklú štruktúru výstupu alebo zohľadniť predchádzajúcu opravu bez toho, aby používateľ musel rovnakú úpravu znova opakovať.

O tom, čo je relevantné a ako má byť informácia použitá, rozhoduje agent na základe inštrukcií, kontextu a priebehu práce. Memory je preto potrebné testovať rovnako dôkladne ako výber nástrojov, znalostí alebo modelu.

Praktický príklad pre presales agenta

Predstavme si interného agenta, ktorý pomáha pripravovať podklady pre zákaznícke ponuky. Pri prvej spolupráci používateľ vysvetlí svoje preferencie.

Príklad informácie pre Memory

Ponuky pripravujem v angličtine. Začni krátkym executive summary, potom uveď východiskovú situáciu zákazníka, navrhované riešenie, predpoklady, riziká a ďalšie kroky. Ceny uvádzaj v eurách. Nepoužívaj marketingové frázy a vždy zvažuj bezpečnosť, governance a licenčné dopady.


Bez trvalej pamäti musí používateľ tieto informácie opakovať v každej novej konverzácii alebo ich autor vloží do spoločných inštrukcií agenta. Spoločné inštrukcie však platia pre všetkých používateľov, hoci každý môže preferovať iný jazyk, formát alebo úroveň technického detailu.

Agent s aktívnou pamäťou môže pri ďalšom zadaní zohľadniť preferencie konkrétneho používateľa. Hodnota nie je len v pohodlnejšom chate. Agent môže byť konzistentnejší a človek sa môže sústrediť na samotný obchodný prípad namiesto opakovaného nastavovania spôsobu spolupráce.

Čo do Memory patrí a čo už nie

Najdôležitejšou otázkou pri návrhu agenta nie je len to, či zapnúť Memory. Je potrebné určiť, aké typy informácií má agent považovať za užitočné na uloženie do pamäte a ktoré hodnoty musí vždy získať z autoritatívneho zdroja.

Vhodné pre Memory Nevhodné ako jediný zdroj pravdy
Obvyklá štruktúra dokumentu alebo reportu Cena produktu, zmluvná hodnota alebo platnosť ponuky
Pracovné preferencie konkrétneho používateľa Schválenie, oprávnenie alebo záväzné procesné rozhodnutie
Opakujúci sa spôsob vyhodnotenia výsledku Auditný záznam alebo dáta s predpísanou retenciou
Relevantné opravy a spätná väzba Informácie spoločné pre tím alebo celú organizáciu
Dlhodobejší osobný kontext pre spoluprácu Údaje, ktoré musia byť vždy aktuálne a overiteľné

Pamäť je personalizačný kontext, nie systém evidencie. Kritické informácie musia zostať v Dataverse, CRM, ERP, SharePointe alebo inom riadenom systéme. Agent môže dáta načítať pomocou znalostných zdrojov alebo nástrojov, ale nemal by sa spoliehať na to, že ich aktuálna hodnota zostane zachovaná v Memory.

Päť vrstiev kontextu agenta

Memory možno ľahko zameniť s inštrukciami alebo znalostnými zdrojmi, pretože všetky tieto komponenty ovplyvňujú odpoveď. Ich účel je však odlišný.

Vrstva Čo rieši Príklad
Inštrukcie Ako má agent všeobecne pracovať Vždy uveď zdroje a upozorni na riziká
Knowledge Schválené informácie, ktoré môže agent použiť HR smernice, metodika, produktová dokumentácia
Memory Čo si agent pamätá o konkrétnom používateľovi Preferovaný jazyk a štruktúra ponuky
Podnikový systém Aktuálny a autoritatívny stav procesu Stav príležitosti, schválenie žiadosti, cena
Aktuálna konverzácia Čo používateľ rieši práve teraz Konkrétny zákazník a zadanie dokumentu

 

Praktická pomôcka

Znalostné zdroje (Knowledge) opisujú organizáciu a jej pravidlá. Memory opisuje spôsob spolupráce s konkrétnym používateľom. Podnikový systém opisuje aktuálnu skutočnosť.

Pamäť je súkromná pre používateľa a agenta

Každá kombinácia používateľa a agenta má vlastnú oddelenú pamäť. Agent pamäť vytvorenú používateľom nezdieľa s ostatnými používateľmi. Je to dôležité pre personalizáciu aj ochranu súkromia.

Zároveň to obmedzuje možnosti podpory a ladenia. Autor agenta nemá bežný obsahový pohľad do uloženej pamäte konkrétneho používateľa. Kritický proces preto nesmie závisieť od predpokladu, že Memory obsahuje určitú hodnotu. Agent musí byť schopný overiť dôležitú informáciu v podnikovom systéme alebo sa na ňu znova opýtať.

Memory je určená na komunikáciu 1:1

Používateľská pamäť je navrhnutá pre osobnú interakciu konkrétneho používateľa s agentom. V skupinových chatoch a kanáloch Microsoft Teams táto osobná Memory nie je aktívna. V tímovej konverzácii by navyše nebolo jednoznačné, čie preferencie alebo súkromný kontext má agent použiť.

Ak agent potrebuje uchovávať informácie spoločné pre oddelenie alebo projektový tím, tento kontext patrí do zdieľaného a riadeného zdroja, napríklad do Dataverse, SharePointu alebo tímovej znalostnej bázy. Memory nie je zdieľaná pamäť celej skupiny.

Agent po 28 dňoch neaktivity zabudne

Ak používateľ s agentom 28 dní nepracuje, systém odstráni jeho uložené informácie v pamäti pre daného agenta. Nejde teda o trvalé úložisko s neobmedzenou retenciou.

Táto vlastnosť pomáha obmedziť dlhodobé uchovávanie zastaraného kontextu, zároveň však potvrdzuje, že Memory nie je vhodná pre kritické procesné informácie. Agent musí mať náhradný postup v prípade, že pamäť chýba. Môže použiť predvolené správanie, získať dáta z riadeného zdroja alebo si potrebnú preferenciu znova vyžiadať.

Vypnutie Memory nie je jej vymazanie

Autor agenta môže Memory vypnúť pomocou prepínača na karte Build. Tým však už uložené informácie v pamäti neodstráni. Agent ich iba prestane používať.

  • Vypnutie mení správanie agenta a zabráni mu v čítaní uloženého kontextu.
  • Vymazanie odstraňuje konkrétne spomienky alebo celý obsah pamäte daného agenta pre používateľa.

Používateľ môže pri konverzačnom agentovi prirodzeným jazykom zistiť, čo si agent pamätá, požiadať o zmenu konkrétnej informácie alebo povedať agentovi, aby ju zabudol. Na hromadné zobrazenie a odstránenie spomienok slúži Memory Portal. Odkaz naň sa môže zobraziť pri prvej interakcii s agentom alebo na vyžiadanie.

Reasoning and memory address two different needs image 2

Agent Memory nie je Microsoft 365 Copilot Memory ani Work IQ

Microsoft používa pojem pamäť vo viacerých súvisiacich kontextoch. Pre správny návrh a governance je dôležité ich odlíšiť.

Oblasť Agent Memory Microsoft 365 Copilot Memory Work IQ
Rozsah Konkrétny používateľ a konkrétny agent Personalizácia Microsoft 365 Copilotu pre používateľa Priebežne aktualizovaný pracovný a organizačný kontext, ktorý zahŕňa vlastné vrstvy dát, pamäte a inferencie.
Účel Kontinuita a preferencie medzi interakciami s agentom Uložené spomienky, história chatu a vlastné inštrukcie Vyhľadanie, prepojenie a interpretácia pracovných signálov
Typické dáta Preferovaný formát, štýl, opravy a pracovné vzory Osobné preferencie pre Copilot Chat E-mailové správy, súbory, schôdzky, chaty, ľudia a projekty podľa oprávnení
Životný cyklus Odstránenie po 28 dňoch neaktivity s agentom Riadi sa pravidlami Microsoft 365 Copilot Memory Dynamický kontext nad aktuálnymi pracovnými dátami
Väzba Nové Copilot Studio a GitHub Copilot harness Microsoft 365 Copilot a Copilot Chat Inteligentná vrstva a API pre pracovný kontext

Agent Memory si pamätá spoluprácu konkrétneho používateľa s konkrétnym agentom. Microsoft 365 Copilot Memory personalizuje samotný Copilot. Work IQ poskytuje širší pracovný a organizačný kontext a obsahuje vlastné vrstvy dát, pamäte a inferencie.

Memory a Copilot Credits

Memory je dostupná v prostredí GitHub Copilot harnessu, ktorý používa účtovanie podľa spotreby prostredníctvom Copilot Credits. Zapnutie pamäte preto nezmení agenta na scenár zahrnutý v licencii Microsoft 365 Copilot. Agent ďalej beží na rovnakom harnesse a jeho používanie sa účtuje podľa skutočnej spotreby.

Microsoft neuvádza samostatnú sadzbu za jednu uloženú spomienku. Pre FinOps je preto vhodné sledovať celkovú spotrebu agenta. Tú ovplyvňuje návrh riešenia, frekvencia používania, zvolený model, počet krokov, nástroje, znalostné zdroje a ďalšie aktivované schopnosti.

Spotreba GitHub Copilot harnessu môže vznikať aj počas tvorby. Týka sa napríklad tvorby pomocou prirodzeného jazyka, Preview a evaluácií. Ručná tvorba agenta sa podľa aktuálneho prehľadu Microsoftu samostatne neúčtuje. Prevádzkový tím by preto mal sledovať nielen produkčný beh, ale aj vývojové a testovacie prostredia.

Teoreticky môže Memory znížiť počet doplňujúcich krokov, pretože agent nemusí opakovane získavať rovnaké preferencie a kontext. Či bude výsledný beh skutočne lacnejší, je však potrebné overiť meraním. Do spotreby vstupuje aj rozsah použitej pamäte, model, nástroje a celkový počet krokov.

FinOps pohľad

Memory nemá vlastnú cenu za jednu spomienku, ale je súčasťou agenta, ktorého prevádzka sa meria pomocou Copilot Credits. Rozpočet a monitoring je potrebné nastaviť pre celé riešenie, nie iba pre jednotlivú funkciu.

Ako Memory testovať

Testovanie pamäte by sa nemalo skončiť overením, že si agent niečo zapamätal. Je potrebné overiť celý životný cyklus informácií a správanie pri chýbajúcej alebo zastaranej pamäti.

  1. Používateľ agentovi oznámi jasnú a bezpečnú preferenciu.
  2. Agent preferenciu správne použije v aktuálnej interakcii.
  3. Používateľ začne novú konverzáciu.
  4. Agent použije preferenciu bez jej opakovania.
  5. Používateľ preferenciu zmení a agent začne používať novú hodnotu.
  6. Používateľ požiada agenta, aby informáciu zabudol.
  7. Agent ju v ďalšej konverzácii nepoužije.
  8. Používateľ skontroluje Memory Portal a overí uložený stav.
  9. Rovnaký scenár sa vykoná s iným používateľom, aby sa overilo oddelenie pamätí.
  10. Agent sa otestuje bez dostupnej pamäte a bezpečne použije predvolené správanie alebo si informáciu znova vyžiada.

Nové prostredie Copilot Studia ponúka karty Preview, Evaluate a Monitor. Preview je vhodné na rýchle interaktívne testovanie, Evaluate na opakovateľné scenáre a Monitor na sledovanie publikovaného agenta. Pri Memory je potrebné počítať s tým, že výsledok môže závisieť nielen od vstupu a konfigurácie, ale aj od uloženého kontextu konkrétneho používateľa.

Governance pre agentov s pamäťou

Memory môže zlepšiť personalizáciu, zároveň však vytvára nové otázky pre governance. Agent môže uchovať chybný predpoklad, zastaranú preferenciu alebo citlivý kontext, ktorý používateľ počas práce zdieľal. Organizácia by preto nemala Memory zapínať iba preto, že je k dispozícii.

Pred aktiváciou je vhodné odpovedať aspoň na nasledujúce otázky.

  • Akú konkrétnu hodnotu prinesie kontinuita medzi konverzáciami.
  • Aké typy informácií si agent smie pamätať.
  • Ktoré hodnoty musí vždy overiť v podnikovom systéme.
  • Ako budú používatelia informovaní o správe a mazaní pamäte.
  • Ako sa bude testovať zmena, oprava a zabudnutie informácie.
  • Čo agent urobí, keď Memory nie je dostupná alebo bola po neaktivite odstránená.
  • Či scenár skutočne prebieha v osobnej komunikácii 1:1.
  • Ako sa bude sledovať spotreba Copilot Credits.

Pamäť nesmie byť neviditeľnou závislosťou kritického procesu. Ak nesprávna alebo chýbajúca spomienka môže spôsobiť finančný, bezpečnostný alebo právny problém, agent musí dôležitú informáciu získať z autoritatívneho systému a používateľskú pamäť použiť iba ako doplnkový kontext.

Odporúčané princípy pri návrhu agenta

  • Zapínajte Memory iba tam, kde má personalizácia jasnú hodnotu. Nie každý agent potrebuje dlhodobejší kontext.
  • Definujte hranice v inštrukciách agenta. Opíšte, ktoré preferencie sú užitočné a ktoré údaje nemajú považovať za autoritatívne.
  • Overujte kritické dáta. Stav procesu, cenu, oprávnenie alebo schválenie vždy načítajte z riadeného systému.
  • Počítajte s chýbajúcou pamäťou. Agent musí fungovať aj po 28 dňoch neaktivity, po vymazaní spomienok alebo pri prvom použití, keď pamäť nie je k dispozícii.
  • Testujte opravu a zabudnutie pamäte. Nestačí overiť iba prvé uloženie preferencie.
  • Vysvetlite používateľovi kontrolu nad pamäťou. Musí vedieť, ako zobraziť, upraviť alebo odstrániť uložené informácie.
  • Sledujte spotrebu celého agenta. Memory je súčasťou usage-based riešenia na GitHub Copilot harness.

Kedy Memory použiť

Memory dáva najväčší zmysel tam, kde agent dlhodobo spolupracuje s konkrétnym používateľom a osobný kontext zlepšuje výsledok.

  • osobný pracovný asistent,
  • presales alebo sales asistent,
  • agent na prípravu dokumentov a prezentácií,
  • analytický agent s preferovanou štruktúrou výstupu,
  • kouč alebo vzdelávací agent,
  • agent na opakované plánovanie,
  • agent, ktorého štýl a spôsob práce používateľ priebežne upravuje.

Kedy nepoužiť v prvú vrstvu

Memory nie je vhodným riešením, ak má byť informácia spoločná pre ľudí, dlhodobo garantovaná alebo auditovateľná.

  • tímová znalostná báza a zdieľaná história oddelenia,
  • procesný stav a záväzné obchodné dáta,
  • auditná stopa alebo evidencia rozhodnutí,
  • dáta so špecifickou retenčnou politikou,
  • scenáre v skupinových chatoch a kanáloch Teams.
  • informácie, ktoré musia byť rovnaké pre všetkých používateľov,
  • údaje, ktorých správnosť musí byť overiteľná v každom okamihu.

Pre zdieľané znalosti použite Knowledge. Pre aktuálny obchodný stav použite podnikový systém. Pre pracovný kontext z Microsoft 365 použite Work IQ. Memory ponechajte na individuálnu personalizáciu a kontinuitu spolupráce.

Agent si nemusí pamätať všetko, aby bol užitočnejší

Memory posúva agenta v Copilot Studiu od jednorazového nástroja k dlhodobejšej spolupráci s konkrétnym používateľom. Jej hodnota nie je v tom, že agent uchová každú vetu. Hodnota spočíva v tom, že používateľ nemusí stále znova vysvetľovať svoje preferencie, opravy a obvyklý spôsob práce.

Zároveň je potrebné držať jasné hranice. Memory nie je databáza, tímová znalostná báza, auditná história ani záruka trvalého uchovania. Je to súkromný a časovo obmedzený personalizačný kontext, ktorý môže agentovi pomôcť konzistentnejšie spolupracovať s jedným používateľom.

Najdôležitejšia otázka preto nie je, či má agent zapnutú Memory. Dôležité je vedieť, čo si má pamätať, prečo to má hodnotu a čo musí vždy zostať v riadenom podnikovom systéme.

A group of people crossing a street.

Chcete začať využívať GitHub Copilot a Copilot Studio vo svojej organizácii? 

Pomôžeme vám pripraviť vhodné scenáre AI pre vaše prostredie M365 Copilot.

Chcete začať využívať GitHub Copilot a Copilot Studio vo svojej organizácii? 

Pomôžeme vám pripraviť vhodné scenáre AI pre vaše prostredie M365 Copilot.

Autor

ondrej-vysek-contact

Ondřej Výšek
Business Development Executive – Digital Workplace & Security