En agent er en arbeidsflyt, ikke en ny kollega
Begrepet KI-agent gjør det lett å tenke på teknologien som en selvstendig medarbeider. Det er misvisende. En agent er en teknisk arbeidsflyt som tolker instrukser, henter informasjon fra avtalte kilder og eventuelt bruker verktøy. Den kjenner ikke virksomhetens uskrevne regler, forstår ikke konsekvenser på samme måte som et ansvarlig menneske og kan levere et overbevisende svar selv når grunnlaget er svakt.
Det første lederarbeidet er derfor å definere jobben. Hvilken hendelse starter oppgaven? Hvilket resultat skal leveres? Hvem bruker det videre? Hvilke kilder er godkjent? Hva får agenten lese, foreslå og utføre? Hvis disse spørsmålene ikke kan besvares, er oppgaven for uklar til å delegeres på en trygg og målbar måte.
Ta en agent som behandler nye henvendelser. Den kan klassifisere behov, hente relevant tjenesteinformasjon og foreslå et svar. Men den bør ikke automatisk love pris, kapasitet eller leveringsdato hvis disse opplysningene ikke finnes i en godkjent kilde. Rollebeskrivelsen må derfor skille mellom informasjon agenten kan gjengi, vurderinger den kan foreslå og forpliktelser bare en ansvarlig kan gi.
Gi oppgaven grenser som kan kontrolleres
Tilgang bør følge minste nødvendige omfang. En agent som lager et utkast, trenger ikke automatisk rett til å sende det. En agent som oppsummerer kundedata, trenger ikke tilgang til alle kunder. En agent som foreslår en endring, bør ikke kunne sette den i drift uten et avtalt kontrollpunkt. Dette er ikke bare sikkerhet; det gjør også feil enklere å avgrense og kostnaden ved oppfølging mer forutsigbar.
Kvalitetskravet må beskrives før agenten tas i bruk. For noen oppgaver handler kvalitet om riktige kilder og fullstendighet. For andre handler den om tone, responstid, regelverk eller om resultatet kan forklares. Definer også når agenten skal stoppe: manglende data, motstridende instrukser, høy konsekvens ved feil eller en forespørsel utenfor oppdraget.
Oppfølgingsarbeidet er en del av kostnaden. Hvis ansatte må lese hele grunnlaget på nytt for hvert forslag, er automasjonen kanskje plassert på feil sted. Kanskje agenten heller bør samle kilder, markere usikkerhet og forberede beslutningsgrunnlaget. Målet er ikke å fjerne mennesket, men å flytte menneskelig tid fra leting og kopiering til vurdering og ansvar.
Utvid ansvar først når kvaliteten er synlig
Start med én rolle, ett rapportformat og en tydelig ansvarlig. Registrer hva som måtte rettes, hvilke kilder som manglet og hvor ofte et menneske måtte overta. Da får ledelsen et faktisk bilde av kapasitet og kontroll. Flere agenter bør ikke innføres fordi teknologien gjør det mulig, men fordi én avgrenset flyt allerede er forstått og styrt.
Når oppgaven utvides, må rollebeskrivelsen, tilgangene og kontrollpunktene følge med. Agentarbeid blir verdifullt når virksomheten kan se hvem som eier resultatet, hvorfor en handling ble foreslått, og hvordan arbeidet kan stoppes eller flyttes tilbake til en manuell prosess. Det er ledelse av arbeid, ikke bare konfigurering av en modell.
En god kontrollflate viser oppgavekø, kildegrunnlag, avvik, ventende godkjenninger og stoppede saker. Den trenger ikke vise modellens indre teknikk. Den skal gjøre det mulig for en leder å se om arbeidet følger avtalt omfang, hvor kvaliteten svikter og om en agent bør få mindre, likt eller større ansvar.
Tre hensyn før dere går videre
- Kostnad
- Flere parallelle agenter kan øke kontroll- og feilrettingsarbeidet.
- Risiko
- Uklart ansvar gjør feil vanskeligere å oppdage og rette.
- Kontroll
- Navngi eier, godkjenner og stoppunkt før agenten får handle.
Skriv agentens rollebeskrivelse
- Definer én oppgave og ønsket resultat.
- List godkjente kilder og tillatte handlinger.
- Beskriv når agenten skal stoppe og eskalere.
Kilder og vurderingsgrunnlag
- NIST AI RMF Core National Institute of Standards and Technology · Styring, kontekstkartlegging, måling og løpende risikohåndtering.
- NIST AI Risk Management Framework National Institute of Standards and Technology · Frivillig rammeverk for styring av risiko gjennom hele livsløpet til KI-systemer.
