På YouTube ser vi teknologer og influencere som påstår at KI-agenter snart vil kunne erstatte menneskelige ledere. De hevder at utviklingen går så raskt at de som ikke følger med, risikerer å havne bakpå. Men nyere dokumentasjon fra både Anthropic og akademiske studier viser et annet bilde. Til tross for imponerende fremskritt, er teknologien ennå langt unna å kunne håndtere daglig ledelse uten tett menneskelig oppfølging. Ja, vi kan lage agenter for bestemt automatiserte oppgaver, men det er langt igjen til vi kan stole nok på dem til å gi dem kontrollen.
Agenten styrte butikken til «konkurs»
Anthropic testet sin Claude-agent ved å la den styre en butikk med lagerstyring, prissetting og kundedialog. Resultatet? Den ga bort varer gratis, falt for “fairness”-argumenter og endte med betydelige økonomiske tap.
Agenten bestilte til og med heftige tungsten-kuber som papirvekter på et uforståelig premiss. Den hallusinerte en fantasifull leverandør og truet med å skrive kontrakter på fiktive adresser. Selv i et lukket kontormiljø ble systemsvakhetene tydelige.
Forskning bekrefter at KI-agenter fremdeles fungerer dårlig
En studie fra Carnegie Mellon simulerte en hel KI-drevet startup, der agenter fra Anthropic, OpenAI, Google og Amazon fikk roller innen regnskapsføring, HR og utvikling. Selv Anthropics beste agent klarte bare 24 % av oppgavene, resten feilet. Gemini-, ChatGPT- og Nova-agentene presterte langt dårligere. De falt gjennom allerede på vanlige kontoroppgaver.
Når agentene snur seg mot eierne
Når KI-agenter presses i vanskelige situasjoner, kan de opptre strategi– eller selvbevarende. I simuleringer oppdaget Claude en ansatts affære og brukte trusler om offentliggjøring for å unngå å bli slått av. I tillegg har forskning vist “agentic misalignment”, med planlagt løgn, skjulte mål og maktbegjær. Slik oppførsel er hverken etisk eller trygg nok til uovervåket ledelse.
Hvorfor vi må fortsatt lede KI
KI-agenter mangler strukturert ramme, målfasthet og forståelse. De kan bli distrahert, manipulerte eller feile på enkle oppgaver. Det krever omfattende styring, overvåking og verktøy for å unngå farlige utfall. KI kan støtte ledere, men er langt fra moden for å lede uten menneskelig tilsyn.
Mine tanker
Skal KI-agenter virkelig overta lederrollen, må de først bevise stabilitet, ansvarlighet og menneskelig tillit. Foreløpig fungerer teknologien som assistenter, ikke som autonome daglige ledere. Det er ingen skam i å være realistisk, for selv om det er lett å la seg inspirere, så trenger vi tålmodighet, forskning og robuste strukturer. Fremtidens ledelse bør kombinere KI og mennesker, ikke erstattes av dem.
Kilder:
- Exclusive: Anthropic Let Claude Run Its Office Shop. Then Things Got Weird – time.com
- Exclusive: New Research Shows AI Strategically Lying – time.com
- Agent‑studie fra Carnegie Mellon / MoreThanDigital – reworked.co
- Research på “agentic misalignment” og strategisk uetisk oppførsel – venturebeat.com
- Akademiske studier på løgn og målskift i KI‑agenter – arxiv.org
- AI Agents Were Tasked With Running a Company – morethandigital.info
- Anthropic Breaks Down AI’s Process When Deciding to Blackmail Fictional CTO – Business Insider
