AI-agenter: 22 spørgsmål og svar

En agent observerer sit miljø og handler for at nå et mål. Det afgørende er løkken: efter hvert skridt vurderer den selv, om målet er nået. Er det nået, leverer den resultatet. Er det ikke nået, vælger den næste skridt ud fra resultatet af det forrige.

Det er selvstændigheden i vejvalget — ikke intelligensen — der gør den til en agent. Rammerne bestemmer, hvor langt den må gå.

Kilde: Russell og Norvig (1995); Yao m.fl. (2022)

Model

Sprogmodellen, der ræsonnerer og vælger næste skridt.

Instruktioner

Systemprompt og opgave: rolle, mål og regler.

Værktøjer

Funktioner med navn, beskrivelse og inputformat.

Løkken

Koden, der kalder modellen, kører værktøjer og sender svar tilbage.

Hukommelse

Samtalehistorik i konteksten og eventuelt lager mellem opgaver.

Rammer

Rettigheder, sandkasse, stopbetingelser og godkendelse.

Kilde: Anthropic, Claude API-dokumentation: Tool use

Kun modellen. Løkken, værktøjerne, rettighederne og logningen er almindelig software.

Det er godt nyt, for det er netop i den almindelige software, man styrer agenten. Pålidelighed kommer ikke fra en bedre model alene, men fra at rammerne er bygget rigtigt.

Rammerne gør. En agent stopper, når målet er nået — men også ved et maksimalt antal gennemløb af løkken, ved en fejl eller ved et krav om menneskelig godkendelse før en bestemt handling.

Uden eksplicitte stopbetingelser kan en agent blive ved. Det er en af de billigste sikkerhedsforanstaltninger, man kan bygge ind.

Tag en lille driftsagent. Opskriften er den samme hver gang:

1. Beskriv et værktøj for modellen — en almindelig funktion med navn, beskrivelse og inputformat.
2. Giv målet i almindeligt sprog.
3. Sæt en stopbetingelse, for eksempel højst ti gennemløb af løkken.
4. Lad løkken køre: modellen vælger et værktøj eller svarer.
5. Kør værktøjet og send resultatet tilbage til modellen.
6. Når modellen ikke beder om flere værktøjer, er målet nået, og den leverer svaret.

import anthropic, requests
client = anthropic.Anthropic()

# 1 · Værktøjet: en helt almindelig funktion
def hent_status(url):
    try: return str(requests.get(url, timeout=5).status_code)
    except Exception as e: return f"Fejl: {e}"

# ... beskrevet for modellen: navn, forklaring, inputformat
tools = [{"name": "hent_status",
          "description": "Henter HTTP-status for en URL",
          "input_schema": {"type": "object", "required": ["url"],
            "properties": {"url": {"type": "string"}}}}]

# 2 · Målet, i almindeligt sprog
messages = [{"role": "user",
             "content": "Tjek om https://example.dk svarer."}]

# 3 · Stopbetingelsen: højst 10 gennemløb af løkken
for skridt in range(10):
    # 4 · Beslut: modellen vælger et værktøj eller svarer
    svar = client.messages.create(model="claude-opus-5",
        max_tokens=1024, tools=tools, messages=messages)
    messages.append({"role": "assistant", "content": svar.content})

    # 5 · Mål nået: den beder ikke om flere værktøjer
    if svar.stop_reason != "tool_use":
        print(svar.content[0].text)
        break

    # 6 · Handl og observér: kør værktøjet, send resultatet tilbage
    resultater = [{"type": "tool_result", "tool_use_id": b.id,
                   "content": hent_status(**b.input)}
                  for b in svar.content if b.type == "tool_use"]
    messages.append({"role": "user", "content": resultater})

import anthropic, requests
client = anthropic.Anthropic()

# 1 · The tool: an ordinary function
def get_status(url):
    try: return str(requests.get(url, timeout=5).status_code)
    except Exception as e: return f"Error: {e}"

# ... described for the model: name, explanation, input format
tools = [{"name": "get_status",
          "description": "Fetches the HTTP status of a URL",
          "input_schema": {"type": "object", "required": ["url"],
            "properties": {"url": {"type": "string"}}}}]

# 2 · The goal, in plain language
messages = [{"role": "user",
             "content": "Check whether https://example.dk responds."}]

# 3 · The stop condition: at most 10 passes through the loop
for step in range(10):
    # 4 · Decide: the model picks a tool, or answers
    reply = client.messages.create(model="claude-opus-5",
        max_tokens=1024, tools=tools, messages=messages)
    messages.append({"role": "assistant", "content": reply.content})

    # 5 · Goal met: it stops asking for tools
    if reply.stop_reason != "tool_use":
        print(reply.content[0].text)
        break

    # 6 · Act and observe: run the tool, send the result back
    results = [{"type": "tool_result", "tool_use_id": b.id,
                "content": get_status(**b.input)}
               for b in reply.content if b.type == "tool_use"]
    messages.append({"role": "user", "content": results})

Kilde: Anthropic, Claude API-dokumentation: Tool use · forenklet eksempel

Træk tabellen til siden for at se alle kolonner.

Fremhævet: væsentlig ændring fra forrige kolonne.

Generalitet er købt med lavere forudsigelighed. Det er roden til dagens dilemmaer.

Kilder: Campbell m.fl. (2002); Silver m.fl. (2018)

2 sek → 16 t

METR måler agenters tidshorisont på softwareopgaver: hvor lang en opgave de kan gennemføre med 50 procents sikkerhed. Den er vokset fra sekunder til omkring 16 timer og er fordoblet cirka hver syvende måned siden 2019 — hurtigere siden 2024.

To forbehold er vigtige: kræver man 80 procents sikkerhed i stedet for 50, er horisonten 5 til 10 gange kortere. Og METR kan ikke længere måle sikkert over cirka 16 timer.

Kilder: Kwa m.fl. (2025); METR, Time Horizon 1.0 og 1.1 · afrundede værdier

Holder tendensen, er opgaver på længden af en arbejdsuge — omkring 40 timer — inden for rækkevidde i 2026 til 2027.

Men det er en fremskrivning af en kurve, ikke en forudsigelse. Netop hvor hurtigt evnerne vil vokse, er et af de punkter, hvor der er reel faglig uenighed.

Kilder: Kwa m.fl. (2025); METR (2026), Time Horizon 1.1

Ja, i aktiviteten på GitHub:

• 180 mio.udviklere i 2025, 60 gange flere end i 2013.
• 1 pr. sekundOver 36 mio. nye udviklere kom til i 2025 alene.
• × 19.000flere projekter: fra ca. 33.000 i 2008 til 630 mio. i 2025.
• 121 mio.nye projekter i 2025 — den årlige tilvækst er fordoblet siden 2020.

AI-værktøjer sænker tærsklen for at skrive kode. GitHub kobler selv springet i nye brugere sammen med Copilot Free, der kom i slutningen af 2024.

Kilder: GitHub Octoverse 2017–2025; GitHub-blog (2013, 2018)

Autonomi er en skala, ikke et enten-eller.

Jo mere kritisk og irreversibel en handling er, jo tættere bør den menneskelige kontrol være. Frygt og begejstring handler ofte om forskellige tidshorisonter: de nære risici er konkrete og kan håndteres med kendte principper, mens de langsigtede er reelt omdiskuterede.

• Start med opgaver, der er reversible, så en fejl kan rulles tilbage.
• Giv agenten de mindst mulige rettigheder, og kør den i en sandkasse.
• Sæt stopbetingelser, så den ikke kan køre i ring.
• Log hvert skridt, så man bagefter kan se, hvad der skete, og hvorfor.
• Kræv godkendelse før irreversible handlinger.
• Mål fejl pr. skridt frem for at vurdere agenten på en god demo.

Det er præcis den slags arbejde, jeg laver: ikke prototypen, men det lag af rammer, logning og integration, der gør, at en agent kan stå i drift.

Tal med mig om en opgave Se Vision Lab