Anthropic og AI-sikkerhed — Constitutional AI og ansvarlig AI-udvikling

Anthropic er AI-virksomheden bag Claude, grundlagt i 2021 af Dario Amodei, Daniela Amodei og en gruppe af tidligere OpenAI-medarbejdere. Det der adskiller Anthropic fra OpenAI og Google DeepMind er ikke primært teknologien, men missionen: Anthropic er grundlagt eksplicit med AI safety som kernefokus — ikke som et biprodukt, men som selskabets primære formål.

Backstory: Bruddet med OpenAI

Anthropics grundlæggere forlod OpenAI i 2021 delvist på grund af uenigheder om hastigheden og tilgangen til AI-sikkerhed. Dario Amodei var VP for Research hos OpenAI og en af de mest indflydelsesrige stemmer for mere forsigtig AI-udvikling.

Anthropic er struktureret som en “public benefit corporation” — en juridisk form der tillader virksomheden at prioritere sit mission over ren profit-maksimering. Det er ikke det samme som en non-profit, men det er en strukturel forpligtelse til et formål udover aktionærværdi.

Constitutional AI — metoden

Constitutional AI (CAI) er Anthropics centrale bidrag til AI safety-feltet, publiceret som forskningspaper i 2022.

Standard RLHF (Reinforcement Learning from Human Feedback) bruger menneskelige bedømmere til at evaluere modellers outputs og træne dem til at producere svar menneskerne foretrækker. Problemet: menneskelige bedømmere er dyre, langsome og inkonsistente.

CAI tilføjer et lag: modellen evaluerer sine egne outputs mod et sæt principper — constitutionen — og reviderer dem. Denne AI-genererede feedback (RLAIF — Reinforcement Learning from AI Feedback) supplerer den menneskelige feedback og gør træningsprocessen mere skalerbar og konsistent.

Constitutionen indeholder principper som:

• Vær hjælpsom, harmløs og ærlig
• Foretrær svar der er mere etisk acceptable
• Undgå indhold der kan skade mennesker

Hvad det betyder i praksis

For slutbrugere af Claude manifesterer Constitutional AI sig som:

Konsistent afvisning af skadelige requests. Claude er mere konsistent end GPT-4o i at afvise problematiske requests fordi afvisningsadfærden er trænet principbaseret, ikke blot case-baseret.

Forsigtighed i edge cases. Claude er mere tilbøjelig til at tilføje nuancer og forbehold i sensitive emner — en adfærd der er direkte afledt af “harmless”-princippet.

Ærlighedsmarkeringer. Claude markerer tydeligere hvornår den er usikker på information — en manifestation af “honest”-princippet.

AI safety som vækstende felt

Anthropic er ikke alene i AI safety — DeepMind har eget safety-team, OpenAI har Superalignment-programmet og der er uafhængige organisationer som Center for AI Safety og Alignment Research Center.

For SEO-praktikere er AI safety primært relevant som kontekst for at forstå Claudes adfærd og begrænsninger — og som baggrund for de reguleringsmæssige diskussioner der i stigende grad former AI-lovgivning i EU og USA.

---

Sidst opdateret: marts 2026. Denne artikel er en del af Stegger.dk’s SEO-ordbog.