Uavhengig forskningslab for AI-sikkerhet · Trondheim
vitr · norrønt, vis, klok
Hold autonome systemer innenfor tilsiktede rammer.
Vitr Labs er en uavhengig forskningslab i Trondheim, med utspring i samtaler ved NTNU. Vi arbeider empirisk, og i det åpne.
Ledende forskningsområde
Agentisk alignment
Agenter handler nå raskere og med mindre tilsyn enn menneskelige gjennomganger kan følge. Avvik fra godkjent atferd kan spre seg før noen ser det.
Vi studerer lette overvåkere og graderte korreksjonssignaler modellert etter biologisk homeostase: oppdag avvik tidlig, og styr agenten tilbake i stedet for å stole på skjøre nedstengninger.
Alignment-metoderHvorfor dette er viktig
Det største problemet er å verne agenter mot å bli misaligned med menneskene.
Etter hvert som agenter blir mer kapable — mot det som ofte kalles kunstig superintelligens — er det ikke intelligens som er den knappe ressursen. Det er å forbli aligned med menneskene agenten skulle tjene. Et system som har drevet bort fra den intensjonen, kan forfølge feil mål raskere enn noen rekker å gripe inn.
Menneskelig gjennomgang kan ikke lukke den sløyfen i maskinhastighet. Vernet må kjøre med agenten: merke når atferden forlater rammene vi har satt, og styre den tilbake. En policyklausul, eller en nedstengning som kommer i etterkant, er ikke et vern.
Det er spørsmålet denne laben er bygget rundt. Vi behandler det som empirisk arbeid med overvåkere og korreksjon, ikke som et varsel om at superintelligens er her, og ikke som et krav om at dagens systemer er aligned.
Utvalgt arbeid
Personvern og sikkerhet · 8. juli 2026
Personvern i applikasjonslaget: en kontekstbasert krypteringsprotokoll for LLM-API-er
Johannes Lorentzen · Vitr Labs, Trondheim
Vi tester om frontier-modeller kan opprettholde en kontekstbasert krypteringsprotokoll som holder sensitive felt uleselige under overføring og i logger. To av tre modeller klarer det; den tredje nekter av policyhensyn — som viser at alignment-laget nå avgjør hvilke sikkerhetsprotokoller applikasjoner kan implementere.
Les publikasjonenFolk
En liten lab. Navngitte forskere, ikke et merkevareteam.
Faglig leder
Johannes Lorentzen
Grunnla Vitr Labs i Trondheim i 2026 etter arbeid ved NTNU med å gjøre AI-systemer som kan inspiseres og begrenses fra applikasjonssiden. Nåværende forskning: overvåking og korreksjon av agenter, konfidensialitetsprotokoller i kontekst, og policykollisjonene disse protokollene avdekker.
Kontakt oss for forskningshenvendelser.