Deltagelse fungerer kun, hvis folk har tillid til den. Når en borger tager sig tid til at dele en idé, besvare en spørgeundersøgelse eller give sin mening til kende om en plan, udviser vedkommende tillid – både til sin kommune og til de redskaber, som kommunen bruger til at lytte.

Derfor er vores arbejde baseret på den overbevisning, at vi skal udvikle systemer, som de borgere, vores regeringer tjener og rådfører sig med, har tillid til. Dette præger alle de beslutninger, vi træffer om den rolle, som kunstig intelligens spiller i vores software: hvad vi bruger den til, hvilke modeller vi stoler på, hvilke data de har adgang til, og hvor grænsen går mellem det, maskinen gør, og det, et menneske beslutter.

Denne side forklarer, hvordan AI fungerer i Go Vocal-platformen i dag. Det er et levende dokument, og vi vil fortsat opdatere det efter behov.

Fem forpligtelser danner grundlag for, hvordan vi har integreret AI i platformen:

AI ligger til grund for en række specifikke funktioner. Modellen bag hver enkelt funktion vælges specifikt til opgaven, så udbyderne varierer fra funktion til funktion:

Vi benytter os af to infrastrukturudbydere, som hver især hoster de førende modeller fra tredjeparter.

AWS Bedrock hoster og behandler en række tredjepartsmodeller udelukkende på Amazons infrastruktur. Disse modeller er ikke udviklet af Amazon; de stilles til rådighed gennem partnerskaber og kører i Bedrock.

Microsoft Azure OpenAI ligger til grund for vores avancerede sammenfatning, besvarelse af spørgsmål og visse former for automatisk mærkning i forbindelse med AI-analyse. Microsoft har indgået et partnerskab med OpenAI, der gør det muligt at hoste OpenAI’s modeller i Microsofts eget Azure-miljø. Det er vigtigt at bemærke, at denne implementering er fuldstændig adskilt fra OpenAI’s forbrugertjenester — den har ingen forbindelse til ChatGPT eller OpenAI’s offentlige API.

Microsoft får kun adgang til de data, der overføres til API’et, med det formål at overvåge, om der forekommer misbrug i strid med virksomhedens adfærdskodeks — ikke for at træne modeller og ikke til noget andet formål.

(Ovenstående modelversioner afspejler den nuværende produktion og vil ændre sig i takt med udviklingen inden for området.)

Vores AI-udbydere modtager udelukkende det tekstindhold, som en beboer har skrevet i et indlæg – en idé eller et svar på en undersøgelse. Dette sker, når en administrator eller projektleder åbner en side med undersøgelsesresultater eller bevidst vælger at igangsætte en AI-analyse af et idégenereringsprojekt.

Vi videregiver ikke oplysninger, der er gemt i en brugers profil — hverken e-mailadresse, brugernavn, billede eller demografiske data. Strukturelt set sender vi ikke personligt identificerbare oplysninger (PII) til disse udbydere. En bruger kan i nogle tilfælde skrive personoplysninger i sin egen bidragstekst, og det er netop denne tekst, der bliver analyseret. I forbindelse med sammenfatninger af kommentarer pseudonymiserer vi alle @-henvisninger, inden teksten behandles.

Både Microsoft og AWS giver os mulighed for at angive behandlingsregionen, og vi dirigerer hver enkelt kunde til den region, der ligger tættest på vedkommende. I dag anvender vores Azure OpenAI-funktioner to regioner — Europa (Sverige) og US East — mens AWS Bedrock kører i et bredere udvalg af regionale installationer.

Vi holder løbende øje med, hvilke topmodeller der er tilgængelige i de forskellige regioner, da de nyeste modeller ikke altid er tilgængelige i alle regioner på samme tid. Det kræver af og til, at vi tilpasser vores valg af model for at finde en balance mellem datalagring og ydeevne.

Nej. Begge underdatabehandlere angiver udtrykkeligt, at de ikke bruger de data, vi sender dem, til at træne eller forbedre deres modeller. Hvad angår Azure OpenAI, har Microsoft kun adgang til disse data med henblik på overvågning af misbrug i forhold til virksomhedens adfærdskodeks.

Alle udbydere behandler data i overensstemmelse med strenge privatlivsbetingelser: Data behandles i den region, vi angiver, der opbevares ikke mere end det, der er nødvendigt for at levere tjenesten, behandlingen er begrænset til det angivne formål, og vores aftaler overholder GDPR- og CCPA-standarderne. Når vi tilføjer eller udskifter en underdatabehandler, overholder vi vores databehandlingsaftaler og informerer om ændringen.

Ydeevne: I vores arbejde er nøjagtighed og pålidelighed ufravigelige krav, og de kommercielle frontier-modeller ligger stadig i spidsen på begge områder. Vi har testet alternativerne grundigt — OpenAI’s GPT-modeller, Llama, Googles Gemini, Mistral og andre — ved hjælp af Promptfoo som vores benchmark-rammeværk på tværs af flere datasæt fra den virkelige verden. Selv de bedste åbne modeller ligger stadig bag det nyeste inden for området i vores bedømmelse.

Omkostninger og hosting: De mest robuste åbne modeller er meget store og dyre at hoste selv, hvilket tvinger dig til at vælge mindre, mindre etablerede tredjepartsudbydere af hosting — det modsatte af den pålidelighed, vi søger — i stedet for den forbrugsbaserede prissætning, som de banebrydende kommercielle modeller tilbyder.

"Åben" betyder ofte kun delvist åben: Mange modeller, der betegnes som open source, udgives under en åben licens og i bedste fald ledsages af et whitepaper — men kun meget få af de modeller, der præsterer godt, er gennemsigtige med hensyn til deres træningsdata. Dette korpus samt den finjustering og de sikkerhedsdata, der ligger til grund for det, er uden tvivl det vigtigste element for at forstå, hvordan en model rent faktisk opfører sig. Mistral offentliggør for eksempel kun sine mindre modeller som open source, og kun slutresultatet; også virksomhedens bedste modeller er lukkede.

Vi følger udviklingen på dette område nøje, og vi er ikke bundet til nogen bestemt leverandør. Den dag, hvor en åben model er god nok til dette arbejde, skifter vi gerne over. Hvis en potentiel kunde eller en eksisterende kunde ønsker at drøfte en open source-løsning eller en alternativ model til deres implementering, er det en samtale, vi gerne tager imod — kontakt din Go Vocal-kontaktperson, så gennemgår vi sammen, hvilke muligheder der er.

Vi træner ikke vores egne modeller, så vores indflydelse på kernemodellernes adfærd er begrænset — der findes kun en håndfuld banebrydende modeller i verden. Det, vi kan kontrollere nøje, er, hvordan vi bruger dem, og det tester vi grundigt.

Specifikt med henblik på sammenfatning har vi opbygget 11 datasæt baseret på reelle undersøgelses- og idégenereringsprojekter, som vores kunder har gennemført, ved hjælp af anonymiserede beboerdata, der dækker flere sprog (engelsk, hollandsk, fransk, spansk, dansk, tysk). Derefter kørte vi vores sammenfatningsprompt igennem flere store sprogmodeller (LLM’er) og vurderede hvert resultat ud fra konkrete kriterier som nedenstående:

Vi kørte ni versioner af prompten. Den kombination, der giver flest point, er den, der følger med produktet. Ud over disse »hårde« evalueringer har vi brugt mange timer på kvalitativ gennemgang — vi har læst resultaterne og finjusteret prompterne på måder, der er sværere at måle, men som er lige så vigtige.

Vi er fuldt ud klar over teknologiens begrænsninger. Derfor er produktet bygget op omkring menneskelig vurdering, og eksperten er altid med i beslutningsprocessen.

»Human-in-the-loop« betyder, at selvom vi benytter avancerede modeller til analyse, er det stadig mennesker, der træffer beslutningerne og foretager valideringen. Konkret:

Det kan du se direkte i brugergrænsefladen:

Teknologien kommer bedst til sin ret, når den kombineres med den ekspertise, som de personer, der står for projektet, besidder.