09.2023 - 03.2024

Enklere tilgang på informasjon

For Helsedirektoratet

LLM
Embeddingmodeller
Python
FastAPI
Next.js
Azure
PostgreSQL

Endre August Krohn
Prosjektleder
Daniel Faaravik Schiøtz

Helsedirektoratet ønsket å utvikle en løsning som samler offentlig informasjon som er relevant for alvorlig syke barn på ett sted. For å løse dette behovet, lyste de ut en offentlig konkurranse gjennom DFØ sitt StartOff-program. Det kom inn tilbud fra totalt 21 leverandører, men vi gikk seirende ut med forslag om en løsning som bruker språkteknologi og AI for å generere artikler skreddersydd til hver enkelte familie.

Løsning

For å møte Helsedirektoratets behov har vi levert en omfattende ende-til-ende applikasjon som inkluderer all nødvendig funksjonalitet for å generere personaliserte helseartikler og administrere systemet effektivt.

Løsningen består av to hovedkomponenter:

  1. En brukerapplikasjon for sluttbrukere
  1. En adminapplikasjon for Helsedirektoratet og innholdsprodusenter

I kjernen av systemet implementerte vi en crawling-tjeneste som regelmessig henter oppdatert informasjon fra pålitelige kilder som Helsenorge, Lovdata og NAV. Denne informasjonen blir deretter prosessert og omgjort til embeddings ved hjelp av en AI-modell, noe som muliggjør presis sammenligning av tekster.

For å generere personaliserte artikler testet vi ut ulike open- og closed source språkmodeller, og landet på at OpenAI sine GPT-modeller var å foretrekke til tross for at håndteringen av personsensitiv data er mindre gjennomsiktig enn for eksempel LLaMa 2. Når en bruker beskriver sin situasjon, blir denne beskrivelsen omgjort til en embedding for å finne de mest relevante kildetekstene. Disse tekstene blir så brukt som kontekst for språkmodellen, som genererer en skreddersydd artikkel basert på brukerens behov.

Brukergrensesnittet for sluttbrukere er designet med fokus på brukervennlighet. Brukere kan enkelt beskrive sin situasjon, og raskt få tilgang til en personalisert artikkel. De har også mulighet til å gi tilbakemelding, lagre artikkelen, og utforske kildene.

Adminapplikasjonen gir Helsedirektoratet og innholdsprodusenter full kontroll over informasjonskildene og innsikt i systemets bruk. Funksjonaliteten inkluderer:

  • Oversikt over innhentede artikler
  • Mulighet til å aktivere/deaktivere informasjonskilder
  • Detaljert bruksstatistikk
  • Anonym oversikt over brukerforespørsler
  • Flagging av potensielle problemer for videre undersøkelse

For å sikre personvern og dataintegritet, har vi implementert en prosess der språkmodellen fjerner eller endrer all personsensitiv data før lagring. Løsningen er også utviklet i henhold til WAD og WCAG-standardene for universell utforming.

Videresalg

Fordi dette prosjektet er levert gjennom StartOff-programmet, sitter vi i Append Consulting på alle rettigheter til videresalg av produktet vårt, som vi i ettertid har døpt EKKO. Dersom din bedrift har et behov som ligner på Helsedirektoratets, eller andre behov som kan løses med lignende teknologi, kan vi altså gjenbruke hele eller deler av EKKO.

Systemutvikling
AI