I samarbejde med Delegate har Erhvervshus Fyn fået bygget deres egen platform, der giver de fynske virksomheder mulighed for at bruge sine egne, fortrolige data på en platform, der er sikker, tager hensyn til GDPR og som i øvrigt er skalerbar, og hvor indholdet til enhver tid kan løftes over i virksomhedens eget miljø, når de vokser ud af platformen.

Platformen er bygget ud fra en RAG-arkitektur. RAG står for Retrieval-Augmented Generation og kombinerer informationssøgning (retrieval) med tekstgenerering. Denne form for arkitektur bruges ofte til at besvare komplekse forespørgsler ved at trække på en stor mængde ekstern viden og generere præcise, kontekstuelle svar.

Platformen er bygget på Azure AI Services, og selvom vi tager udgangspunkt i GPT-modellerne, kan der i løsningen arbejdes med alternative sprogmodeller, så man ikke er låst fast til en bestemt sprogmodel. ”Faktisk er det i høj grad de deltagende virksomheders arbejde med deres egne vidensdata, der kan anvendes i modellen, som er et vigtigt udbytte for dem, og som de også vil kunne benytte i en helt anden Generativ AI-platform,” siger Erik David Johnson, Chief AI Officer i Delegate.

De fynske virksomheder uploader deres tekster og dokumenter til platformen. Her bliver den viden, man vil have AI’en til at arbejde med, lagret som et stort datasæt, hvori informationssøgningen vil foregå. Når de relevante dokumenter er fundet, bruges de som kontekst til en sprogmodel, f.eks. GPT, der genererer svar baseret på den fundne information. På den måde kombineres resultaterne fra retrieval-processen med modellens genereringskapacitet for at skabe et informeret og relevant svar.

Platformen lever op til krav for GDPR-regler og stærk sikkerhed. Upload af filer og anden adgang udefra kører via HTTPS og to-faktor login – evt. MitID. Ingen udefrakommende kan få adgang, og end ikke Erhvervshus Fyn kan se de tekster, der uploades af virksomhederne. Chatbotten er nem at sætte ind på egen hjemmeside, intranet eller hvor man måtte ønske at benytte den, og den kan målrettes intern brug eller vendes ud mod virksomhedernes egne kunder.