ChatGPT er en integration af flere machine learning komponenter med en grafisk brugergrænseflade. Den ikke-videnskabelige forklaring på, hvordan ChatGPT virker er, at det er en mekanisme, der gætter på det næste ord afhængigt af, hvad der er kommet forud.

Det er derfor vigtigt at forstå, at ChatGPT ikke er en avanceret søgemaskine eller et leksikon. Der er ingen garanti for at det, ChatGPT danner som output, er faktuelt rigtigt.

En god og noget dybere gennemgang kan læses her:
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/  

Og hvis du er interesseret i, hvordan OpenAI selv præsenterer de tekniske detaljer, kan du se mere her:
https://www.youtube.com/watch?v=bZQun8Y4L2A  

Der er flere faktorer, der skal overvejes. Fælles er dog, at det afhænger af use casen. 

Ligesom anden teknologi skal generativ AI implementeres og vedligeholdes. Hvor store udviklings- og driftsomkostninger det medfører styres af hvad I ønsker at bruge teknologien til og hvordan I tænker det anvendt. Der kan være store forskellige i omkostninger afhængig af i hvilken udstrækning jeres use case ”forstyrrer” eksisterende systemer og processer.

Anvendelsen af selve teknologien medfører også omkostninger. Nedenfor gennemgås kun omkostningerne ved at bruge generativ AI ved at anvende de APIer leverandører af generativ AI giver adgang til. Omkostningerne ved andre tilgange til anvendelse af generativ AI kan afdækkes ved en yderligere analyse.

Prissætningen ved anvendelsen af APIer er drevet af mængden af data og/eller den beregningskraft der skal anvendes. Derudover afhænger det af typen af data I arbejder med – tekst, billeder etc.

På prissiden for Microsoft Azure OpenAI siden - https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service/ - er der givet en række eksempler for både tekst og billeder. 

Det kan være svært på forhånd at beregne hvor meget det vil koste at anvende tjenester som eks. Azure OpenAI – både under udvikling som erfaringsmæssigt kræver en række iterationer samt i en driftssituation. Det anbefales derfor at prøve use cases af for at danne sig et bedre estimat på omkostningerne.

Prompt angiver, hvad du sender som input til GPT-4 modellen, mens completion angiver, hvad GPT-4 returnerer som output.

”Tokens” er en måde at standardisere beregningen af mængden af tekst, der arbejdes med i generativ AI. I gennemsnit svarer 100 ”tokens” til 75 ord på engelsk. 

Hvor mange ”tokens”, der benyttes i jeres tilfælde, afhænger af den specifikke use case. Det anbefales derfor at prøve use cases af for at danne sig et bedre estimat på omkostningerne.

OpenAI forklarer ”tokens” således: https://help.openai.com/en/articles/4936856-what-are-tokens-and-how-to-count-them  

Generativ AI er i sig selv – isoleret set som teknologi – ikke farlig.

Teknologien er ikke i stand til af sig selv at påvirke mennesker, dyr, klima, etc. Det er vigtigt at huske på, at alt, som en kunstig intelligens udfører, er iværksat og dikteret af mennesker. Det udelukker dog ikke, at mennesker kan anvende generativ AI til at gøre skade – enten med overlæg eller utilsigtet. Det kan være inden for områder som f.eks. misinformation, cyberkriminalitet, etc.

(For skadelig i betydningen “farlig” – se svaret herover. Dette svar vedrører andre afledte effekter af generativ AI)

Teknologi generelt indeholder potentialet til at erstatte arbejde, der tidligere kunne udføres af mennesker. Hvorvidt og i hvilken udstrækning, generativ AI vil gøre det samme, er indtil videre forudsigelser, der er behæftet med store usikkerheder.

Det er dog vigtigt at huske, at ansvaret for at afbøde evtuelle negative konsekvenser er tredelt:

• Hvad kan og bør samfundet gøre for at støtte organisationer og borgere?
• Hvad kan og bør den enkelte organisation gøre for medarbejderne?
• Hvad kan og bør den enkelte medarbejder gøre for at sikre, at ens kompetencer er efterspurgte?

Generative AI-modeller bruger både meget store datamængder og store machine-learning modeller. Samlet set betyder det, at energiforbruget ved at udvikle og træne disse modeller samt holde dem kørende i daglig drift er betydeligt.

Udviklerne af disse modeller oplyser ikke detaljer om energiforbruget direkte, hvilket betyder, at energiforbruget skal estimeres. Der er mange usikkerheder forbundet med denne type estimater, men et bud findes her: https://towardsdatascience.com/chatgpts-electricity-consumption-7873483feac4 

Her estimerer Kasper Ludvigsen, at ChatGPT i januar 2023 forbrugte lige så meget strøm som 175.000 personer.

• hvilket problem løser den
• hvem der kommer til at bruge løsningen
• hvordan den skal anvendes etc. 

Adgangen til Microsoft Azure OpenAI tjenesten er pt begrænset og der skal søges om adgang. Det kræver at du har en Azure konto og en aktiv subscription. Med det i hånden kan du søge om adgang her: https://aka.ms/oaiapply  

Output fra generativ AI-modeller kan tænkes som en kombination eller forlængelse af al det inputdata, der er anvendt til at træne modellerne. Der er som udgangspunkt ingen kontrol eller sikring, om det output, der dannes, er faktuelt korrekt. 

Der er som udgangspunkt heller ingen kvalitetssikring af output. Således led de første generative AI-modeller under, at det var tydeligt at se, at output ikke var dannet af mennesker. Der er dog sket en betydelig udvikling i modellernes evne til at producere output af højere kvalitet. Der gives dog ingen garantier, og for eksempel ift. billeder er dannelse af hænder på generativ AI billeder stadig en udfordring.

Endelig gør virksomheder som for eksempel OpenAI og Stability.ai en stor indsats for at sikre, at output er fri for bias, indhold der er stødende og/eller ulovligt etc. Der kan dog være eksempler, hvor dette ikke lykkedes fuldt ud.

For de teknisk kyndige organisationer har det været muligt at bygge løsninger med ChatGPT-lignende funktionalitet, siden der blev givet adgang til GPT-modellerne.

For nylig har Microsoft åbnet op for funktionaliteten som en del af deres Azure OpenAI services. Det er der mere information om her: https://techcommunity.microsoft.com/t5/ai-cognitive-services-blog/introducing-azure-openai-service-on-your-data-in-public-preview/ba-p/3847000  

Det væsentlige her er, hvad du har lækket, hvem det er sket til, og hvordan du har videregivet data.

Ift. hvad du har lækket, er der forskel på fortrolige og følsomme oplysninger. Fortrolige oplysninger er ofte virksomhedsspecifikke informationer som eksempelvis kommende investeringer, forskningsområder, strategiske tiltag etc.

Følsomme oplysninger er oftest informationer om personer – eks. kunder eller medarbejdere. I begge tilfælde bør du konsultere den person i din organisation, der har ansvaret for det enkelte område. Det vil oftest være den it-sikkerhedsansvarlige eller jeres DPO.

Ift. hvem lækket er sket til, er der forskel på, om du har benyttet dig af en ekstern tjeneste hos eks. Microsoft Azure OpenAI eller Midjourney. Eller om det er en løsning, din organisation har bygget selv. I førstnævnte tilfælde afhænger dine muligheder af den enkelte udbyders politik og retningslinjer. Nogle udbydere sletter data, der sendes til dem efter et stykke tid under visse forudsætninger. Hvis det er en løsning, din organsation selv har etableret, skal du henvende dig til din virksomheds it-sikkerhedsansvarlige eller DPO.

Endelig er der forskelle i, hvordan data behandles afhængig af, om du bruger udbyderens applikation/interface som eks. OpenAI ChatGPT, eller om du bruger API’erne. Der kan f.eks. være forskel i, hvad der er standard for opt-in og opt-out, ift. om du deler data.