Store sprogmodeller og deres udfordringer og løsninger

Af Steffen Kirkegaard, bestyrelsesformand KITEK

Sprogmodeller er kunstige intelligenssystemer, der kan generere eller forstå naturligt sprog. De er baseret på statistiske eller neurale netværk, der lærer af store mængder tekstdata. Store sprogmodeller er dem, der har mange parametre, som er de vægte, der bestemmer, hvordan netværket behandler input og output. Jo flere parametre en sprogmodel har, jo mere kompleks og kraftfuld kan den være.

Store sprogmodeller har vist sig at være meget effektive til at udføre forskellige opgaver inden for naturlig sprogbehandling, såsom maskinoversættelse, tekstresumé, spørgsmål-svar, tekstklassifikation og mere. Nogle eksempler på store sprogmodeller er GPT-4¹, BERT², XLNet³ og T5⁴. Disse modeller kan generere realistisk og sammenhængende tekst baseret på et givet input eller prompt.

Men store sprogmodeller har også nogle udfordringer og begrænsninger, som skal adresseres for at sikre deres ansvarlige og bæredygtige udvikling og anvendelse. Nogle af disse udfordringer er:

• Datakrav: Store sprogmodeller kræver enorme mængder af tekstdata for at blive trænet. Disse data skal være af høj kvalitet, relevante, mangfoldige og repræsentative for det domæne, som modellen skal bruges til. Men det er ikke altid let at finde eller skabe sådanne data. Desuden kan dataene indeholde fejl, fordomme, stødende eller falsk information, som kan påvirke modellens output negativt.
• Beregningskrav: Store sprogmodeller kræver også enorme mængder af beregningskraft for at blive trænet og kørt. Det betyder, at de kræver specialiseret hardware, software og infrastruktur, som ikke alle har adgang til eller råd til. Desuden har beregningen af store sprogmodeller en stor miljømæssig indvirkning, da den forbruger meget energi og producerer meget CO2-udledning.
• Evaluatoriske krav: Store sprogmodeller skal evalueres for at måle deres ydeevne, nøjagtighed, robusthed og pålidelighed. Men det er ikke altid let at definere eller anvende passende metrikker eller standarder for at vurdere disse aspekter. Desuden kan evalueringen af store sprogmodeller være tidskrævende, ressourcekrævende og subjektiv.
• Etiske krav: Store sprogmodeller skal overholde visse etiske principper og værdier, såsom retfærdighed, gennemsigtighed, ansvarlighed og respekt for menneskerettighederne. Men det er ikke altid klart, hvordan disse principper og værdier skal fortolkes eller implementeres i praksis. Desuden kan store sprogmodeller medføre nogle etiske risici eller dilemmaer, såsom at krænke privatlivets fred, sikkerhed eller autonomi for brugerne eller de berørte parter.

For at imødegå disse udfordringer er der behov for nogle løsninger eller tiltag fra forskellige aktører, såsom forskere, udviklere, brugere, politikere og civilsamfundet. Nogle af disse løsninger eller tiltag er:

• Datastyring: Der er behov for at etablere og følge nogle retningslinjer eller standarder for dataindsamling, -behandling, -deling og -brug i forbindelse med store sprogmodeller. Disse retningslinjer eller standarder skal sikre datakvaliteten, relevansen, mangfoldigheden og repræsentativiteten samt respektere dataejerskabet, fortroligheden og samtykket. Desuden er der behov for at overvåge og filtrere dataene for at undgå eller reducere fejl, fordomme, stødende eller falsk information.

• Beregningsstyring: Der er behov for at optimere og reducere beregningskravene for store sprogmodeller. Det kan gøres ved at bruge mere effektiv hardware, software og infrastruktur, såsom accelererede processorer, distribuerede systemer og skytjenester. Desuden er der behov for at minimere den miljømæssige indvirkning af beregningen af store sprogmodeller. Det kan gøres ved at bruge vedvarende energikilder, genbruge eller genanvende hardware og reducere energiforbruget og CO2-udledningen.
• Evalueringsstyring: Der er behov for at udvikle og anvende mere omfattende, objektive og pålidelige metrikker eller standarder for at evaluere store sprogmodeller. Disse metrikker eller standarder skal måle ikke kun modellens ydeevne, nøjagtighed, robusthed og pålidelighed, men også dens etiske, sociale og juridiske implikationer. Desuden er der behov for at gøre evalueringen af store sprogmodeller mere tilgængelig, reproducerbar og sammenlignelig for forskellige interessenter.
• Etisk styring: Der er behov for at fremme og overholde nogle etiske principper og værdier i forbindelse med store sprogmodeller. Disse principper og værdier skal være i overensstemmelse med menneskerettighederne og de demokratiske værdier og reflektere de forskellige kulturelle, sociale og juridiske kontekster. Desuden er der behov for at identificere og håndtere nogle etiske risici eller dilemmaer, som store sprogmodeller kan medføre. Det kan gøres ved at involvere forskellige interessenter i design-, udviklings- og anvendelsesprocesserne samt ved at etablere nogle mekanismer for ansvarlighed, kontrol og oprejsning.

Konklusion

Store sprogmodeller er nogle af de mest avancerede og indflydelsesrige kunstige intelligenssystemer i dag. De har potentiale til at revolutionere mange forskellige domæner og applikationer inden for naturlig sprogbehandling. Men de har også nogle udfordringer og begrænsninger, som skal adresseres for at sikre deres ansvarlige og bæredygtige udvikling og anvendelse. Derfor er der behov for nogle løsninger eller tiltag fra forskellige aktører, der kan sikre en bedre datastyring, beregningsstyring, evalueringsstyring og etisk styring af store sprogmodeller.

Indlægget “Store sprogmodeller og deres udfordringer og løsninger” er bringes også på AI-Portalen.dk