Af Trine Jensen, AAU Kommunikation og Public Affairs

Bevillingen 'Data Science Ascending Investigator' gives til fremragende og uafhængige lektorer (eller tilsvarende), som har ambitioner om og potentiale til at stige til det højeste internationale niveau. Formålet er at støtte ambitiøse projekter forankret i datavidenskab og datalogi og dermed styrke kvaliteten og størrelsen af ​​det danske akademiske miljø for datavidenskabelig forskning og uddannelse. Ønsket er at få flere dygtige kandidater inden for datavidenskab til at imødekomme den store efterspørgsel efter sådanne kompetencer fra alle samfundets sektorer.

Bevillingen er en betydelig anerkendelse, som lader Johannes Bjerva fokusere på at etablere et helt nyt forskningsfelt:

”At modtage Novo Nordisk Fondens Data Science Investigator bevilling er en fantastisk anerkendelse af min forskning inden for Natural Language Processing (NLP), og et betydeligt skridt i min karriere som forskningsleder. Det giver mig muligheden for at fokusere på at etablere et nyt forskningsfelt, og styrke Danmark som et internationalt knudepunkt for sikkerhed i generativ AI og store sprogmodeller (LLM)” siger Johannes.

Om projektet: LM2-SEC: Linguistically Motivated Language Model Security

Johannes’ forskningsprojekt bygger på Natural Language Processing (NLP) og integrerer viden fra datalingvistik (’Computational Linguistics’, CL), samt fra tidlig forskning i NLP-sikkerhed. Forskningen er centreret omkring en ny dataressource, der giver mulighed for at undersøge signaler, der sendes til, fra og endda mellem store sprogmodeller (LLM'er). LM2-SEC sigter mod at skelne mellem ondsindede og velvillige påvirkninger af disse signaler:

”Vores hypotese er, at sproglige regelmæssigheder i disse signaler kan isoleres og rettes. Projektet lægger grundlaget for et førende forskningsmiljø inden for NLP-sikkerhed, der læner sig op af lingvistik og bidrager til at udfylde hullet i humanistisk orienteret Data Science i Danmark”, fortæller Johannes.

Johannes’ væsentligste videnskabelige bidrag har været at inkorporere sproglig information i NLP og dermed at forbedre tilstanden for især ressourcesvage sprog. Helt konkret har hans forskningsgruppes bidrag i de sidste 3 år fremhævet relevansen af lingvistik i NLP, der viser, at sprogligt informerede tilgange til sprogsampling kan have betydelige effekter på NLP-modellers ydeevne.

Bevillingens betydning for forskning i NLP

Det er første gang at Novo Nordisk Fonden giver en større bevilling til dette fagområde, og det giver mulighed for at forske i de nyeste udfordringer indenfor NLP:

”Bevillingen giver mig og mit team mulighed for at tage hul på nogle af de nyeste udfordringer inden for AI-sikkerhed og NLP. Vi vil bl.a. systematisk udforske hvordan viden fra lingvistik kan bruges til at opdage sikkerhedstrusler mod store sprogmodeller (LLMs). Mit håb er at skabe en ny, skalerbar, og teoretisk forankret tilgang til NLP-sikkerhed. Dette er specielt relevant hvis man vil implementere sprogmodeller indenfor sundhedssektoren. Samtidig vil bevillingen etablere et førende forskningsmiljø i Danmark med stærke internationale samarbejder, bl.a. med NVIDIA”, siger Johannes.