Nyt projekt skal kortlægge forskeres brug af kunstig intelligens

Det har kun taget få år for chatbot-modeller som ChatGPT at etablere sig som et vigtigt værktøj for forskere, akademikere og andre faggrupper, der bruger den kunstige intelligens (AI) til at skrive tekster, lave illustrationer og udvikle videnskabelig kode. Selv videnskabelige artikler med AI-bidrag bliver i dag udgivet.

Men hvordan bruger forskere reelt disse nye AI-værktøjer, også kendt som ’large language models’? Og hvordan vil adgangen til stadig bedre kunstig intelligens ændre den måde, hvorpå videnskabelig viden bliver produceret, og vi andre opfatter videnskab?

Sådanne spørgsmål står i fokus i et nyt projekt, ’Quantifying the Prevalence and Diffusion of Generative AI in Science’, der er forankret på Copenhagen Center for Social Data Science (SODAS) ved Københavns Universitet.

Med en bevilling på 2.993.270 kr. fra VILLUM FONDEN vil projektet udfylde et videnshul ved at kombinere ekspertise inden for datalogi og videnskabssociologi.

"AI er allerede en del af vores liv som forskere, akademikere og undervisere. AI er medforfatter til publikationer, skriver koder og genererer essays på kandidatniveau. Men mange måder at bruge AI på bliver ikke opdaget og efterlader os med manglende viden om, hvem der bruger AI, med hvilket formål og i hvilket omfang. Vores mål er at afdække disse aspekter og sikre, at det videnskabelige samfund er forberedt på de omfattende og indgribende konsekvenser af AI's indtog," siger professor Roberta Sinatra fra SODAS, der også er tilknyttet IT-Universitetet i København.

Hun leder projektet sammen med lektor Mathias Wullum Nielsen fra Sociologisk Institut på Københavns Universitet. Projektet har tre hovedmål:

• For det første skal det levere dokumentation for åben såvel som skjult brug af generative AI-modeller inden for videnskab.
• For det andet vil det analysere tendenser i brugen og udbredelsen af modellerne på tværs af videnskabelige discipliner.
• Endelig skal det estimere og forudsige spredningen af AI i de videnskabelige netværk.

AI kan påvirke forholdet mellem videnskaben og samfundet

Projektet, der løber over to år, omfatter en spørgeskemaundersøgelse rettet mod 200.000 forskere, der publicerer videnskabelige udgivelser. Undersøgelsen skal afdække deres åbne, men måske også skjulte og mere problematiske brug af AI.

Samtidig vil forskerne analysere en stor mængde videnskabelige tekster ved hjælp af såkaldt ’text mining’ for at vurdere tendenser i både den åbne og skjulte brug af AI-genereret indhold. Dette involverer teknikker, der kan identificere tekst, som er skrevet af AI-modeller som ChatGPT.

Kunstig intelligens (...) vil sandsynligvis øge tempoet for videnskabelige opdagelser på mange områder. Men vi er nødt til at sikre, at forskere bruger disse modeller på troværdige og gennemsigtige måder.

"Vi vil anvende en blanding af undersøgelser, dataanalyse og netværksmodellering til at estimere den skjulte brug af AI. Denne tilgang gør os i stand til at afgøre, om AI-brugen sætter stigende aftryk på forskningen og fremmer videnskabelige fremskridt," forklarer Roberta Sinatra.

I sidste ende håber projektet at kunne kortlægge, hvordan den nye teknologi spreder sig på tværs af videnskabelige miljøer, og analysere dens konkrete betydning både nu og i fremtiden.

For Mathias Wullum Nielsen er det vigtigt. Endnu mere effektive AI-modeller har ikke kun potentialet til drastisk at ændre den måde, forskere arbejder på og skaber ny viden. Det kan også potentielt ændre hele forholdet mellem videnskaben og det omgivende samfund.

"Kunstig intelligens, som vi kender dem fra ’large language models’, vil sandsynligvis øge tempoet for videnskabelige opdagelser på mange områder. Men vi er nødt til at sikre, at forskere bruger disse modeller på troværdige og gennemsigtige måder. Er det ikke tilfældet, kan videnskabelig viden på lang sigt miste sin legitimitet i samfundet," siger han.