I takt med at programmer som Chat GPT er blevet allemandseje, er det blevet svært at lure, om en tekst er skrevet af et menneske eller en maskine.
I skolen har lærerne svært ved at stole på, om eleverne selv har skrevet deres egne afleveringer. På nettet ved man ikke, om en artikel er af en journalist eller en maskine - og på de sociale medier kan det være svært for brugere at gennemskue, om de interagerer med ægte personer eller 'bots', der genererer falske kommentarer og anmeldelser.
Men det har forskere fra Deepmind, et datterselskab til Google, nu en løsning på.
I et studie, der netop er udgivet i tidsskriftet Nature, beskriver de nemlig et 'vandmærke' til AI-skabt tekst, der gør det nemmere at identificere, om det er en person eller en maskine, der står bag en tekst.
Med ‘vandmærke’ forestiller du dig måske et stort stempel over teksten, men Google-forskerne har fundet en mere snedig måde at skabe et kendetegn for AI-tekst.
De får den kunstige intelligens til at bruge bestemte ord, og tilsammen skaber det særlige ordvalg et mønster i teksten. Det mønster bemærker vi mennesker næppe, men et computerprogram kan genkende mønsteret lidt ligesom en stregkode, og på den måde kan man afsløre, om en tekst er skrevet af kunstig intelligens.
»Det er særdeles spændende,« mener Aasa Feragen, der er professor i maskinlæring på Danmarks Tekniske Universitet (DTU), og som har læst studiet for Videnskab.dk.
»Der er jo et kæmpe marked for sådan en teknologi. Samtlige skoler, universiteter, forlag, redaktioner og så videre ville kunne bruge et værktøj som dette, så det var bare et spørgsmål om tid, før det ville komme,« siger hun.
Ikke skudsikkert endnu
SynthID, som teknologien hedder, er tobenet:
Først skal den integrere dens vandmærke ind i en AI-skabt tekst. Vandmærket er helt umuligt for mennesker at identificere, og ifølge forskerne kan det gøres, uden at tekstens kvalitet bliver mærkbart dårligere.
Dernæst kan programmet identificere en tekst, som har vandmærket integreret. Den kan altså ikke identificere en hvilken som helst AI-skabt tekst - men kun en, der bærer vandmærket.
\ Den tekniske forklaring: Hvordan virker vandmærket?
Forskernes vandmærke er designet til at blive brugt af avancerede computerprogrammer kaldet 'Large Language Models' (forkortet LLM), som for eksempel ChatGPT.
Når en LLM bliver bedt om at skrive en tekst, gør den det ét såkaldt ‘token’ ad gangen. Et ‘token’ kan være et bogstav, et ord eller en del af en sætning.
Når LLM’en skal vælge det næste 'token', tildeler den en ‘sandsynlighedsscore’ til alle de mulige 'tokens'.
Hvis AI’en for eksempel skal finde det næste ord efter »Min yndlingsfrugt er…«, er første skridt at udvælge en række mulige ord. Der kan være mange sådanne ord, men for enkelhedens skyld kan vi sige, at de udvalgte ord er 'banan', 'æble' og 'papaya', der hver får tildelt en sandsynlighedsscore.
Det 'token' med den højeste sandsynlighedsscore har den største chance for at blive valgt - men for at AI'ens svar til de samme spørgsmål ikke skal være ens hver gang, er det ikke altid tilfældet.
Sandsynlighedsscoren udregnes ved hjælp af en kompliceret formel, der blandt andet tager højde for, hvilket ord der senest er skrevet i teksten.
Og det er her, vandmærket kommer ind i billedet.
Når SynthID indsætter vandmærket, justerer den formlen, der tildeler sandsynlighedsscorerne, så ordene får en anden score, end de normalt ville have fået.
Det gør, at LLM’en for eksempel kan finde på at vælge 'banan' med vandmærket frem for 'papaya', som den ellers ville have valgt uden vandmærket.
En enkelt, kort tekst kan have 10 eller flere 'tokens', der ellers ikke ville have haft lige så stor sandsynlighed for at blive valgt, hvis vandmærket ikke havde været indsat.
Denne ‘uregelmæssighed’, som SynthID skaber i teksten, bliver til et mønster, som kun tekster med et SynthID-vandmærke vil have lavet - og som SynthID kan genkende.
Når man senere vil tjekke, om en tekst er vandmærket, analyserer SynthID dette mønster. Hvis tilpas mange valgte ‘tokens’ stemmer overens med de valg, en tekst genereret med SynthID’s vandmærke ville have valgt, kan den afgøre, om teksten er lavet af en AI eller ej.
Ifølge forskerne fra DeepMind kan vandmærket virke i tekster, der er helt ned til tre sætninger korte.
Vandmærket er dog ikke helt vandtæt endnu, indrømmer forskerne bag studiet.
Selvom ordene, der udgør vandmærket, er ukendte for brugeren, er det stadig nemt at komme udenom ved at omskrive den AI-genererede tekst tilpas meget på bagkant, forklarer de i en pressemeddelelse.
Studiet viser dog, at det er muligt at skabe vandmærker i genereret tekst fra AI, uden at kvaliteten af teksten svækkes betydeligt, tilføjer forskerne.
\ Læs også
Ifølge Aasa Feragen er det dog meget sandsynligt, at DeepMind og Google ligger inde med vandmærknings-teknologi, der er langt mere kompliceret end det, der er beskrevet i studiet.
»Studiet her blev indsendt til Nature tilbage i april 2024, så det er ikke urimeligt at antage, at forskningen kan være et år gammel,« fortæller professoren og pointerer, at der kan ske meget på et år - især når det gælder forskning inden for AI.
Dertil er konkurrencen inden for kunstig intelligens så hård, at Google højst sandsynligt ikke ville offentliggøre deres allernyeste teknologi, tilføjer Aasa Feragen.
»Jeg vil forvente, at hvis de implementerer et vandmærke til AI-skabt tekst, er det nok anderledes og mere kompliceret, end det, de har beskrevet her. Ikke mindst ville teknologien også være hemmelig,« afslutter hun.
»Og så bliver vandmærket måske en del sværere at komme udenom, hvis man ikke nogenlunde ved, hvad man skal kigge efter.«
