På få sekunder kan den digte julesange, skrive artikler eller løse avancerede ligninger. Ja, den kan ligefrem svare på filosofiske spørgsmål og stille sig kritisk over for sin egen eksistens.

Chatbotten med navnet ChatGPT har den seneste uges tid taget internettet med storm. Og mens millioner af brugere har moret sig over robottens kvikke svar, har techeksperter stillet sig i kø for at udråbe den som det seneste store tekniske vidunder.

Her skriver en bruger eksempelvis, at chatbotten tilsyneladende er klar til at blive advokat:

Og her forudser en anden store fremtidsudsigter:

Men nu sætter virksomheden bag robotten, OpenAI (startet af milliardæren Elon Musk), en stopper for euforien.

- ChatGPT er utrolig begrænset, men alligevel god nok til nogle ting til at skabe et misvisende indtryk af storhed. Det er en fejl at stole på det i forhold til noget som helst vigtigt lige nu, skrev direktøren i OpenAI, Sam Altman, søndag på Twitter.

Men hvad kan denne chatbot? Og hvad er dens skyggesider?

Ikke et sekund for tidligt med advarsel

Spørger man techjournalist og redaktør på Ingeniørens it-medie Version2, Therese Moreau, er det opsigtsvækkende, at Sam Altman lægger en dæmper på sit eget produkts potentiale. Men hun mener ikke, at det er et sekund for tidligt.

- Det er meget klædeligt, at han nu kommer ud og maner til besindighed. For nogle steder er ChatGPT jo blevet kørt op til noget helt, helt vildt, siger hun.

I løbet af weekenden – altså nogenlunde samtidig med direktørens tweet – er der også sket store forandringer med chatbotten, fortæller hun:

- I sidste uge var det helt vanvittigt, hvad den kunne. Både på godt og ondt, siger hun.

Skrev falsk artikel om Ukraine-krigen

ChatGPT er kun trænet i viden og tekst indtil udgangen af år 2021, fortæller Therese Moreau. Derfor burde den altså ikke kunne svare på spørgsmål, der relaterer sig til senere begivenheder.

Alligevel spyttede den velvilligt et svar ud, da techjournalisten i sidste uge bad den skrive en artikel om et nyligt formodet ukrainsk angreb på en russisk militærbase.

- Den fandt bare på en artikel. Endda uden at gøre mig opmærksom på, at det ikke var faktuelt korrekt. Det er jo misinformation, siger hun.

Her er et eksempel på, hvordan chatbotten også – måske med varierende succes – kan bruges til at snyde din chef:

Men over weekenden er der altså blevet foretaget ændringer og blevet masseret flere grænser ind i robottens algoritmer:

- OpenAI har fået sat en masse bander op, så færre ting kan lade sig gøre, lyder det fra Therese Moreau.

En million brugere på få dage

OpenAI åbnede for folkemassernes indtog på ChatGPT 30. november, og allerede efter fem dage kunne direktøren, Sam Altman, annoncere, at den første ene million brugere havde været forbi chatfunktionen.

Chatbotten er stadig en betaversion, og virksomheden skal derfor nu bruge de mange brugeres dialog med robotten til at gøre den bedre.

Den har nemlig flere udfordringer, fortæller Therese Moreau, og ikke "kun" på det faktuelle plan.

- Det er jo bare én stor matematisk model, og den afspejler den data, den lærer fra – hvilket er en masse tekstdata fra mennesker. Og i den tekstdata indgår der også alle de ting, vi mennesker gør os skyldige i, forklarer hun.

Russere "klapper i deres små hænder"

Derfor kan chatbotten eksempelvis komme til at reproducere diskrimination eller erotisk indhold med mindreårige.

Og spørger man Therese Moreau, er der da også kun grund til at inkorporere endnu flere grænser hos den populære chatbot:

- Jeg tror, at der sidder nogle i Rusland og klapper i deres små hænder. For det er godt nok nemt at drive troldefabrikker nu, når man ikke engang behøver at bruge arbejdskraft på at skrive falske debatindlæg, kommentarer og artikler. Det kan ChatGPT jo gøre for dig, siger hun.