header banner
Default

Ny chatbot har skabt stor opmærksomhed i løbet af en uge, og nu giver virksomheden en advarsel


Den populære tekstrobot ChatGPT har imponeret mange med sit høje niveau. Men den har også flere skyggesider.

På få sekunder kan den digte julesange, skrive artikler eller løse avancerede ligninger. Ja, den kan ligefrem svare på filosofiske spørgsmål og stille sig kritisk over for sin egen eksistens.

Chatbotten med navnet ChatGPT har den seneste uges tid taget internettet med storm. Og mens millioner af brugere har moret sig over robottens kvikke svar, har techeksperter stillet sig i kø for at udråbe den som det seneste store tekniske vidunder.

Her skriver en bruger eksempelvis, at chatbotten tilsyneladende er klar til at blive advokat:

Og her forudser en anden store fremtidsudsigter:

Men nu sætter virksomheden bag robotten, OpenAI (startet af milliardæren Elon Musk), en stopper for euforien.

- ChatGPT er utrolig begrænset, men alligevel god nok til nogle ting til at skabe et misvisende indtryk af storhed. Det er en fejl at stole på det i forhold til noget som helst vigtigt lige nu, skrev direktøren i OpenAI, Sam Altman, søndag på Twitter.

Men hvad kan denne chatbot? Og hvad er dens skyggesider?

Ikke et sekund for tidligt med advarsel

VIDEO: Sådan får du gode svar fra en AI-chatbot
CNET

Spørger man techjournalist og redaktør på Ingeniørens it-medie Version2, Therese Moreau, er det opsigtsvækkende, at Sam Altman lægger en dæmper på sit eget produkts potentiale. Men hun mener ikke, at det er et sekund for tidligt.

- Det er meget klædeligt, at han nu kommer ud og maner til besindighed. For nogle steder er ChatGPT jo blevet kørt op til noget helt, helt vildt, siger hun.

I løbet af weekenden – altså nogenlunde samtidig med direktørens tweet – er der også sket store forandringer med chatbotten, fortæller hun:

- I sidste uge var det helt vanvittigt, hvad den kunne. Både på godt og ondt, siger hun.

Chatbotten har lært at skrive meningsfuldt, fordi den løbende er blevet – og stadig bliver – fodret med et kæmpestort tekstmateriale.

Den har altså spist sig gennem store dele af internettet og på den måde lært sammenhænge, sætningsopbygninger, menneskelige talemåder og avanceret viden. 

Når du stiller den et spørgsmål, får du derfor ofte – selvfølgelig med undtagelser – et ret så meningsfyldt og formfuldendt svar, der sagtens kunne være skrevet af et menneske.

Skrev falsk artikel om Ukraine-krigen

VIDEO: Hvornår opdager politikere, at der findes AI ?
innovative ideas

ChatGPT er kun trænet i viden og tekst indtil udgangen af år 2021, fortæller Therese Moreau. Derfor burde den altså ikke kunne svare på spørgsmål, der relaterer sig til senere begivenheder.

Alligevel spyttede den velvilligt et svar ud, da techjournalisten i sidste uge bad den skrive en artikel om et nyligt formodet ukrainsk angreb på en russisk militærbase.

- Den fandt bare på en artikel. Endda uden at gøre mig opmærksom på, at det ikke var faktuelt korrekt. Det er jo misinformation, siger hun.

Her er et eksempel på, hvordan chatbotten også – måske med varierende succes – kan bruges til at snyde din chef:

Men over weekenden er der altså blevet foretaget ændringer og blevet masseret flere grænser ind i robottens algoritmer:

- OpenAI har fået sat en masse bander op, så færre ting kan lade sig gøre, lyder det fra Therese Moreau.

En million brugere på få dage

VIDEO: Innovative ideer til politikere, bryråd og Folketinget
innovative ideas

OpenAI åbnede for folkemassernes indtog på ChatGPT 30. november, og allerede efter fem dage kunne direktøren, Sam Altman, annoncere, at den første ene million brugere havde været forbi chatfunktionen.

Chatbotten er stadig en betaversion, og virksomheden skal derfor nu bruge de mange brugeres dialog med robotten til at gøre den bedre.

Den har nemlig flere udfordringer, fortæller Therese Moreau, og ikke "kun" på det faktuelle plan.

- Det er jo bare én stor matematisk model, og den afspejler den data, den lærer fra – hvilket er en masse tekstdata fra mennesker. Og i den tekstdata indgår der også alle de ting, vi mennesker gør os skyldige i, forklarer hun.

Russere "klapper i deres små hænder"

VIDEO: NYT columnist experiences 'strange' conversation with Microsoft A.I. chatbot
NBC News

Derfor kan chatbotten eksempelvis komme til at reproducere diskrimination eller erotisk indhold med mindreårige.

Og spørger man Therese Moreau, er der da også kun grund til at inkorporere endnu flere grænser hos den populære chatbot:

- Jeg tror, at der sidder nogle i Rusland og klapper i deres små hænder. For det er godt nok nemt at drive troldefabrikker nu, når man ikke engang behøver at bruge arbejdskraft på at skrive falske debatindlæg, kommentarer og artikler. Det kan ChatGPT jo gøre for dig, siger hun.

Sources


Article information

Author: Janet Nguyen

Last Updated: 1704620521

Views: 929

Rating: 3.8 / 5 (80 voted)

Reviews: 94% of readers found this page helpful

Author information

Name: Janet Nguyen

Birthday: 2022-10-28

Address: 5907 Benton Parkway, Ibarratown, TN 31158

Phone: +4661379222307659

Job: Virtual Reality Developer

Hobby: Photography, Bird Watching, Telescope Building, Geocaching, Baking, Golf, Fishing

Introduction: My name is Janet Nguyen, I am a rare, Open, strong-willed, resolute, multicolored, audacious, important person who loves writing and wants to share my knowledge and understanding with you.