AI skriver beskeder uden at blive opdaget..

To nye eksperimenter viser, at de fleste mennesker slet ikke tænker over, at en personlig besked kan være skrevet af kunstig intelligens (AI), selvom de selv bruger det. For at finde ud af, hvordan AI-værktøjer som ChatGPT påvirker folks vurdering af andre gennem deres skriftlige beskeder, rekrutterede forskerne 1.300 deltagere i alderen 18 til 84 år.

Deltagerne blev præsenteret for AI-genererede beskeder, som f.eks. en undskyldning sendt i en e-mail. De blev opdelt i fire grupper:

• En gruppe så beskeder uden at få oplyst, hvem der havde skrevet dem.
• En gruppe blev fortalte, at beskederne var skrevet af et menneske.
• En gruppe fik at vide, at beskederne var genereret af AI.
• En gruppe fik at vide, at afsenderen kunne være både menneske og AI.

Resultatet var klart: Når deltagerne vidste, at en besked var genereret af AI, vurderede de afsenderen negativt som “doven” og “uoprigtig”. Men hvis de troede, at teksten var skrevet af et menneske, opfattede de afsenderen som “ægte” og “betænksom”.

Er der overhovedet skepsis?

Det overraskede forskerne, at de deltagere, som ikke fik at vide, hvem der havde skrevet beskederne, havde det samme positive indtryk af afsenderen som dem, der blev informeret om, at det var et menneske. Denne totale mangel på skepsis rejser nye spørgsmål.

Det kan være, at deltagerne ikke er klar over, hvor dygtige nutidens AI-modeller er til at skrive personlige beskeder. Undersøgelsen viste dog, at folks egen brug af AI kun havde en lille indvirkning på deres vurdering af afsenderne. Selv dem, der ofte bruger AI, mente, at tekst skrevet af AI var mindre værdifuld end tekst skrevet af mennesker.

Hvorfor er det vigtigt?

At folk ikke er skeptiske over for brugen af AI er problematisk. Modtagere ser tid og indsats, der kræves for at sende skriftlige beskeder, som et udtryk for afsenderens oprigtighed og kompetence. Dette kan påvirke relationer i venskaber, dating og job.

Undersøgelsen viser, at folk sjældent mistænker brugen af AI, medmindre det er åbenlyst. Denne mangel på skepsis skaber et moralsk dilemma. De, der bruger AI i det stille, kan udnytte fordelene uden at blive opdaget, mens dem, der er åbne omkring deres brug af AI, risikerer at miste troværdighed.

Hvad nu?

Baseret på undersøgelsens resultater, hvis du vil sikre, at din besked bliver set som oprigtig, er det bedste at ringe eller tale ansigt til ansigt. AI kan være smart, men nogle gange er det bare bedst at være menneskelig.

Videnskab.dk – Gengivet her på ONN.dk   |  🔎 Artiklen er læst 1000 gange