AI opretter phishing -e -mails bedre end mennesker

Neurale netværk viser fortsat fantastiske resultater i en lang række opgaver. Sandt nok var deres arbejde slet ikke ædelt: ved hjælp af AI skabte singapanske forskere phishing -e -mails, der viste sig at være mere overbevisende end dem, der var skrevet af rigtige mennesker.

Især på Black Hat og Defcon -cybersikkerhedskonferencer, der blev afholdt i Las Vegas i sidste uge, eksperter fra Government Technology Agency (Singapore) fortalt om resultaterne af et usædvanligt eksperiment.

De skrev hundredvis af phishing-e-mails på egen hånd og skabte så mange flere ved hjælp af den naturlige sprogbehandlingsalgoritme GPT-3 og andre kunstige intelligens-teknologier. De sendte derefter disse breve ud til 200 kolleger for at teste, hvilke de syntes var mere overbevisende.

I begge tilfælde indeholdt e -mails tracker -links - de downloadede ikke virussen til enheden, men sendte simpelthen en klikrapport til forskerne. Resultatet var overraskende: Folk "markant oftere" klikker på linkene mellem bogstaver, der er sammensat af kunstig intelligens, end dem, der er skrevet af andre mennesker. Desværre er der ingen præcise statistikker.

Forfatterne bemærker, at brevene skrevet af AI lød "overraskende menneskelige", og at platformen automatisk tilføjede uventede elementer, for at gøre teksten mere overbevisende - for eksempel citerede hun Singapore love, da input angav, at modtagerne fra Singapore.

Eksperter har længe diskuteret, om det er fornuftigt for svindlere at uddanne neurale netværk til at oprette phishing -e -mails - trods alt er masseforsendelser ekstremt effektive og omkostningseffektive. Men hvis du har brug for målrettede e -mails, hvis sammensætning kræver ekstra arbejde, kan neurale netværk virkelig være nyttige.

Selvom det kan lyde skræmmende, er den gode nyhed, at kvalitets -AI -træning koster millioner af dollars - sandsynligvis ikke. forventer, at svindlere i den nærmeste fremtid vil beslutte at massere ud i massevis for at forbedre systemet, hvilket allerede er fremragende arbejder.