AI creează e-mailuri de phishing mai bune decât oamenii

Rețelele neuronale continuă să arate rezultate uimitoare într-o mare varietate de sarcini. Adevărat, de data aceasta munca lor nu a fost deloc nobilă: cu ajutorul AI, cercetătorii din Singapore au creat e-mailuri de phishing care s-au dovedit a fi mai convingătoare decât cele scrise de oameni reali.

În special, la conferințele de securitate cibernetică Black Hat și Defcon desfășurate la Las Vegas săptămâna trecută, experți de la Agenția Tehnologică a Guvernului (Singapore) a spus despre rezultatele unui experiment neobișnuit.

Au scris sute de e-mailuri de phishing pe cont propriu și apoi au creat tot mai multe folosind algoritmul de procesare a limbajului natural GPT-3 și alte tehnologii de inteligență artificială. Apoi au trimis acele scrisori către 200 de colegi pentru a testa care dintre ei le-au considerat mai convingătoare.

În ambele cazuri, e-mailurile conțineau linkuri de urmărire - nu au descărcat virusul pe dispozitiv, ci au trimis pur și simplu un raport de clic către cercetători. Rezultatul a fost surprinzător: oamenii „semnificativ mai des” făceau clic pe legăturile literelor compuse din inteligență artificială decât pe cele scrise de alte persoane. Din păcate, nu sunt furnizate statistici exacte.

Autorii notează că literele scrise de AI au sunat „surprinzător de uman” și că platforma a adăugat automat elemente neașteptate, pentru a face textul mai convingător - de exemplu, ea a citat legile din Singapore, întrucât intrarea a indicat faptul că destinatarii din Singapore.

Experții au dezbătut mult timp dacă este logic ca escrocii să antreneze rețelele neuronale pentru a crea e-mailuri de phishing - la urma urmei, corespondența în masă rămâne extrem de eficientă și rentabilă. Dar dacă aveți nevoie de e-mailuri direcționate, a căror compilare necesită muncă suplimentară, rețelele neuronale pot fi cu adevărat utile.

Deși poate părea descurajant, vestea bună este că instruirea de calitate în AI costă milioane de dolari - probabil nu. așteptați-vă că în viitorul apropiat escrocii vor decide în mod masiv să se forțeze pentru a îmbunătăți sistemul, care este deja excelent lucru.