Cum să determinați că textul a fost scris de o rețea neuronală

De date Bloomberg, aproximativ 30% dintre specialiști folosesc rețelele neuronale pentru a genera text. În Rusia, 67% dintre respondenți Doriți să aplicați în munca inteligenței artificiale pentru a lucra mai puțin și a nu pierde venituri. Doar că astfel de statistici nu sunt pe placul tuturor clienților. Unii nu au încredere în rețelele neuronale, așa că preferă ca textele să fie scrise nu de roboți, ci de oameni.

Înțelegem de ce clienții se feresc de tehnologii și ce mijloace de expunere a neurotextelor există astăzi.

De ce textele din rețelele neuronale ar trebui tratate cu prudență

Iată principalele motive pentru care clienții se feresc de astfel de articole.

Risc de încălcare a drepturilor de autor

Astăzi nu există o poziție oficială cu privire la întrebarea cine aparține drepturi de autor pentru textele create cu ajutorul AI. Potrivit legii, un autor este o persoană care creează o operă prin muncă creativă sau intelectuală. Cu toate acestea, în cazul

Retea neurala oamenii dau doar instrucțiuni, dar nu scriu singuri.

Deoarece acum legea nu recunoaște neurotextele drept obiecte de drept de autor, regulile de utilizare a conținutului generat de tehnologii sunt stabilite în acordul de utilizare al rețelei neuronale.

Și dacă OpenAI transmite drepturi asupra textului chiar și în versiunea gratuită, apoi Gerwin limite utilizarea sa în scopuri politice, discriminatorii sau în publicitate nefavorabilă. Si in mijlocul călătoriei utilizați conținutul în scopuri comerciale Poate sa numai dacă produsul este generat la o rată plătită.

Riscul de a obține informații care nu sunt unice sau inexacte

Rețeaua neuronală primește o solicitare, o trece prin algoritmi, analizează informațiile disponibile pe subiect și emite un răspuns. Fără a nega faptul că aceeași cerere din partea unui alt utilizator poate produce un text similar sau similar.

Și aici vine un nou pericol. Cercetătorii de la Universitatea Cornell au venit cu concluzie: dacă răspunsurile rețelei neuronale la aceeași întrebare variază foarte mult, atunci cu o probabilitate mare se ajunge la fapte.

Riscul ca neurotextele să scadă resursele companiei în rezultatele căutării

La sfârșitul anului trecut, specialistul Google în calitate Duy Nguyen declaratcă compania are algoritmi în vigoare pentru a detecta și a downgrade conținutul creat inteligenţă artificială. Prin urmare, mulți se tem că motoarele de căutare vor căuta un astfel de conținut și îl vor pesimiza. Adică să coboare poziția în rezultatele căutării.

Precedentele există deja. De exemplu, marketerul Neil Patel a cheltuit experimentprin crearea a 50 de site-uri web de testare, pe care le-a împărțit în două grupuri. Expertul a umplut site-urile primei părți cu articole create exclusiv de inteligență artificială. Site-urile celui de-al doilea au găzduit articole AI modificate de oameni, precum și materiale scrise de copywriteri fără utilizarea rețelelor neuronale.

Rezultatele experimentului au arătat că resursele primului grup au pierdut mai multe poziții în rezultatele căutării. Și a dus la scădea trafic de până la 70%.

În același timp, reprezentanții Google au adăugat că au o atitudine pozitivă față de dezvoltarea rețelelor neuronale și și-au creat deja propria lor. Chatbot Bard. Dar pentru companie, textele de calitate sunt o prioritate. Sistemul, care ierarhizează rezultatele, oferă în primul rând utilizatorilor materiale care se întâlnesc standardele E‑E‑A‑T (experiență, competență, credibilitate, credibilitate).

Textele care le corespund inspiră încredere și sunt considerate utile deoarece conțin exemple, experiență, o parte analitică și cercetare. Și conținutul pe care rețelele neuronale îl creează, fără o rafinare suplimentară profundă de către o persoană, adesea nu este așa.

Între timp, în Duma de Stat sugerat introduceți etichetarea materialelor create cu ajutorul IA. Până când se întâmplă acest lucru, stabiliți că textul generate de o rețea neuronală, va trebui să o faci singur. Sau cu ajutorul unor servicii speciale.

Cum să determinați în mod independent că textul a fost scris de o rețea neuronală

Universitatea Tehnologică MIREA a avut loc recent experiment, la care au participat 20 de profesori și peste 200 de elevi. Jumătate dintre ei au scris lucrări științifice pe cont propriu. Iar ceilalți 50% au folosit ajutorul rețelelor neuronale. Profesorii, pe de altă parte, trebuiau să calculeze astfel de materiale AI.

Pentru a face acest lucru, profesorii au acordat atenție caracteristicilor stilistice și ortografice ale textului. De exemplu, pentru un număr mare de cuvinte și semnificații repetitive, reale și logice greșeli, lipsa judecăților originale. În acest fel, profesorii au putut identifica 96% din lucrările scrise folosind rețeaua neuronală. 4% dintre studenții care nu au fost expuși au recunoscut că au petrecut multe ore editând text AI.

Nu există o instrucțiune universală care să ajute la calcularea textului generat de rețeaua neuronală. Cu toate acestea, experimentul arată că astfel de materiale sunt inerente modele similare. Să le luăm în considerare mai detaliat.

Repetări de semnificații și cuvinte

Unul dintre motivele pentru care un site este coborât în ​​rezultatele căutării este reoptimizarea cuvintelor cheie. Rețeaua neuronală ca răspuns la o solicitare adesea „răspunde în cerc”. Uneori, ea folosește apariții diferite, dar sensul este încă repetat.

Așadar, în captura de ecran de mai jos, inteligența artificială a fost însărcinată să scrie o postare de vânzare despre un mod nou, blând de a vopsi părul. Și într-un text mic, rețeaua neuronală a repetat în mod repetat aceleași teze.

Aproape fiecare propoziție textul generat se repetă sintagma „un nou mod de colorare”. Și, de asemenea, există o duplicare repetată a semnificațiilor despre siguranța metodei și o abordare individuală, care va sublinia unicitatea fiecărui client.

Iată câteva citate din text care ilustrează acest lucru: „transformă-ți imaginea și exprimă-ți individualitatea”, „ține cont de individualitatea ta”, „potrivit pentru tine”, „creează pentru tine aspect unic și elegant”, „face-ți coafura unică”, „păstrează sănătatea și strălucirea părului tău”, „sigur pentru părul tău”, „îngrijirea părului tău, păstrându-l sănătate".

Între timp, a fost suficient să menționăm odată că a fost prezentată o nouă procedură în salon - cruțare metoda de colorarecare va menține părul în viață. Și, de asemenea, explicați cum funcționează metoda, care este noutatea ei și de ce este sigură. Și adăugați că paleta de culori este diversă, iar maeștrii care au fost instruiți nu numai că vor efectua colorarea de înaltă calitate, ci vor ajuta și la alegerea culorii.

Prezența în text a unui număr mare de ștampile și clișee, lipsa experienței senzoriale

Exemplul de colorat arată, de asemenea, că o rețea neuronală nu poate imita modul în care o persoană vorbește în viața reală. Oamenii sigilează, folosesc argou și abrevieri, denaturează intenționat cuvintele. O astfel de prezentare ajută la atragerea atenției, la evocarea emoțiilor, la transmiterea poziției autorului, a experienței sale senzoriale.

Cercetare arată: rețeaua neuronală nu împărtășește sentimente, nu acceptă poziția nimănui. Prin urmare, preferă neutralitatea, clișeele și clișeele. În exemplul de mai sus, acestea sunt „abilități profesionale”, „materiale de înaltă calitate”, „oportunitate unică”.

În același timp, rețeaua neuronală generează texte în stiluri diferite. De exemplu, îi puteți da sarcina de a pregăti un material pe tema „Ce afectează costul ulei». Dar să clarificăm că textul nu trebuie scris într-un limbaj sec, ci cu adaos de metafore și comparații. Cu toate acestea, rezultatul este încă artificial. La urma urmei, AI nu are nicio măsură, nu „simte” textul așa cum o face o persoană.

Unul dintre paragrafe va ajuta să vedem că rezultatul obținut nu poate fi comparat cu intonația inerentă unei persoane: „Cererea și oferta sunt ca dansul a doi îndrăgostiți pe piața petrolului. Dacă cererea de petrol se ridică ca un ocean furios, iar dacă oferta nu ține pasul, prețurile cresc ca șampania la o petrecere de Revelion. Dar dacă cererea scade și oferta crește, atunci prețurile pot scădea ca un balon la o petrecere pentru copii.”

Textul pare artificial, iar cele mai multe din rândurile lui sunt deplasate. Și, deși postarea sa dovedit într-adevăr a fi „nu uscată”, este greu de imaginat că un expert ar fi scris în acest fel. În plus, literalmente fiecare propoziție este o metaforă și o comparație. Cu toate acestea, astfel de tehnici ar trebui să fie precise și bine încorporate în text. În caz contrar, sensul se va pierde în spatele unui exces de imagini.

Prezența unor fraze fără sens și lipsă de logică

Lingvistul Noam Chomsky în cartea sa Syntactic Structures notează că construcția corectă din punct de vedere gramatical a frazelor într-o propoziție nu garantează prezența logică și sens. Ca exemplu, expertul a citat sintagma ideile verzi incolore dorm furios - „ideile verzi incolore dorm furioasă”.

Algoritmii ajută rețeaua neuronală să construiască propoziții corecte din punct de vedere al gramaticii. Cu toate acestea, pentru AI nu există un concept de „sens”. Și poate avea propria sa logică pentru fiecare paragraf, deoarece materialul este obținut din surse diferite.

De exemplu, unei rețele neuronale i s-a cerut să genereze recenzii pentru un gel de duș și un trening. Textul despre haine s-a dovedit astfel: „Cu ajutorul unui costum, te poți relaxa, te scufunzi în lumea sportului și, de asemenea, te poți plimba. Are controlul temperaturii, datorită căruia te simți confortabil în orice situație.

Și iată o recenzie despre gelul de duș: „Gel minunat, nu curge, nu îngreunează pielea. Ambalat in punga, in cutie, cu capac. Nu este nevoie să așteptați ceva în plus pentru a se fărâmița puțin. Poate fi folosit ca gel de duș de noapte.

Câteva fraze în ele bine facut, dar în același timp par absurde și seamănă cu ilustrația lui Chomsky.

Lipsa texturii și exemple superficiale

Inteligența artificială oferă informații evidente în texte, fapte generale, folosește fraze simplificate și exemple care nu dezvăluie prea mult întrebarea. În acest caz, complexitatea subiectului nu contează. Întrebarea poate fi profundă, cum ar fi perspectivele de dezvoltare incluziuni in Rusia. Sau mai simplu și individual, în ceea ce privește alegerea tehnicii.

În textul despre incluziune, rețeaua neuronală a spus cât de important și relevant este acest subiect. Ea a mai adăugat că incluziunea este un proces lung, însoțit de dificultăți, dar se lucrează pentru a crea condiții pentru persoanele cu nevoi speciale. Și rezumat: dacă nu te oprești, atunci dezvoltarea va fi cu siguranță.

Totuși, ceea ce este scris nu răspunde la întrebare. Este important ca textul să fie specific. De exemplu, puteți analiza care dintre legile adoptate funcționează și care nu și de ce. Pentru a dezvălui experiența străină. Și explicați ce pași concreti mai pot face statul, afacerile și fiecare persoană pentru a dezvolta incluziunea.

În textul despre cumpărând un smartphonegenerate de rețeaua neuronală sunt indicați și factorii de selecție evidenti. De exemplu: ar trebui să decideți asupra sistemului de operare (iOS sau Android), a mărcii, a citi recenzii și specificații tehnice și, de asemenea, să luați în considerare propriile capacități.

Cu toate acestea, oamenii înțeleg acest lucru. Un alt lucru este să vorbim despre cipurile sistemelor de operare, pentru a indica limitările care există în acest moment. Sau menționați soluții inovatoare – de exemplu, tehnologia eSIM, care vă permite să aveți până la cinci numere într-un singur smartphone. Sau distribuiți modele de dispozitive la prețuri excesive și omologii lor la cel mai bun preț.

Denaturarea faptelor, adăugarea de informații inventate

Rețeaua neuronală răspunde în mod plauzibil la aproape orice întrebare, oferind o cronică, date, nume de familie, istoria originii. În acest caz, informația este distorsionată sau complet inventată. Un astfel de bug în activitatea AI se numește halucinație.

Așadar, rețelei neuronale a primit sarcina de a spune despre faimos oameni surzicare a adus o mare contribuţie la dezvoltarea societăţii. Drept urmare, AI a inventat majoritatea dintre ele.

De exemplu, astronautul Raymond Lou sau boxerul Mario Gallegos. Iar cel de-al 42-lea președinte al Statelor Unite nu era încă Matthew Clinton, ci Bill Clinton. Și nu și-a pierdut auzul.

În plus, AI a răspuns cu încredere la solicitarea „scrieți o postare despre reclamă amnezie». Chiar dacă nu există un astfel de termen.

Când a fost întrebat de ce botul inventează oameni și vorbește despre termeni inexistenți, el își cere scuze doar pentru posibila confuzie.

Atunci când faptele false sunt împletite cu date adevărate, este mai dificil să detectezi halucinațiile rețelei neuronale. În special când citire fluentă. Dar dacă vă concentrați asupra exemplelor date în text, le puteți observa pe cele care par suspecte și le puteți verifica introducându-le în bara de căutare.

Lipsa de informații actualizate despre schimbările curente, evenimente

Rețelele neuronale se autoinvață atunci când comunică cu utilizatorii, amintindu-și clarificările unei persoane, reacția acesteia la conținutul generat, exemple pe care o persoană le împărtășește cu un bot. Experți remarcatcă capacitatea AI de a auto-învăța a fost o surpriză pentru ei. Și că această abilitate ajută rețelele neuronale să se îmbunătățească.

în care învățare automată, realizat de dezvoltatori pe gigaocteți de date - articole, cărți, texte de pe Web - are un început și un sfârșit clar. Și practic rețelele neuronale nu au acces la motoarele de căutare. Prin urmare, informațiile care au apărut în urma instruirii efectuate de dezvoltatori nu sunt disponibile pentru AI până la următoarea etapă.

În același timp, intervalul dintre învățarea automată este de luni și uneori de ani. Desigur, progresul nu stă pe loc: de exemplu, în luna mai a acestui an, GPT Plus a devenit disponibil pentru utilizatorii cu abonament plătit ChatGPT cu acces la internet. Cu toate acestea, majoritatea rețelelor neuronale, în special versiunile lor gratuite, nu au încă o astfel de oportunitate.

Deci, baza versiunii gratuite a ChatGPT4 este limitată la 2021, așa că botul nu știe cine a câștigat ultima Cupă Mondială în 2022. Iar rețeaua neuronală Google - Bard AI - a recunoscut că nu a putut compune un text despre evenimente semnificative care au avut loc în lume în această vară.

De când ultimul ei antrenament a fost efectuat de dezvoltatori în mai 2023, vara nu a sosit încă pentru Bard AI.

În astfel de cazuri, rețelele neuronale de obicei nu vin cu fapte, dar admit că nu pot "a prezice viitorul».

Dacă textul nu conține informații actualizate despre subiect sau pare divorțat de realitate, deoarece multe s-au schimbat recent, atunci există posibilitatea ca materialul să fi fost scris de o rețea neuronală.

Ce servicii pot ajuta

Textul generat de inteligența artificială poate fi recunoscut și folosind rețeaua neuronală în sine. De exemplu, se poate bot GPT-4. Serviciile speciale care pot detecta algoritmi AI pot ajuta și ele. Să ne uităm la câteva dintre ele mai jos.

1. Text.ru. Site-ul este poziționat ca un schimb de copywriting și anti-plagiat. Dar recent pe portal a apărut un neuro-asistent plătit. Una dintre funcțiile sale este un detector AI. Textul de verificat ar trebui să fie încărcat în fereastră. După câteva secunde, sistemul va da rezultatul.
2. PR CY. Puteți încărca în serviciu texte de la 1.000 de caractere. În același timp, există clarificări pe portal: opțiuni de calitate scăzută, spam pe care le-a scris o persoană, sistemul le va considera rezultatul muncii AI. La fel și texte cu colorare stilistică strălucitoare - de exemplu, similare lucrărilor Maiakovski.
3. GPTZero. Instrumentul citește complexitatea, combinația de cuvinte, structura și lungimea propozițiilor. Cu toate acestea, dacă serviciul se descurcă bine cu textele în limba engleză, atunci când se încarcă material în limba rusă, adesea dă o eroare. Dintre beneficii - prezența unei versiuni gratuite.

O rețea neuronală poate fi de mare ajutor. De exemplu, atunci când căutați idei. Cu toate acestea, a avea deplină încredere în conținutul ei este periculos. Ar trebui să tratați materialele AI în mod responsabil: editați spam-ul, verificați acuratețea, logica și relevanța faptelor. Și ajustați stilul la limbajul „uman”, pentru a nu speria publicul, salvați reputația și poziția companiei în rezultatele căutării.