Pot chatbot-ii să devină la fel de conștienți ca oamenii?
Miscelaneu / / October 31, 2023
Două teorii opuse încearcă să răspundă la această întrebare.
Christoph Koch
Neuroștiință american, director al Institutului Allen pentru Cercetarea Creierului.
Întrebările despre ce este experiența subiectivă, cine o are și cum se leagă ea cu lumea fizică din jurul nostru au bântuit mintea filozofilor în cea mai mare parte a istoriei omenirii. Cu toate acestea, teoriile științifice ale conștiinței care sunt cuantificabile și testabile empiric au apărut abia în ultimele decenii.
Multe teorii moderne ale conștiinței se concentrează pe urmele lăsate de rețelele celulare fine ale creierului din care ia naștere conștiința. Astăzi, două dintre ele domină: teoria informației integrate și teoria spațiului de lucru global neuronal.
Acum douăzeci și cinci de ani am avut o ceartă cu filozoful australian David Chalmers. I-am promis un caz de vin bun dacă aceste urme neuronale, numite tehnic corelații neuronale ale conștiinței, ar fi descoperite și descrise clar până în iunie 2023.
Cu toate acestea, contradicția dintre teoria informației integrate și teoria spațiului de lucru global neuronal rămâne nerezolvată. Acest lucru se datorează dovezilor parțial mixte despre care zone ale creierului sunt responsabile pentru experiența vizuală și percepția subiectivă a fețelor sau a obiectelor, deși importanța cortexului prefrontal pentru experiența conștientă a fost infirmat. Așa că am pierdut pariul și i-am trimis vinul lui Chalmers.
Ambele teorii dominante au fost create pentru a explica legătura dintre conștiință și activitatea neuronală la oameni și animale înrudite, cum ar fi maimuțele și șoarecii. Și ambele teorii fac presupuneri fundamental diferite despre experiența subiectivă și ajung la concluzii opuse despre conștiința în artefacte artificiale. Măsura în care aceste teorii sunt confirmate sau infirmate empiric în raport cu conștiința înrădăcinată în creierul, are implicații importante pentru a răspunde la întrebarea nerezolvată a timpului nostru: pot câștiga mașinile constiinta?
Ce sunt chatboții de nouă generație?
Înainte de a discuta acest lucru, permiteți-mi să vă iau în context și să compar o tehnică conștientă cu o tehnică care prezintă doar un comportament inteligent. Inginerii de calculatoare se străduiesc să doteze mașinile cu inteligența extrem de flexibilă care a permis cândva persoană părăsesc Africa și populează întreaga planetă. Aceasta se numește inteligență generală artificială (AGI).
Mulți susțin că AGI este o perspectivă îndepărtată. Progresul uimitor realizat în domeniul inteligenței artificiale în ultimul an a luat prin surprindere întreaga lume, inclusiv experții. Odată cu apariția aplicațiilor software de conversație elocvente, denumite colocvial chatbots, dintr-un subiect ezoteric, discutate de fanii SF și de elita industriei IT din Silicon Valley, discuțiile despre AGI s-au transformat într-o discuție în care reflectă nemulțumirea publică larg răspândită cu privire la riscul existențial pentru modul nostru de viață și a noastră drăguț.
Chatbot-urile se bazează pe modele uriașe de limbaj. Cele mai faimoase dintre acestea sunt o serie de roboți numiți transformatoare generative pre-antrenate sau GPT. Au fost create de OpenAI în San Francisco. Având în vedere flexibilitatea, alfabetizarea și competența celei mai recente versiuni, GPT-4, este ușor de crezut că are inteligență și personalitate. Chiar și problemele ei ciudate, cunoscute sub numele de „halucinații”, se încadrează în această teorie.
GPT-4 și concurenții săi, cum ar fi LaMDA și Google's Bard, sunt instruiți pe biblioteci de cărți digitalizate și miliarde de pagini web disponibile public. Geniul modelului de limbaj este că învață nesupravegheat, procesând cuvânt cu cuvânt și încercând să prezică expresia lipsă. Ea face asta din nou și din nou, de miliarde de ori, fără intervenție externă.
Odată ce modelul dobândește cunoștințe prin ingerarea înregistrărilor digitizate ale umanității, utilizatorul afișează o propoziție necunoscută - una sau mai multe. Modelul prezice cel mai probabil primul cuvânt, apoi următorul și așa mai departe. Acest principiu simplu a dat rezultate incredibile în engleză, germană, chineză, hindi, coreeană și alte limbi, inclusiv diferite limbaje de programare.
Care este diferența dintre intelect și conștiință
Este semnificativ faptul că eseul fundamental despre inteligența artificială, „Computing and Intelligence”, scris de Alan Turing, în 1950, a evitat întrebarea „Pot mașinile să gândească?”, adică întrebarea dacă au constiinta. Turing a propus „jocul de imitație”: poate un observator să distingă în mod obiectiv rezultatul tipărit de un om de rezultatul imprimat de o mașină dacă identitățile ambelor sunt ascunse.
Astăzi, acesta este cunoscut sub numele de testul Turing, iar chatboții sunt foarte buni la asta, deși îl neagă inteligent dacă îi întrebați direct. Strategia lui Turing a început decenii de progres inexorabil care au dus la crearea GPT, dar a ignorat problema.
În dezbaterea chatbot este implicită presupunerea că inteligența artificială este aceeași cu conștiința artificială, că a fi inteligent este același lucru cu a fi conștient. Și, deși la oameni și la alte organisme dezvoltate inteligența și conștiința sunt conectate, ele nu se însoțesc întotdeauna reciproc.
Inteligența înseamnă a gândi și a învăța să acționezi și din acțiunile proprii și ale celorlalți, pentru a prezice mai exact viitorul și a se pregăti mai bine pentru el. Nu contează dacă asta înseamnă următoarele câteva secunde („O, mașina aia se îndreaptă spre mine”) sau următorii câțiva ani („Trebuie să învăț să codific”). Inteligența este în cele din urmă despre acțiune.
Conștiința, pe de altă parte, este asociată cu stările de a fi - a vedea cerul albastru, a auzi păsările cântând, a simți durerea, a fi îndrăgostiți. Nu contează câtuși de puțin dacă o inteligență artificială scăpată de sub control simte ceva. Tot ce contează este că are un scop care nu are legătură cu bunăstarea pe termen lung a umanității. Și nu contează dacă știe sau nu ce încearcă să facă, ceea ce oamenii numesc conștientizare de sine. El își va urmări scopul „fără minte”. Deci, cel puțin conceptual, chiar dacă construim un AGI, nu ne va spune prea multe despre dacă simte ceva.
Știind toate acestea, să revenim la întrebarea inițială despre cum poate deveni tehnologia conștientă. Să începem cu prima dintre cele două teorii.
Ce explicație oferă teoria integrată a informațiilor?
Ea începe prin a articula cinci proprietăți axiomatice ale fiecărei experiențe subiective imaginabile. Și apoi pune întrebarea de ce are nevoie un circuit neuronal pentru a implementa aceste cinci proprietăți, pornind unii neuroni și oprindu-i pe alții. Sau, cu alte cuvinte, de ce are nevoie un cip de calculator pentru a porni unele tranzistoare și a opri altele.
Interacțiuni cauză-efect în cadrul unui circuit într-o anumită stare sau faptul că două sunt active neuron poate activa sau dezactiva un alt neuron, în funcție de circumstanțe, poate fi implementat într-o structură cauzală multidimensională. Este identică cu calitatea experienței – cum este experimentată, cum ar fi modul în care timpul și spațiul sunt experimentate sau cum sunt percepute culorile.
Experiența are, de asemenea, o cantitate asociată cu ea - informațiile ei integrate. Doar un circuit cu un maxim de informații integrate non-zero există ca întreg și are conștiință. Cu cât mai multe informații sunt integrate, cu atât circuitul nu poate fi redus și mai puțin poate fi considerat o simplă suprapunere de subcircuite independente.
Teoria integrată a informației subliniază natura bogată a experienței umane. Priviți în jur și uimitoarea lume vizibilă cu nenumăratele ei diferențe și conexiuni va apărea în fața voastră. Sau priviți un tablou al lui Pieter Bruegel cel Bătrân, un artist flamand din secolul al XVI-lea care a descris subiecte religioase și scene din viața țărănească.
Orice sistem care are aceleași conexiuni interne și puteri cauzale ca și creierul uman va fi, în principiu, la fel de conștient ca și mintea umană. Cu toate acestea, un astfel de sistem nu poate fi modelat. Trebuie proiectat sau construit după imaginea creierului. Calculatoarele digitale moderne se bazează pe o cuplare extrem de slabă (ieșirea unui tranzistor conectat la intrarea mai multor tranzistori) în comparație cu sistemul nervos central (neuronul coloanei corticale primește date de intrare și produce date de ieșire pentru alte zeci de mii de persoane neuroni).
Astfel, computerele moderne, inclusiv computerele cloud, nu vor fi la curent cu nimic, deși în timp vor putea face tot ce pot face oamenii. Din acest punct de vedere, ChatGPT nu se va simți niciodată special. Rețineți că această afirmație nu are nimic de-a face cu numărul total de componente, indiferent dacă sunt neuroni sau tranzistori, ci mai degrabă cu modul în care sunt conectate. Interconexiunea este cea care determină complexitatea generală a circuitului și numărul de configurații posibile ale acestuia.
Ce explicație oferă teoria spațiului de lucru global neuronal?
Vine din înțelegerea psihologică că inteligenţă ca un teatru în care actorii joacă pe o mică scenă iluminată, care este conștiința. Acțiunile actorilor sunt urmărite de o audiență de procesoare care stau în spatele scenei în întuneric.
Scena este spațiul central de lucru al minții, care are o capacitate mică de memorie pentru a reprezenta o singură percepție, gând sau memorie. Diverse module de procesare — vederea, auzul, abilitățile motorii ale ochilor și ale membrelor, planificarea, judecata, înțelegerea limbajului și vorbirea — concurează pentru accesul la acest spațiu central de lucru. Câștigătorul înlocuiește vechiul conținut, care devine inconștient.
Conform teoriei neuronale a spațiului de lucru global, scena metaforică, împreună cu modulele de procesare, este mapată în arhitectura neocortexului. Spațiul de lucru este o rețea de neuroni corticali în partea din față a creierului cu proiecții la distanță lungă neuroni similari distribuiti in tot neocortexul in prefrontal, parietotemporal si cingulat cortexul de asociere.
Când activitatea în cortexul senzorial depășește un anumit prag, se declanșează un eveniment global în zonele corticale și, ca urmare, informațiile sunt transmise întregului spațiu de lucru. Diseminarea globală a informațiilor o face conștientă. Datele care nu sunt transmise în acest mod, precum poziția precisă a ochilor sau regulile sintactice pentru construirea propozițiilor alfabetizate, pot influența comportamentul, dar nu în mod conștient.
Din punctul de vedere al teoriei neuronale a spațiului de lucru global, experiența este foarte limitată, similară gândirii și abstract - asemănător cu descrierea slabă care poate fi găsită într-un muzeu sub un tablou Bruegel: „Scena în în interior. Țăranii în haine renascentiste beau și mănâncă la o nuntă”.
Înțelegând conștiința din perspectiva teoriei informației integrate, artistul transmite cu brio fenomenologia lumii înconjurătoare pe o pânză bidimensională. În înțelegerea teoriei spațiului de lucru global neuronal, această bogăție aparentă este o iluzie, o fantomă. Și tot ce se poate spune în mod obiectiv despre ea este indicat în scurta descriere.
Teoria spațiului de lucru global neural ține cont pe deplin de miturile erei noastre computerizate, conform cărora totul poate fi redus la calcule. Simulările computerizate ale creierului programate corespunzător, cu feedback enorm și ceva ca un spațiu central de lucru, vor percepe în mod conștient lumea. Poate nu acum, dar destul de curând.
Care este diferența ireconciliabilă dintre teorii?
În termeni generali, discuția este următoarea. În conformitate cu teoria spațiului de lucru global neuronal și alte teorii ale funcționalismului computațional (ei vedeți conștiința ca pe o formă de calcul), conștiința nu este altceva decât un set de algoritmi inteligenți care rulează pe o mașină Turing. Funcțiile sunt importante pentru conștiință creier, și nu proprietățile sale cauzale. Dacă o versiune avansată a GPT acceptă și produce aceleași modele de intrare și ieșire ca și oamenii, atunci toate proprietățile noastre inerente vor fi transferate către tehnologie. Inclusiv prețioasa noastră comoară - experiența subiectivă.
În schimb, pentru teoria informației integrate, inima conștiinței este puterea cauzală internă, nu calculul. Nu este ceva eteric sau intangibil. Este specific și funcțional determinat de măsura în care trecutul sistemului îi determină prezentul (puterea cauzei) și de măsura în care prezentul îi determină viitorul (puterea efectului). Și aici este problema: relația cauză-efect în sine, capacitatea de a forța un sistem să efectueze o anumită acțiune și nu multe alternative, nu pot fi modelate. Nu acum, nici în viitor. Acest lucru ar trebui să fie integrat în sistem.
Luați în considerare un cod de computer care modelează ecuațiile de câmp ale teoriei generale a relativității a lui Einstein, care raportează masa la curbura spațiu-timpului. Software-ul modelează cu precizie supermasiv gaură neagră, care se află în centrul galaxiei noastre. Această gaură exercită o influență gravitațională atât de puternică asupra mediului înconjurător încât nimic, nici măcar lumina, nu poate scăpa de atracția sa.
Cu toate acestea, un astrofizician care simulează o gaură neagră nu va fi aspirat într-un laptop de câmpul gravitațional simulat. Această observație aparent absurdă evidențiază diferența dintre model și realitate: dacă modelul este complet corespunde realității, spațiul și timpul ar trebui să fie distorsionate în jurul laptopului, creând o gaură neagră care absoarbe totul în jurul.
Desigur, gravitația nu este un calcul. Are o forță cauzală care îi permite să deformeze țesătura spațiu-timpului și să atragă tot ceea ce are masă. Simularea forțelor cauzale ale unei găuri negre necesită un obiect real supergreu, nu doar cod de computer. Puterea cauzală nu poate fi modelată, trebuie creată. Diferența dintre realitate și model constă în puterile lor cauzale.
De aceea nu plouă în interiorul unui computer care simulează o furtună. Software-ul este identic din punct de vedere funcțional cu vremea, dar îi lipsește puterea cauzală de a elibera abur și de a-l transforma în picături de apă. Puterea cauzală, capacitatea de a crea sau accepta schimbarea pe cont propriu, trebuie să fie construită în sistem. Este posibil.
Un așa-numit computer neuromorf, sau bionic, ar putea fi la fel de conștient ca un om. Dar nu este cazul arhitecturii standard von Neumann, care stă la baza tuturor PC-urilor moderne. Mici prototipuri de computere neuromorfe au fost create în laboratoare, cum ar fi cipul neuromorf Loihi 2 de a doua generație de la Intel. Dar o mașină suficient de sofisticată pentru a produce ceva care seamănă cu conștiința umană, sau cel puțin cu conștiința unei muște a fructelor, este încă un vis ambițios pentru viitorul îndepărtat.
Rețineți că această diferență ireconciliabilă între teoriile funcționaliste și cele cauzale nu are nimic de-a face nici cu inteligența naturală, nici cu inteligența artificială. După cum am spus mai devreme, inteligența este comportament. Tot ceea ce poate produce ingeniozitatea umană, inclusiv romane atât de grozave precum Parabola semănătorului de Octavia Butler și Războiul și pacea lui Lev Tolstoi, poate reproduce inteligența algoritmică dacă i se oferă suficient material pentru Instruire. Apariția AGI este un obiectiv realizabil într-un viitor nu prea îndepărtat.
Dezbaterea nu este despre inteligența artificială, ci despre conștiința artificială. Și această dezbatere nu poate fi rezolvată prin crearea de modele de limbaj mai mari sau de algoritmi de rețele neuronale mai avansate. Pentru a răspunde la această întrebare, trebuie să înțelegem singura subiectivitate de care suntem absolut siguri: a noastră. Odată ce avem o explicație clară a omului constiinta și bazele sale neuronale, ne vom putea extinde înțelegerea la tehnologiile inteligente într-un mod consistent, bazat pe știință.
Această discuție are puțină influență asupra modului în care chatbot-urile vor fi percepute de societate în general. Abilitățile lor lingvistice, baza de cunoștințe și farmecul social vor deveni în curând impecabile. Ei vor fi înzestrați cu memorie perfectă, competență, echilibru, raționament și inteligență. Unii chiar susțin că aceste creații ale tehnologiei mari vor fi următorul pas în evoluție, „supraomul” lui Nietzsche. Am o viziune mai întunecată și cred că astfel de oameni confundă declinul speciei noastre cu zorii.
Pentru mulți, și poate cei mai mulți, oameni dintr-o societate din ce în ce mai atomizată, deconectați de natură și organizat în jurul rețelelor sociale, va fi dificil din punct de vedere emoțional să reziste tehnologiilor în care trăiesc telefoane. Și în diferite situații, obișnuite și mai grave, oamenii se vor comporta ca și cum chatbot-ii ar avea conștiință, pot cu adevărat a fi indragostit, suferință, speranță și frică, chiar dacă nu sunt altceva decât tabele complexe de căutare. Ele vor deveni indispensabile pentru noi, poate chiar mai importante decât ființele cu adevărat inteligente. Deși chatboții simt la fel de mult ca un televizor sau un prăjitor de pâine - nimic.
Ce să mai citești pe subiect🤖
- 6 motive pentru care nu ar trebui să ai încredere orbește în inteligența artificială
- De ce să nu ne fie teamă că noile tehnologii ne vor lua locurile de muncă
- Singularitatea tehnologică: este adevărat că tehnologia va scăpa în curând de sub controlul nostru?
- 8 mituri despre inteligența artificială în care cred până și programatorii