OpenAI a avertizat despre descoperirea AI care ar putea amenința umanitatea

Alaltăieri exil CEO-ul OpenAI, Sam Altman, mai mulți cercetători ai personalului companiei au scris consiliului de administrație scrisoare de avertizare cu privire la descoperirea unei inteligențe artificiale puternice, despre care ei spun că „ar putea amenința pentru umanitate”. Despre asta cu referire la propriile noastre surse scrie Reuters.

Această scrisoare a fost citată ca unul dintre factorii din lunga listă de plângeri din partea consiliului de administrație care au dus la demiterea lui Altman. Reuters nu a putut să vorbească personal cu autorii sau să obțină comentarii de la OpenAI. Totuși, după o astfel de solicitare, compania, într-un mesaj intern către angajați, a anunțat existența unui anumit proiect numit Q* (pronunțat Q-Star).

Unii angajați OpenAI cred că Q* ar putea fi o descoperire în așa-numitul inteligența artificială generală (AGI). OpenAI îl caracterizează ca fiind un sistem autonom care depășește oamenii la cele mai multe sarcini valoroase din punct de vedere economic.

Până acum, Q* poate executa doar probleme de matematică la nivel elementar, conform unei surse. școlilor, dar finalizarea cu succes a unor astfel de teste oferă cercetătorilor un mare optimism cu privire la perspectivele acesteia dezvoltare.

Principala diferență dintre o astfel de IA este că este capabilă să stabilească obiective, să împartă probleme complexe în unele mici, să lucreze la o gamă largă de probleme și să găsească soluții ținând cont de contextul din diferite domenii. Mai simplu spus, o astfel de inteligență, în teorie, poate înlocui un specialist înalt calificat cu cunoștințe, abilități și experiență vastă.

Cercetătorii cred că matematica este vârful AI generativ. În zilele noastre, se pricepe la scris și la traducere, prezice statistic următorul cuvânt, iar răspunsurile la aceeași întrebare pot varia foarte mult. Dar cucerirea matematicii (unde există un singur răspuns corect) implică faptul că AI va avea abilități de raționament mai largi, care seamănă cu inteligența umană. Acest lucru poate fi aplicat, de exemplu, noilor cercetări științifice, spun experții.

În scrisoarea lor către consiliul de administrație, cercetătorii au remarcat puterea AI și potențialele pericole. Ei au remarcat, de asemenea, munca unui grup special de „oameni de știință cu inteligență artificială”, a cărui existență a fost confirmată de numeroase surse. Echipa studiază cum să optimizeze modelele AI existente pentru a-și îmbunătăți raționamentul și, în cele din urmă, să efectueze lucrări științifice cu ele, a spus una dintre persoane.

Altman a condus efortul de a face din ChatGPT una dintre aplicațiile software cu cea mai rapidă creștere în istoria și a atras investițiile și resursele de calcul de la Microsoft necesare pentru a aduce astfel AGI. Și cu puțin timp înainte de demitere, la summitul liderilor mondiali de la San Francisco, el a anunțat câteva „realizări serioase care sunt chiar după colț”.

O zi mai târziu, consiliul l-a concediat pe Altman.

Poate că într-o zi toate aceste decizii și evenimente vor sta la baza unei cărți, a unui întreg film sau chiar a unui manual de istorie.