Elon Musk a cerut să suspende experimentele mari cu AI
Miscelaneu / / April 03, 2023
A fost susținut de cercetători de top din industrie.
Organizația non-profit Future of Life Institute a publicat o scrisoare deschisă semnată de Elon Musk, co-fondatorul Apple Steve Wozniak, co-fondatorul Skype, Jaan Tallinn, precum și alți cercetători AI și directori de la companii mari.
Scrisoarea susține că laboratoarele sunt blocate într-o „cursă scăpată de sub control” pentru a se dezvolta și aplica sisteme de învățare automată pe care „nimeni – nici măcar creatorii lor – nu le poate înțelege, prezice sau cu încredere Control". Iată ce sugerează autorii:
Facem apel la toate laboratoarele de inteligență artificială să suspende imediat instruirea pe sistemele de inteligență artificială mai mari decât GPT-4 timp de cel puțin 6 luni. Suspendarea operațiunilor trebuie să fie publică și verificabilă, iar toți actorii cheie trebuie să fie implicați. Dacă nu este posibilă o pauză în viitorul apropiat, guvernele țărilor ar trebui să intervină și să impună un moratoriu.
Din Pause Giant AI Experiments: O scrisoare deschisă
Scrisoarea exprimă, de asemenea, nemulțumirea față de poziția „o vom elibera așa cum este, o vom repara mai târziu” atunci când dezvoltați rețele neuronale (rețineți cel puțin bard de la Google). Chiar Deschide AI a ridicat deja potențiala nevoie de viitoare audituri de securitate AI. Autorii scrisorii cred că acest viitor a sosit deja.
Dezvoltatorii AI și experții independenți ar trebui să folosească această pauză pentru a dezvolta și implementa în comun protocoale de securitate unificate pentru sisteme AI complexe, a căror conformitate va fi verificată de către independent extern experți. Astfel de protocoale vor ajuta la asigurarea faptului că sistemele sunt suficient de sigure pentru a fi utilizate.
Din Pause Giant AI Experiments: O scrisoare deschisă
Textul integral al scrisorii poate fi citit Aici.
Citeste si🧐
- Cum să utilizați ChatGPT în Telegram și să obțineți rapid răspunsuri la orice întrebări fără browser
- Cum să utilizați GPTZero, un instrument de căutare text creat de ChatGPT
- „ChatGPT nu va înlocui munca unui specialist”: un interviu cu expertul Web 3.0 Stas Ustenko