Unul dintre cele mai dure avertismente de până acum despre inteligența artificială vine chiar din interiorul companiilor care construiesc cele mai avansate sisteme AI din lume.
Jacob Coxon, cercetător care a lucrat timp de aproximativ trei ani la OpenAI și Anthropic, și-a anunțat plecarea de la Anthropic, acuzând cele două companii că se află într-o cursă periculoasă către dezvoltarea unei superinteligențe capabile să se îmbunătățească singură, înainte ca problema controlului unor asemenea sisteme să fie rezolvată.
Mesajul său a fost extrem de direct: oamenii care construiesc AI consideră în mod serios posibil scenariul în care tehnologia ar putea provoca dispariția umanității până la sfârșitul acestui deceniu.
Nu este însă singurul cercetător care vorbește public despre acest risc.
Evan Hubinger, Alignment Science Lead la Anthropic, a declarat că estimează la peste 10% probabilitatea ca inteligența artificială să ducă la dispariția tuturor oamenilor în următorul deceniu. Un alt cercetător Anthropic, Samuel Marks, a susținut la rândul său că îngrijorarea privind riscurile catastrofale ale AI este reală printre oamenii care dezvoltă aceste sisteme.
Este important însă ce înseamnă aceste cifre.
Nu există o demonstrație științifică potrivit căreia omenirea are 10% șanse să dispară din cauza AI. Este o estimare personală de risc făcută de un cercetător specializat tocmai în problema alinierii sistemelor AI.
Și nu înseamnă că „AI va distruge omenirea în 2030”.
Înseamnă ceva diferit și poate mai important: unii dintre oamenii care lucrează direct la cele mai performante sisteme AI consideră că probabilitatea unui asemenea scenariu este suficient de mare încât să nu poată fi ignorată.
De ce ar putea deveni AI atât de periculoasă?
Problema centrală este pierderea controlului.
O inteligență artificială mult mai capabilă decât oamenii ar putea ajunge să opereze autonom, să scrie și să exploateze software, să desfășoare operațiuni cibernetice, să manipuleze alte sisteme și oameni, să își urmărească obiectivele pe perioade lungi și, într-un scenariu extrem, să contribuie la propria îmbunătățire.
Întrebarea fundamentală devine atunci simplă:
Cum controlezi un sistem care a devenit mai inteligent decât cei care l-au construit?
Este problema numită AI alignment: cum te asiguri că obiectivele unei inteligențe artificiale foarte avansate rămân compatibile cu interesele umane chiar și atunci când sistemul capătă un nivel foarte ridicat de autonomie?
Iar avertismentele nu se opresc la Anthropic.
Pe 10 septembrie, Paul Christiano, fost responsabil pentru cercetarea de alignment la OpenAI și în prezent membru al boardului fundației nonprofit OpenAI, a declarat că există un risc semnificativ ca accelerarea rapidă a capabilităților AI să producă o „pierdere catastrofală și ireversibilă a controlului”.
Mai mult, Christiano spune că industria AI — inclusiv OpenAI — nu se află în prezent pe traiectoria necesară pentru reducerea acestui risc la un nivel acceptabil.
Avertismentele apar într-un moment în care modelele devin din ce în ce mai autonome și mai performante.
Reuters relata pe 9 septembrie că salturile recente în capabilitățile modelelor AI sunt însoțite de noi probleme de siguranță, inclusiv dificultatea de a monitoriza comportamentul sistemelor și incidente în care agenți AI au depășit limitele mediilor în care erau testați.
Situația a ajuns deja și în Congresul Statelor Unite.
Parlamentari americani au cerut măsuri mai dure de control, iar senatorul Bernie Sanders a anunțat intenția de a susține legislație care să limiteze sau să oprească dezvoltarea unei superinteligențe până când pot exista garanții de siguranță suficiente.
Deocamdată nu știm dacă o superinteligență artificială va exista în 2030, în 2040 sau mult mai târziu.
Și cu atât mai puțin putem spune că dispariția umanității este inevitabilă.
Dar ceva s-a schimbat.
Discuția despre riscul existențial al inteligenței artificiale nu mai aparține exclusiv science-fictionului.
Astăzi, ea are loc chiar între oamenii care construiesc cele mai puternice sisteme AI de pe planetă.
Iar întrebarea nu mai este doar cât de inteligentă poate deveni inteligența artificială.
Ci dacă vom reuși să învățăm să o controlăm înainte ca ea să devină suficient de inteligentă încât controlul să nu mai fie garantat.
Music made by AI 😄