Uneori, prezentul seamănă neliniștitor cu anii ’80. Marile puteri într-o competiție pentru supremație. Teama că adversarul va ajunge primul. Convingerea că trebuie să accelerăm, chiar dacă nu știm cât de aproape suntem de limită.
În cursa nucleară, am evitat până acum dezastrul prin descurajare, diplomație, luciditate. Dar și prin noroc. În septembrie 1983, ofițerul sovietic Stanislav Petrov a considerat falsă o alertă de atac nuclear american. A avut dreptate. Episodul arată cât de mult putea conta judecata unui om într-un moment critic.
Astăzi, peste această amenințare se suprapune o altă cursă: inteligența artificială. Participă state și companii, împinse de bani, putere și teama de a rămâne în urmă.
De data aceasta, progresul tehnologic și răspândirea lui au viteza lumii digitale. Software-ul poate fi multiplicat la scară globală, iar sistemele autonome pot acționa mai repede decât reușim noi să intervenim. Raportul internațional privind siguranța AI avertizează că ritmul dezvoltării poate împinge gestionarea riscurilor pe planul doi.
Când fiecare se teme că va pierde cursa, siguranța riscă să devină ceva de rezolvat după lansare.
AI-ul poate aduce progrese uriașe în medicină, știință și educație. Dar, în scenariile extreme discutate de cercetători, pierderea controlului asupra unor viitoare sisteme foarte puternice ar putea produce o catastrofă care să facă pandemia de COVID-19 să pară „pistol cu apă”.
Tocmai această incertitudine cere prudență. Cu cât le oferim sistemelor mai multă autonomie și acces la lucrurile de care depindem, cu atât trebuie să fim mai siguri că le putem opri și corecta.
Norocul ne-a ajutat până acum, dar nu poate ține loc de strategie.
Înainte să ne întrebăm cine va câștiga această cursă, ar merita să ne amintim ce am putea pierde:
„Priviţi din nou acel punct. Acolo ne aflăm noi. Este casa noastră. Suntem noi. Pe acesta şi-au trăit şi îşi trăiesc viaţa toţi cei pe care-i iubeşti, toţi cei pe care-i ştii, toţi cei despre care ai auzit şi, până la urmă, toate fiinţele umane care au existat.
Acolo se află totalitatea bucuriei și suferinței noastre, mii de religii încrezătoare, ideologii și doctrine economice, fiecare vânător și culegător, fiecare erou și laș, fiecare creator și distrugător de civilizație, fiecare rege și țăran, fiecare cuplu îndrăgostit, fiecare mamă și tată, copil plin de speranță, inventator și explorator, fiecare profesor de morală, fiecare politician corupt, fiecare „superstar”, fiecare „lider suprem”, fiecare sfânt și păcătos din istoria speciei noastre a trăit acolo – pe un fir de praf suspendat într-o rază de soare.
Pământul este o scenă foarte mică într-o vastă arenă cosmică. Gândește-te la cruzimile nesfârșite vizitate de locuitorii unui colț al acestui pixel asupra locuitorilor abia perceptibili ai altui colț, cât de frecvente sunt neînțelegerile lor, cât de dornici sunt să se ucidă unii pe alții, cât de fervente sunt urile lor. Gândește-te la râurile de sânge vărsate de toți acei generali și împărați, astfel încât, în glorie și triumf, să poată deveni stăpânii momentani ai unei fracțiuni dintr-un punct.
Posturările noastre, importanța de sine imaginată, iluzia că avem o poziție privilegiată în Univers, sunt contestate de acest punct de lumină palidă. Planeta noastră este un punct singuratic în întunericul cosmic vast.
Pământul este singura lume cunoscută până acum care adăpostește viață. Nu există altundeva, cel puțin în viitorul apropiat, unde specia noastră ar putea migra.
Pentru mine, subliniază responsabilitatea noastră de a păstra și prețui punctul albastru pal, singura casă pe care am cunoscut-o vreodată.” – Carl Sagan, Un palid punct albastru