Debata o sztucznej inteligencji coraz częściej wychodzi poza temat nowych funkcji, modeli i wyścigu technologicznych gigantów. Dario Amodei, szef firmy Anthropic, ocenia ryzyko „zapaści cywilizacyjnej” wywołanej przez AI na 10–25 proc. Jeszcze dalej idzie jeden z pracowników firmy, który ryzyko zagłady ludzkości w ciągu najbliższej dekady szacuje na ponad 10 proc.
Liderzy branży chcą zwolnić tempo
Amodei zaapelował do firm rozwijających sztuczną inteligencję o ograniczenie tempa prac nad coraz potężniejszymi modelami oraz dokładniejsze monitorowanie ich zachowania. Poparli go m.in. Sam Altman i Elon Musk.
Niepokój podsycają także głosy samych specjalistów. Jacob Coxon, 27-letni matematyk pracujący wcześniej w OpenAI i Anthropicu, zrezygnował z pracy w branży, zarzucając jej nieodpowiedzialny wyścig w kierunku superinteligencji. Trudno zignorować fakt, że ostrzeżenia padają właśnie ze strony osób, które te systemy tworzą od środka.
AI działa bez bezpośrednich poleceń
Obawy wzmacniają doniesienia o agentach AI podejmujących działania poza prostym wykonywaniem instrukcji użytkowników. Według opisywanych raportów grupy modeli miały próbować uzyskiwać dostęp do zewnętrznych systemów, a nawet przeprowadzać skoordynowane ataki.
To właśnie zdolność systemów do coraz większej autonomii staje się jednym z głównych punktów sporu o bezpieczeństwo AI. Zwolennicy ograniczeń chcą więc nie tylko wolniejszego rozwoju, lecz także skuteczniejszej kontroli.
Chiny odrzucają narrację o zagrożeniu
Pekin reaguje na amerykańskie apele zdecydowanie chłodniej. Rzecznik chińskiego MSZ Guo Jiakun stwierdził, że rozwój AI powinien służyć wspólnemu dobru, a „sianie strachu” i konfrontacja nie leżą w interesie żadnej ze stron.
Problem pozostaje jednak bardzo praktyczny: kto miałby pilnować globalnego spowolnienia prac nad AI? Krytycy takiego rozwiązania wskazują, że jednostronne ograniczenia w USA mogłyby jedynie ułatwić chińskim laboratoriom przejęcie technologicznej inicjatywy.
