Upozorenja da umjetna inteligencija napreduje brže od zaštitnih mehanizama koji bi je trebale držati pod kontrolom, dolaze sa svih strana. Izvršni direktor Anthropica Dario Amodei prošlog je tjedna pozvao tvrtke koje razvijaju najnaprednije modele umjetne inteligencije da uspore tempo razvoja umjetne inteligencije, a poziv su podržali šef OpenAI-ja Sam Altman i šef xAI-ja Elon Musk. OpenAI je zasebno zatražio od američkog Kongresa obvezna nacionalna sigurnosna pravila.
Ta trenutno burna rasprava sada daje i posve novi kontekst izjavama bivšeg izvršnog direktora Googlea Erica Schmidta iz intervjua za portal Noema, objavljenog još u svibnju 2024. godine. Schmidt nije samo predviđao da će autonomni sustavi umjetne inteligencije neizbježno izmaknuti ljudskoj kontroli. Govorio je o sposobnostima koje je očekivao tijekom nekoliko godina: većim kontekstnim prozorima, agentima sposobnima za duge lance zaključivanja te sustavima koji upute mogu pretvarati u softver i radnje.
Schmidt je rekao da bi broj agenata s vremenom mogao dosegnuti milijune te iznio spekulativnu mogućnost da bi mogli komunicirati na načine koje ljudi ne bi razumjeli. Na pitanje kada bi društvo trebalo intervenirati, rekao je da bi granica bila dosegnuta kada bi sustavi djelovali na načine koje ljudi više ne mogu razumjeti, pritom postavivši pitanje bi li tada trebalo, takoreći, 'izvući utikač'. Tada je procijenio je da bi takva promjena mogla nastupiti unutar pet godina, što koincidira s predviđanjima čelnika vodećih AI tvrtki da bi se umjetna inteligencija mogla oteti kontroli do kraja desetljeća, piše Dnevnik.hr.
'Neki vjeruju da će ti agenti razviti vlastiti jezik kako bi međusobno komunicirali. A tada više nećemo razumjeti što modeli rade. Što bismo trebali učiniti? Izvući utikač? Doslovno isključiti računalo? To će doista postati problem kada agenti počnu komunicirati i raditi stvari na načine koje mi kao ljudi ne razumijemo. To je granica, po mom mišljenju', rekao je Schmidt u tom intervjuu.
To upozorenje danas djeluje manje izdvojeno. Amodei je predložio pristup neovisnih procjenitelja laboratorijima za umjetnu inteligenciju, koordinaciju među vodećim razvojnim tvrtkama i međunarodne sporazume o opasnim sposobnostima. Njegova intervencija uslijedila je nakon ostavke bivšeg istraživača Anthropica Jacoba Coxona, koji je Anthropic i OpenAI optužio da se utrkuju prema sustavima sposobnima za samostalno poboljšavanje bez odgovarajućih zaštitnih mehanizama.
OpenAI se također okrenuo formalnoj regulaciji. U rujnu je zatražio obvezne sigurnosne zahtjeve povezane sa sposobnostima modela te podržao kalifornijske mjere koje obuhvaćaju procjene, standarde za revizore, zaštitu maloljetnika i biološke rizike.
Bijela kuća je pak krenula u naizgled suprotnom smjeru. Američki predsjednik Donald Trump odbacio je tvrdnje da bi umjetna inteligencija mogla uništiti čovječanstvo kao 'podvalu' te se usprotivio usporavanju razvoja, naglašavajući natjecanje s Kinom u razvoju te tehnologije.
Sukob više nije samo između optimista oko umjetne inteligencije i vanjskih kritičara. Tvrtke koje razvijaju najmoćnije sustave traže ograničenja, dok vlade, konkurenti i europski razvojni timovi raspravljaju bi li usporavanje razvoja smanjilo rizik ili bi tek učvrstilo prednost danas dominantnih tvrtki.
