Kako umjetna inteligencija postaje sve snažnija svakog dana, jedan od ključnih ljudi uloženih u njezino usavršavanje tvrdi da bi uskoro čak mogla postati samoodrživa i samoreplikativna.
U podcast intervjuu s Ezra Kleinom iz New York Timesa, izvršni direktor Anthropica Dario Amodei raspravljao je o “odgovornom skaliranju” tehnologije — i kako bi bez upravljanja mogla početi razmnožavati se.
Kako je Amodei objasnio Kleinu, Anthropic koristi analogiju s razinama biološke sigurnosti laboratorija kao analogiju za AI. Trenutno, kaže, svijet je na razini ABS 2 stepenu razijenosti AI-a, ABS 4 koja bi uključivala “autonomiju” i “uvjeravanje”, možda je već na vidiku.
“ABS 4 bit će više o aspektu zloupotrebe, omogućavanju državnim akterima da značajno povećaju svoje sposobnosti, što je mnogo teže nego omogućavanje nasumičnim ljudima,” rekao je Amodei.
Autonomna AI
Kada je riječ o “strani autonomije” stvari postaju još divlje. “Različite mjere ovih modela”, nastavio je, “prilično su blizu mogućnosti replikacije i preživljavanja u divljini.”
Kada ga je Klein pitao koliko će trebati da se dođe do tih različitih razina prijetnji, Amodei — koji kaže da je sklon razmišljanju “eksponencijalno” — rekao je da misli da bi se razina “replikacije i preživljavanja u divljini” mogla postići “negdje između 2025. i 2028. godine.”
“Stvarno govorim o skoroj budućnosti ovdje. Ne govorim o 50 godina od sada,” rekao je izvršni direktor Anthropica. “Mislim da bi to moglo biti u bliskoj budućnosti.”
Amodei je važna figura u tom području. Još 2021. godine, on i njegova sestra Daniela napustili su OpenAI zbog razlika u smjeru nakon stvaranja GPT-3 — kojeg je CEO i suosnivač pomogao izgraditi — i partnerstva tvrtke s Microsoftom. Uskoro nakon toga, braća su osnovala Anthropic zajedno s drugim bivšim zaposlenicima OpenAI-a kako bi nastavili svoje napore za odgovorno skaliranje.
“Ne znam,” nastavio je tijekom intervjua s Kleinom. “Moguće je da griješim. Ali mislim da bi to moglo biti nešto u bliskoj budućnosti.”
Iako su razgovori o apokaliptičnom scenariju umjetne inteligencije prilično uobičajeni ovih dana, Amodeijeva unutarnja perspektiva dodaje puno težine njegovom argumentu — i čini misiju Anthropica “osigurati da transformacijska AI pomaže ljudima i društvu da procvjeta” još vrijednijom.