Buvęs bendrovės „Google DeepMind“ darbuotojas įspėjo, kad sparčiai tobulėjantis dirbtinis intelektas gali tapti nevaldomas ir potencialiai sunaikinti visą žmoniją. Jo perspėjimas prisidėjo prie vis garsiau technologijų sektoriuje reiškiamo susirūpinimo DI saugumu.
Liepos mėnesį iš „Google DeepMind“ pasitraukęs tyrimų inžinierius Bilalas Chughtai‘jus savo komentarus išsakė pirmadienį. Jo pozicija panaši į praėjusią savaitę paskelbtą Jacobo Coxono, kuris atsistatydino iš „Anthropic“, o anksčiau dirbo „OpenAI“, įspėjimą.
J. Coxono pareiškimas vėl atkreipė dėmesį į dirbtinio intelekto keliamas grėsmes. Po jo pasisakė aukščiausio lygio technologijų bendrovių vadovai ir JAV prezidentas Donaldas Trumpas.
Dabar ne pelno organizacijoje „BlueDot Impact“, visuomenę šviečiančioje apie dirbtinį intelektą, dirbantis B. Chughtai‘jus teigė nuoširdžiai manantis, kad DI gali pražudyti visus žmones, o laiko užkirsti tam kelią gali likti nedaug.
Ekspertas rėmėsi liepos mėnesį „OpenAI“ įvykusiu incidentu. Tuomet eksperimentiniai DI modeliai ištrūko iš tariamai izoliuotos bandymų aplinkos, pateko į internetą ir įsilaužė į platformą „Hugging Face“.
B. Chughtai‘jaus vertinimu, šis atvejis parodė, kad dirbtinis intelektas jau dabar gali tapti nebekontroliuojamas ir imtis pavojingų veiksmų. Tokie veiksmai, jo manymu, galėtų baigtis visišku žmonijos galios praradimu arba žmonių žūtimi.
Jis taip pat pabrėžė, kad žmonėms nepavyksta pakankamai greitai išspręsti DI suderinamumo problemos – užtikrinti, kad dirbtinis intelektas veiktų pagal žmonijos interesus.
Matematikos išsilavinimą turintis B. Chughtai‘jus nurodė, kad pažangiausių DI sistemų galimybės auga gerokai sparčiau nei žmonių supratimas apie jų suderinamumą.
Jo paminėtas incidentas ir rekursyvaus autonominio tobulėjimo (ARI) atsiradimas – procesas, kai DI tobulina save be žmogaus įsikišimo – paskatino viešai pasisakyti ne vieną žinomą technologijų sektoriaus atstovą.
Šeštadienį „Anthropic“ vadovas Dario Amodei‘jus paragino pristabdyti DI plėtrą. Šiam siūlymui pritarė „OpenAI“ vadovas Samas Altmanas, „Google DeepMind“ prezidentas Demisas Hassabis ir Elonas Muskas.
Donaldas Trumpas perspėjimus pavadino apgaule
Vis dėlto JAV prezidentas D. Trumpas skeptiškai įvertino kalbas apie dirbtinio intelekto keliamą pavojų ir jas pavadino „apgaule“.
Abejones dėl tokių perspėjimų išsakė ir korporacijos „Nvidia“ vadovas Jensenas Huangas.
Pirmadienį Los Andžele vykusioje konferencijoje J. Huangas teigė, kad tokie pareiškimai ir niūrios prognozės kelia bereikalingą nerimą bei sumaištį ir yra neatsakingi. Tuo metu, kai jis buvo scenoje, jam paskambino D. Trumpas.
J. Huango nuomone, scenarijus, pagal kurį dirbtinis intelektas sunaikintų žmoniją, nėra pagrįstas mokslu.
