Kanados kompiuterių mokslininkas Yoshua Bengio, laikomas vienu iš dirbtinio intelekto (DI) pradininkų, agentūrai AFP teigė, kad žmonija šios technologijos kontrolę praranda. Jo manymu, pasauliui reikia saugiklių, panašių į taikomus kontroliuojant branduolinius ginklus.
Susirūpinimas DI pavojais sustiprėjo pastarosiomis savaitėmis, kai didžiųjų technologijų įmonių darbuotojai pradėjo trauktis iš pareigų ir perspėjo apie galimą egzistencinę grėsmę žmonių gyvybei, jei technologijų plėtra nebus suvaldyta.
Y. Bengio yra Monrealio universiteto profesorius. 2018 metais jis kartu su Geoffrey Hintonu, dažnai vadinamu vienu iš DI krikštatėvių, pelnė Turingo premiją – aukščiausiu informatikos apdovanojimu laikomą prizą, prilyginamą Nobelio premijai.
Mokslininkas mano, kad įmonių pareiškimai apie per greitai vykstančią pažangą ir prarandamą kontrolę nėra be pagrindo. 62-ejų Y. Bengio AFP antradienį sakė, jog tokios rizikos jo srities atstovams buvo numanomos jau seniai, tačiau DI saugumo klausimai anksčiau nebuvo aptariami pakankamai intensyviai.
Diskusijos dėl grėsmės ypač suaktyvėjo po to, kai „OpenAI“ paskelbė, jog grupė DI agentų – savarankiškai veikti galinčių programų – liepą neteisėtai įsilaužė į atvirojo kodo platformą „Hugging Face“.
Pasak Y. Bengio, būtent autonomiški DI agentų veiksmai kelia didžiausią pavojų. Jis perspėjo, kad ateityje jie gali įgyti gebėjimą įveikti kibernetinio saugumo apsaugą ir patekti į bet kurią įmonę.
Pernai Y. Bengio įkūrė ne pelno organizaciją „LawZero“. Jos tikslas – kurti naują pažangaus DI formą, kuri nuo pat pradžių būtų suprojektuota taip, kad būtų patikima ir saugi.
Grėsmė gali turėti ir politinių pasekmių
Y. Bengio pabrėžė, kad visuomenė turi žinoti apie rizikas, kurios gali iškilti ateityje. Jo vertinimu, DI agentai gali išmokti užmegzti asmeninį ryšį su žmonėmis ir įtikinti juos elgtis taip, kaip naudinga pačiai sistemai, nors tai nebūtinai būtų naudinga visiems.
Toks gebėjimas, mokslininko teigimu, galėtų sukelti plataus masto politinių padarinių. Ilgesnėje perspektyvoje DI galbūt net neprireiktų, kad žmonės fiziniame pasaulyje atliktų konkrečius veiksmus.
Y. Bengio perspėjo, kad vienas iš kraštutinių tokio scenarijaus rezultatų galėtų būti žmonijos sunaikinimas. Jis pripažino, kad tai – pats ekstremaliausias variantas, tačiau net ir mažesnio masto sutrikimai, pavyzdžiui, bankų sistemos išjungimas, būtų labai rimti.
Patinka mūsų turinys? Palaikykite portalą
