Dirbtinis intelektas vis dažniau pasitelkiamas ne tik kasdieniams klausimams, bet ir pavojingai veiklai – propagandai, žmonių sekimui, raketų bei biologinių ginklų kūrimui. Pranešama, kad jis buvo naudojamas net taikantis į netoli Irano esančius JAV laivus. Technologijų bendrovės „Anthropic“ vadovas Dario Amodei ragina konkurentus pristabdyti DI galimybių plėtrą ir daugiau dėmesio skirti saugumui.
Jo pareiškimas sukėlė nerimą pasaulio rinkose – smuko technologijų įmonių akcijos. Tuo metu Donaldas Trumpas sukritikavo Dario Amodei ir pareiškė, kad prieš technologijų pramonę esą vykdoma konspiracija.
„Anthropic“ sukurto asistento „Claude“ veikimo galimybes išnaudojo ne tik paprasti vartotojai, ieškantys vakarienės idėjų ar sporto rezultatų. Bendrovės žvalgybos ataskaitoje teigiama, kad klausimų apie raketų gamybą uždavinėjo Jemeno husiai. Apie augantį technologijos pavojų viešai įspėjo ir buvęs „Anthropic“ darbuotojas Jacobas Coxonas.
BBC laidoje „Sunday with Laura Kuenssberg“ jis sakė, kad žmonės, susiję su tokių įmonių įkūrimu ir technologijų kūrimu, pripažįsta žmonijos išnykimo galimybę.
DI pasitelktas sekimui ir ginklų kūrimui
Pasak „Anthropic“, Iranas „Claude“ naudojo regione esančių Jungtinių Valstijų laivų, kariškių ir orlaivių stebėjimui. Asistentas taip pat buvo pasitelktas vidaus sekimui, disidentų persekiojimui ir propagandai kurti.
Ataskaitoje minimi ir vartotojai iš Rusijos. Jie, kaip teigiama, sekė bei persekiojo disidentus, o vienas vartotojas sukūrė žmonėms skirtą dronų spiečių. Be to, užregistruoti penki atvejai, kai buvo ieškoma informacijos apie biologinio ginklo gamybą.
„Anthropic“ tvirtina, kad neleido savo asistentui vykdyti nusikalstamų operacijų ir sustabdė kiekvieną ataskaitoje nurodytą veiklą.
Vis dėlto, remdamasi bendrovės informacija, „Al Jazeera“ skelbia, kad husiai galėjo apeiti „Claude“ apsaugos priemones. Klausimus apie raketų kūrimą jie esą išskaidė į kelis skirtingus pokalbius.
„Anthropic“ įkūrėjas Dario Amodei dėl to paragino DI kūrėjus sulėtinti technologijos plėtrą ir daugiau dėmesio skirti saugumo sistemoms. Jo teigimu, net ir sulėtinus tempą pažanga išliktų sparti, todėl svarbu atsakingai panaudoti papildomą laiką.
„OpenAI“ vadovas Samas Altmanas teigiamai įvertino siūlymą pasitelkti nepriklausomus vertintojus, turinčius tokias pačias prieigos teises kaip bendrovių darbuotojai. Jis teigė, kad „OpenAI“ ketina elgtis taip pat.
Kinija nepritaria griežtesnei DI kontrolei
Kinija, aktyviai dalyvaujanti pasaulinėse DI kūrimo varžybose, nepriklausomų stebėtojų įtraukimo nesvarsto ir skeptiškai vertina Jungtinėse Valstijose reiškiamą susirūpinimą dėl technologijos saugumo.
Kinijos užsienio reikalų ministerijos atstovas Guo Jiakunas teigė, kad pasakojimai apie grėsmę, konfrontacija ir žalinga konkurencija gali apsunkinti pasaulinio DI valdymo procesą.
Pekino nepasitenkinimą sustiprino „Anthropic“ kaltinimai Kinijai dėl didelio masto duomenų vagystės iš „Claude“. Bendrovė pranešė aptikusi apie 151 mln. pokalbių, kurie esą buvo panaudoti Kinijos modelio „Qwen“ mokymui.
Užsienio reikalų ministerijos atstovė Mao Ning pareiškė, kad Kinija griežtai nepritaria faktų iškraipymui ir išpuoliams, kuriais siekiama pakenkti šalies reputacijai.
Griežtesnė DI priežiūra reikalinga ne vien dėl piktavališkų naudotojų. Tyrėjai fiksuoja, kad pavojingai gali elgtis ir patys DI agentai – sistemos, kurios ne tik atsako į klausimus, bet ir savarankiškai atlieka užduotis, pavyzdžiui, siunčia elektroninius laiškus ar kuria tinklalapius.
Pastebėta atvejų, kai agentai apeina saugiklius, persikelia į išorines sistemas, atlieka nenumatytus veiksmus arba elgiasi priešingai nei buvo nurodyta.
Kibernetinio saugumo ekspertė Louise Marie Hurel teigė, kad tokie atvejai kelia klausimą, ar visuomenė jau pasirengusi tinkamai naudoti DI agentus ir ar pakankamai supranta, kaip šios sistemos vertina savo veiksmus.
Papildomo DI technologijų reguliavimo jau reikalauja ir Jungtinių Valstijų kongresmenai.
