Kiekvieną dieną mes savanoriškai atsisakome informacijos apie save mašinoms. Tai atsitinka, kai priimame internetinį slapuką arba naudojame paieškos variklį. Mes vos negalvojame apie tai, kaip mūsų duomenys parduodami ir naudojami prieš spustelėdami „Sutinku“, kad patektume į norimą puslapį, ir neaiškiai suprasime, kad jie bus naudojami siekiant nukreipti mus kaip į vartotojus ir įtikinti mus nusipirkti tai, ko mes nežinojome, kad mums reikia.
O kas, jei mašinos naudotų duomenis, kad nuspręstų, kam nukreipti kaip priešus, kuriuos reikia nužudyti? JT ir nevyriausybinių organizacijų grupė nerimauja, kad šis scenarijus yra beveik realybė. Jie ragina vykdyti tarptautinį mirtinų autonominių ginklų (įstatymų) reguliavimą, kad būtų išvengta artimiausio etapo, kai mašinos diktuoja gyvenimo ir mirties pasirinkimą.
Didelio masto dronų karas, atsiskleidžiantis Ukrainoje
Kelis mėnesius Ukrainos Khersono regione įvyko nuolatinis išpuolis dėl ginkluotų dronų, kuriuos valdo Rusijos kariuomenė, daugiausia skirta ne kovotojams. Remiantis oficialiais šaltiniais, žuvo daugiau nei 150 civilių gyventojų, o šimtai sužeista. Nepriklausomas nenustatytas žmogaus teisių tyrimas padarė išvadą, kad šie išpuoliai yra nusikaltimai žmoniškumui.
Ukrainos armija taip pat labai priklauso nuo dronų ir, kaip pranešama, kuria „drono sieną“ – gynybinę ginkluotų nepilotuojamų oro transporto priemonių (UAV) liniją, siekdama apsaugoti pažeidžiamas šalies sienų dalis.
Kai tik turtingiausių tautų išsaugojimas galėtų sau leisti pačius aukštųjų technologijų ir brangiausių UAV, Ukraina įrodė, kad šiek tiek išradingai, pigių dronų dronai gali būti modifikuoti iki mirtino efekto. Kadangi konfliktai visame pasaulyje atspindi šį poslinkį, perrašoma šiuolaikinės kovos pobūdis.
© UNICEF/OLEKSII FILIPPOV
Šliaužiantis „skaitmeninis dehumanizavimas“
Tačiau toks, koks gali būti niokojanti ši šiuolaikinė karo forma, kylantis nepilotuojamų dronų ar kitų autonominių ginklų šmėkla sukelia naują skubumą dėl nuolatinių rūpesčių dėl to, kad „žudikų robotai“ lijo mirtį nuo dangaus, nusprendžiant sau, ką jie turėtų pulti.
„Generalinis sekretorius visada sakydavo, kad naudodamasi Mašinos, turinčios visiškai deleguotą galią, priėmus sprendimą priimti žmogaus gyvybę, yra tiesiog moraliai moraliai atstumiantis– sako Izumi Nakamitsu, JT nusiginklavimo reikalų biuro vadovas. Tai neturėtų būti leidžiama. Tiesą sakant, tai turėtų būti uždrausta tarptautinės teisės. Tai yra Jungtinių Tautų pozicija. “
„Human Rights Watch“, tarptautinė nevyriausybinė organizacija, teigė, kad autonominių ginklų naudojimas bus naujausias, rimčiausias „skaitmeninio dehumanizacijos“ kėlimo pavyzdys, kai AI priima daugybę gyvybei keičiančių sprendimų, turinčių įtakos žmonėms, tokiems kaip policija, teisėsauga ir pasienio kontrolė.
“Kelios šalys, turinčios didelius išteklius, daug investuoja į dirbtinį intelektą ir susijusias technologijas, skirtas plėtoti, žemės ir jūros pagrindu sukurtas autonomines ginklų sistemas. Tai faktas “ Perspėja Mary Wareham, „Human Rights Watch“ ginklų skyriaus advokacijos direktorė. „Jį skatina JAV, tačiau kitos pagrindinės šalys, tokios kaip Rusija, Kinija, Izraelis ir Pietų Korėja, daug investavo į autonomines ginklų sistemas“.
AI varomo karo šalininkai dažnai nurodo žmogaus apribojimus, kad pateisintų jo plėtrą. Kareiviai gali padaryti klaidų sprendime, veikti dėl emocijų, reikalauti poilsio ir, žinoma, reikalauti darbo užmokesčio – nors mašinos, jos teigia, kiekvieną dieną tobulėja, nustatant grėsmes, pagrįstus elgesiu ir judėjimo modeliais. Kitas žingsnis, kai kurie šalininkai rodo, leidžia autonominėms sistemoms nuspręsti, kada traukti gaiduką.
Yra du pagrindiniai prieštaravimai, leidžiantys mašinas perimti mūšio lauke: pirma, ši technologija toli gražu nėra nepriekaištinga. Antra, JT ir daugelis kitų organizacijų įstatymų naudojimą vertina kaip neetišką.
„Mašinos labai lengva suklaidinti žmonių taikinius“, – sako ponia Wareham iš „Human Rights Watch“. „Žmonėms su negalia rizikuoja, nes jie juda. Jų neįgaliųjų vežimėliai gali būti klaidingi dėl ginklų. Taip pat nerimaujama, kad veido atpažinimo technologija ir kiti biometriniai matavimai negali teisingai nustatyti žmonių, turinčių skirtingus odos tonus.
Kalbant apie etinius ir moralinius prieštaravimus, Nicole van Rooijen, vykdanti direktorę Sustabdykite žudikų robotuskoalicijos kampanija dėl naujos tarptautinės autonomijos teisės ginklų sistemose sako, kad jiems labai sunku išsiaiškinti atsakomybę už karo nusikaltimus ir kitus žiaurumus.
„Kas yra atskaitingas? Ar tai gamintojas? Ar asmuo, kuris užprogramavo algoritmą? Tai kelia daugybę klausimų ir rūpesčių, ir tai būtų moralinė nesėkmė, jei jie būtų plačiai naudojami.”
Draudimas iki 2026 m.?
Technologijos tobulinimo greitis ir įrodymai, kad AI įgalino taikymo sistemas, jau naudojamas mūšio lauke, padidina skubumą dėl raginimų priimti tarptautines technologijos taisykles.
Gegužės mėn. JT būstinėje vyko neoficialios diskusijos, kuriose ponas Guterresas paragino valstybes nares susitarti dėl teisiškai įpareigojančio susitarimo, kad būtų galima reguliuoti ir uždrausti jų naudojimą iki 2026 m.
Bandymai reguliuoti ir uždrausti įstatymus nėra nauji. Tiesą sakant, JT surengė pirmąjį diplomatų susitikimą 2014 m., „Palais des“ tautose Ženevoje, kur keturių dienų ekspertų pirmininkas, ambasadorius Jean-Hugues Simon-Michel iš Prancūzijos, šiuo metu apibūdino įstatymus kaip „sudėtingą kylančią problemą diskringų darbotvarkėje“, nors ir ne autonominių WEAPS sistemų nebuvo naudojamos konfliktuose. Tuomet buvo nuomonė, kad norint gauti taisykles, reikalingas prevencinis veiksmas, kad ši technologija taps įstatymais realybe.
Po 11 metų derybos vyksta, tačiau vis dar nėra sutarimo dėl autonominių ginklų apibrėžimo, jau nekalbant apie sutartą reglamentą dėl jų naudojimo. Nepaisant to, NVO ir JT optimistiškai vertina tai, kad tarptautinė bendruomenė lėtai siekia bendro supratimo pagrindiniais klausimais.
„Mes niekur netrukdome derėtis dėl teksto“, – sako ponia Rouiijen iš „Stop Killer“ robotų. „Tačiau dabartinis konvencijos pirmininkas dėl tam tikrų įprastų ginklų (JT humanitarinės teisės priemonė uždrausti ar apriboti konkrečių ginklų tipų naudojimą, kuris, kaip manoma, sukelia nereikalingą ar nepateisinamą kančią, kovotojus, arba, jei yra politinė valia, ir politinė valia, galėtų sudaryti bazę, kad būtų galima atsisakyti, kad būtų pareikšta riedėjimo tekstas, kuris iš tikrųjų yra gana žymus ir kuris yra politinis valia ir politinė teisė, galėtų sudaryti bazę“.
Ponia Wareham iš „Human Rights Watch“ taip pat mato, kad JT derybos JT yra svarbus žingsnis į priekį. „Mažiausiai 120 šalių yra visiškai raginamos susitarti dėl naujos tarptautinės autonominių ginklų sistemų teisės. Mes matome daug susidomėjimo ir paramos, įskaitant taikos laureatus, AI ekspertus, technologijų darbuotojus ir tikėjimo lyderius.”
„Yra kylantis susitarimas, kad turėtų būti uždraustos visiškai autonominės ginklų sistemos“, – sako ponia Nakamitsu iš JT nusiginklavimo reikalų biuro. „Kalbant apie karą, kažkas turi būti atsakingas“.
