Čo sa stane, keď predátor - dron má autonómiu ako google auto? Alebo ak zbraň, ktorá dokáže sama loviť a napádať vlastné ciele, ovládnu hekeri? Hoci to znie ako sci-fi, technológia na vytvorenie zbraní, ktoré napadajú ciele bez ľudského pokynu, už existuje.
Armády všade na svete súťažia v konštruovaní robotických zbraní so zvyšujúcou sa autonómiou. Etické otázky tak dostávajú čoraz väčší význam. Do akej miery by sa mala takáto technika rozšíriť? Ak je možnosť vybrať si medzi životom a smrťou, za ľudské srdce neexistuje nijaká náhrada.
Umelá inteligencia a vojenská technika
Jeho rozsiahla analýza skúma vznik autonómnych zbraní, aktivity vyvíjané na ich zákaz aj právne a etické otázky týkajúce sa ich používania. Zameriava sa na umelú inteligenciu vo vojenskej technike, zahŕňajúcu desaťročia inovácií od nemeckých torpéd Wren vyhľadávajúcich zvuky v druhej svetovej vojne, predchodcov dnešných samonavádzacích rakiet, po autonómne kybernetické zbrane, robotické lode loviace ponorky a tankové robotické armády. Prostredníctvom rozhovorov s odborníkmi na obranu, so zástancami etických hodnôt, s psychológmi a aktivistami Scharre zisťuje, akým výzvam môžu čeliť „kentaurskí bojovníci“ na budúcich bojiskách, kde bude nevyhnutné zlúčiť ľudské a strojové rozpoznávanie.
V uplynulých desaťročiach sme dosiahli obrovský technický pokrok, no takisto sme zažili tragické nehody, ktoré vyplynuli z komplexných automatizovaných systémov. Najmenej tridsať štátov už má obranné autonómne zbrane, ktoré fungujú pod ľudským dohľadom.
Armáda strojov sa zameriava na vojenskú históriu, globálnu politiku, špičkovú veda a tvrdí, že takúto techniku môžeme prijať tam, kde môže urobiť vojnu presnejšou a humánnejšou, ale nesmieme sa vzdať ľudského úsudku.
Prečítajte si tiež: Význam kalibrov zbraní
Autonómne zbrane v praxi
„Máme indície, že už existujú zbrane, ktoré dokážu skutočne autonómne vykonať útok,“ vraví český vojenský a bezpečnostný analytik Lukáš Visingr. „Je to skutočne autonómna zbraň. To však neznamená, že robotické zbrane úplne nahradia ľudí. Dnes ide na bojovú misiu tucet pilotovaných bojových lietadiel, no o desať alebo dvadsať rokov odštartujú len dve pilotované lietadlá a okolo nich bude svorka dronov. Ako zmenia svet, zatiaľ nevieme.
Príklad z Ukrajiny
Umelá inteligencia toho môže zmeniť veľmi veľa. Nevieme s istotou, či k tomu už reálne došlo, ale máme rôzne indície a náznaky, že už existujú zbrane, ktoré sú schopné skutočne autonómne vykonať útok. Ukrajinské aj ruské neoficiálne zdroje čím ďalej, tým viac naznačujú, že takéto drony sa v obmedzenej miere používajú. To znamená, že pošlú dron do nejakej oblasti, aby tam zničil tank. Ten dron má v databáze rôzne charakteristiky rôznych vecí, prehľadáva tú oblasť, a keď nájde cieľ, ktorý zodpovedá charakteristikám tanku, tak naň zaútočí.
Robotické autonómne zbrane nemôžu úplne nahradiť ľudí, nemôžu nahradiť napríklad pešiakov, ale môžu prevziať veľkú časť úloh niektorých zbraní, ktoré dnes majú ľudské posádky. Prirovnáme to k bojovej misii, v ktorej teraz štartuje tucet pilotovaných bojových lietadiel. O desať alebo dvadsať rokov odštartujú dve pilotované lietadlá, okolo ktorých bude svorka dvadsiatich alebo tridsiatich dronov, ktoré budú operovať čiastočne autonómne. Piloti im zadajú úlohu: leťte do tej oblasti a zničte tam nepriateľské ciele. Ďalším zadajú úlohu: leťte pred nami a urobte prieskum. Ďalším, aby sa držali pri nich a kryli ich. A drony budú tieto úlohy plniť.
Etické a právne aspekty
Ako je to s týmto etickým rozmerom? Rieši sa to, ale je to obrovský problém. Ja osobne som z čisto etického a morálneho hľadiska kategoricky proti a som jednoznačne proti tomu, aby niečo takéto existovalo. Ale súčasne hovorím, že musíme investovať maximum financií do toho, aby sme také zbrane vytvorili.
Tieto autonómne zbrane nie sú také ničivé ako jadrové. Takže keby k ich použitiu aj došlo, výsledok nebude tak masovo ničivý, aby sme pristúpili k ich úplnému zákazu. Úplný zákaz sa podarilo presadiť napríklad v prípade biologických a chemických zbraní. Pri chemických sa totiž ukázalo, že sú vojensky málo efektívne, a pri biologických, že by mohli byť efektívne až príliš, pretože biologické zbrane nerozlišujú uniformy od civilného oblečenia.
Prečítajte si tiež: Strelivo na Slovensku
Súvisí to najmä s nasadením nových technológii, ktoré prinášajú do ozbrojených síl autonómne prvky v oblasti rozlišovania a celkovej aplikácie medzinárodného humanitárneho práva.
Financovanie vývoja autonómnych zbraní
Administratíva prezidenta Donalda Trumpa masívne podporuje túto „injekciu“ na zavádzanie umelej inteligencie do výzbroje americkej armády. Program Artificial Intelligence (AI) je najväčší v doterajšej histórii. V rámci neho v júli 2018 napr. kontraktor Booz Allen Hamilton dostal 885 miliónov dolárov na podporu AI programov v nasledujúcich 5 rokoch.
Osobitnú pozornosť vyvoláva program zvyšovania úrovne prostriedkov vojenskej analýzy, ako aj kľúčové otázky rozhodovacieho procesu vojenských veliteľov. Ten má zahrnovať zavedenie takých počítačov a algoritmov do jednotlivých zbraní, ktoré dokážu riadiť uplatňovanie násilia proti vojakom nepriateľských armád.
Maven a ďalšie AI iniciatívy dosahujú veľmi dobré výsledky na poli rozpoznávania nepriateľských zbraňových systémov, ktoré aktívne využívajú napr. aj letecké drony.
V strategickom dokumente Pentagonu, ktorý bol vydaný v auguste 2018, sa už uvádza, že zavádzanie autonómnych zbraňových systémov nezávislých od vstupu ľudských operátorov je už technologicky možné. Počítače budú schopné vysvetliť veliteľom, ako a prečo dospeli k daným záverom, čo je v bojových podmienkach veľmi dôležité. Tento krok je dokonca považovaný za rozhodujúci pre budúcnosť armády.
Prečítajte si tiež: Všetko o limitoch airsoftových zbraní
Tieto AI systémy sú teda technicky spôsobilé uskutočniť paľbu na nepriateľské ciele, horšie to však vyzerá s armádnymi veliteľmi, ktorí váhajú využiť tieto doteraz málo vyskúšané systémy. V správe sa konštatuje, že obavy sú spôsobené nedostatkom dôvery veliteľov k „mysleniu strojov“, osobitne na bojovom poli, kde prirodzene môže dochádzať k zmenám premenných.
DARPA si kladie za cieľ vypracovanie a zavedenie „vysvetľujúcej AI“, prostredníctvom ktorej budú počítače schopné vysvetliť veliteľom, ako a prečo dospeli k daným záverom, čo je v bojových podmienkach veľmi dôležité. Tento krok dokonca šéfovia DARPA považujú za rozhodujúci pre budúcnosť armády.
Podľa nich vysvetľovací softvér AI musí konštruovať aj „morálny kompas“ a „kapacitu myslenia napĺňať kritériami zdravého rozumu“.
tags: #otazka #autonomnych #zbrani