Vo vojne sa už používa umelá inteligencia

od Aniello Fasano

V očiach verejnej mienky bude mať umelá inteligencia (AI) obrovský vývoj, najmä v rekreačných aspektoch, pričom zmení životy každého z nás bez toho, aby sme si vedeli predstaviť, ako veľmi. Všetko sa stáva oveľa vážnejším a znepokojujúcim už len pri pomyslení na to, že by sme mohli použiť novú technológiu na vedenie vojen. Na druhej strane, AI je už široko používaná na Ukrajine aj v Gaze, kde prebiehajúce konflikty priniesli na bojisko neustále sa vyvíjajúce a zdokonaľujúce nástroje a programy. Mnoho „zásadných“ rozhodnutí by sa už prijalo na základe aplikácie algoritmov generovaných pomocou AI, čo by vyvolalo mnohé pochybnosti o etike, morálke a legitímnosti používania určitých technológií vo vojnových scenároch. A je to reálne cesta, ktorou sa v krátkom čase vydajú všetky armády. V praxi algoritmus získava údaje, ktoré sa následne zmiešajú s množstvom ďalších informácií získaných z dronov, kamier a sledovacích systémov. Výsledkom tohto „inteligentného“ prelínania informácií sú zoznamy možných cieľov, ktoré treba zasiahnuť.

Zdroj TRT World

Pred niekoľkými mesiacmi sa táto správa stala verejne známou prostredníctvom vyšetrovania, ktoré viedol +972 časopis e Miestny hovor, podľa ktorého saIzraelské obranné sily (IDF) by vyvinul a použil program založený na AI, tzv levanduľaidentifikovať a zasiahnuť palestínske ciele, najmä v počiatočných fázach vojny. Izraelské sily jeho použitie popreli. Izraelská armáda by pomocou umelej inteligencie identifikovala potenciálne ciele v Gaze a následne ich bombardovala. Odhaliť možnú existenciu tohto „pokročilý vojnový stroj„Boli by to niektorí predstavitelia izraelskej spravodajskej služby, ktorí, ako informoval nezávislý izraelsko-palestínsky časopis, „slúžili v armáde počas vojny v Gaze a osobne sa podieľali na používaní AI na identifikáciu cieľov, ktoré treba zasiahnuť“. Ak by sa tieto správy potvrdili, poskytli by cenné vysvetlenia vysokého počtu civilných obetí v Gaze a predstavovali by dôkaz prechodu k modernej vojne, ktorá sa takmer výlučne spolieha na aplikáciu algoritmov generovaných AI.

Nakoniec nič nové, počítačový narodil sa"vo vojne a z vojny". kolos bola postavená v roku 1944 na prelomenie nacistických kódov. Nedávny exponenciálny pokrok umelej inteligencie umožňuje úžasné výkony v rozpoznávaní objektov a riešení problémov vyššieho rádu. Dnes veľmi malé a lacné čipy navádzajú drony k ich cieľom a rozširujú technológiu, ktorá bola kedysi obmedzená na rakety superveľmoci. Každý rok sa stretávajú medzinárodní lídri, aby diskutovali o zodpovednom vojenskom použití AI, čím podnecujú etickú diskusiu o obavách týkajúcich sa nástupu tejto technológie a jej použitia počas ozbrojených konfliktov. 

Ako uvádzaekonómTechnológia prináša predovšetkým revolúciu vo velení a riadení vojen. Drony predstavujú len posledný a najdramatickejší článok v reťazi zabíjania, zo súboru krokov, ktoré začínajú hľadaním cieľa a končia jeho zničením. AI vyberá a spracováva dáta nadľudskou rýchlosťou, dokáže presne lokalizovať rezervoár z tisícok satelitných snímok alebo interpretovať svetlo, teplo, zvuk a rádiové vlny. Systémy umelej inteligencie spárované s autonómnymi robotmi na zemi, na mori a vo vzduchu pravdepodobne nájdu a zničia ciele bezprecedentnou rýchlosťou a v masovom meradle.

Ak by tragicky vypukla prvá vojna poháňaná umelou inteligenciou, medzinárodné právo bude pravdepodobne rýchlo odsunuté na vedľajšiu koľaj. O dôvod viac sa dnes zamyslieť nad tým, ako obmedziť totálne zničenie planéty. Čína by napríklad mala venovať väčšiu pozornosť žiadosti USA o vylúčenie kontroly umelej inteligencie nad jadrovými zbraňami. Systémy umelej inteligencie navrhnuté tak, aby maximalizovali vojenskú výhodu, by mali byť zakódované s hodnotami a obmedzeniami, ktoré ľudskí velitelia naivne považujú za samozrejmosť a pripisujú implicitnú hodnotu ľudskému životu. Stanovenie toho, koľko civilistov je prijateľné zabiť v snahe dosiahnuť vysokohodnotný cieľ, nie je len etická otázka, ale aj otázka prežitia.

Neistoty sú hlboké, pričom jedinou istou vecou je, že zmena poháňaná umelou inteligenciou je teraz realitou. Pravdepodobne zvíťazia armády, ktoré ako prvé a najefektívnejšie predvídajú a ovládajú technologický pokrok.

Levanduľový systém

levanduľa, podľa podrobnej správy Postu, bol vyvinutý elitnou divíziou Izraelských obranných síl (IDF), jednotka 8200, s cieľom zlepšiť stratégie útokov na obyvateľstvo v pásme Gazy. Pred zamestnaním levanduľa výber ľudského cieľa bol obmedzený na jedného vysoko postaveného člena vojenského krídla Hamasu.

Po 7. októbri sa armáda rozhodla označiť za možný ľudský cieľ všetkých operátorov vojenského krídla Hamasu bez ohľadu na úroveň ich dôležitosti. Technický problém identifikácie veľkého počtu cieľov v krátkom čase bol vyriešený pomocou levanduľa, ktorý sa používa na systematizáciu identifikácie jednotlivcov, ktorí by mohli byť považovaní za militantov Hamasu.

Softvér levanduľa analyzuje informácie zhromaždené systémom hromadného sledovania aktívneho v pásme a priraďuje skóre od 1 do 100 takmer každému jednému Palestínčanovi, pričom hodnotí pravdepodobnosť, že ide o militanta. Lavender sa naučil rozlišovať charakteristiky agentov Hamasu a potom sa naučil nájsť rovnaké vlastnosti v bežnej populácii. Osoba s viacerými podobnými vlastnosťami dostáva vysoké skóre a je automaticky potenciálnym cieľom.

V prípade Lavender nie sú ciele identifikované človekom, ale umelou inteligenciou, ktorá vykonala väčšinu práce, pričom niekedy robí chyby a tiež identifikuje ako ciele policajných pracovníkov, príbuzných militantov alebo obyvateľov, ktorí mali rovnaké meno a prezývku ako militantov.

Niektoré izraelské armádne zdroje vysvetlili operáciu „vopred povolené tolerancie“ o počte civilistov, ktorí by mohli byť zabití pri útoku proti cieľom identifikovaným o levanduľa. V prvých týždňoch vojny bolo dovolené zabiť 15 alebo 20 civilistov s cieľom zabiť nižších militantov, zatiaľ čo limit bol zvýšený na 100 pre vysokopostavených militantov. To by vysvetľovalo vysoký počet doteraz zabitých civilistov v pásme Gazy.

Vo vojne sa už používa umelá inteligencia