(Michele Gorga, právnik a observatórium pre koordináciu DPO, RTD a reputačného manažéra Aidr) Pokiaľ ide o automatizovaný postup spracovania osobných údajov na účely správneho rozhodnutia, referenčnou normou, ako je známe, je štandardná norma „čl. 22 GDPR z roku 2016/679, ktorý stanovuje: „Zainteresovaná strana má právo nebyť predmetom rozhodnutia založeného výlučne na automatizovanom spracovaní vrátane profilovania, ktoré má pre ňu právne účinky alebo ktoré sa jej významne dotýka. na jeho osobu. ““ Túto zásadu možno zhrnúť do maxima, že nikto nemôže utrpieť následky na svojich právach z hľadiska rozhodnutia prijatého úplne prostredníctvom stroja, algoritmu alebo iného nehumánneho rozhodovacieho procesu, ktorý nájde svoju korešpondenciu v 15. ÚVAHE GDPR 2016/679, kde sa ustanovuje, že “ Aby sa zabránilo vzniku vážnych rizík obchádzania, ochrana fyzických osôb (zaobchádzanie) by mala byť z technologického hľadiska neutrálna a nemala by závisieť od použitých techník ... “. Obidve ustanovenia vyjadrené v nariadení EÚ 2016/679 sú preto úplne v súlade so zásadami stanovenými vnútroštátnym správnym právom, ktoré sa pri koordinácii medzi pravidlami transparentnosti a potrebou dodržiavania právnych predpisov o ochrane údajov spája na jednej strane s administratívnou voľnosťou. , na druhej strane s kategóriou viazaného aktu, ktorému sú vystavené všetky orgány verejnej správy a ktorá nás upozorňuje na ďalšie kritické profily vo vzťahu k algoritmu prijatému na základe rozhodnutia prijatého systémom umelej inteligencie.
Prvý profil sa týka potreby rešpektovať princíp transparentnosti, ktorý je teraz ústredným bodom činnosti PO a musí byť základom nových verejných služieb založených na algoritmoch a automatizovaných rozhodnutiach. V tomto zmysle bude potrebné zabezpečiť transparentnosť nielen údajov, ale aj algoritmov, logiky stavby databázy, procesu prevádzky služby. Druhý sa týka právnej zodpovednosti verejnej správy, aj keď sa pri poskytovaní služieb alebo pri rozhodovaní o plne automatizovaných postupoch uchýli k riešeniam umelej inteligencie a správna jurisprudencia sa zaoberá prípadmi, v ktorých sa správne konanie riadi celkom stroj a posunula sa pri zachovaní základného predpokladu, to znamená, že nemožno vylúčiť alebo obmedziť súdnu ochranu pre určité kategórie aktov. Správny sudca sa problémom automatizácie v správnom konaní venoval vo veľmi nedávnych vetách a určil tri základné princípy ako regulátori veci; vedomosti; nevýhradnosť algoritmického rozhodnutia; algoritmickej nediskriminácie.
Pokiaľ ide o prvý princíp, a to „právo nebyť vystavený rozhodnutiu založenému výlučne na automatizovanom spracovaní vrátane profilovania“, znamená to, že každé algoritmické rozhodnutie prijaté PA nemôže nikdy zostať bez kontroly úradníkom - fyzickou osobou. charge -, zásada, ktorú už potvrdil americký okresný súd vo Wisconsine a ktorá bola prijatá našou administratívnou jurisprudenciou so zatknutím jurisdikcie, ktorá sa vykryštalizovala v roku 2019, čo sa zdá, že nedávne stanovisko vydané garantom ochrany súkromia neuznáva.
A v skutočnosti na žiadosť o stanovisko autonómnej provincie Trident k možnému schváleniu budúceho návrhu zákona v súvislosti s intervenciami hospodárskej podpory, pokiaľ ide o návrh, ktorý je zvyčajne pripravený na vykonávanie postupov, ktoré zahŕňajú plne automatizované rozhodnutia. finančné prostriedky, t. j. súvisiace s poskytovaním grantov, dotácií, grantov a iných foriem ekonomických výhod pre obyvateľov, provincia vyjadrila možnosť použiť v týchto postupoch systémy, aj keď úplne automatizované, algoritmickej logiky, aj keď sú pravidelne overované na s cieľom minimalizovať riziko chýb, deformácií alebo akejkoľvek diskriminácie.
V žiadosti však, aj keby sa predpokladalo, že algoritmický vzorec bude úplne známy príjemcom, ktorí sa zaujímajú o správne konanie, - aj keď v tom istom ustanovení sú predpisy, ako oboznámiť príjemcov algoritmického vzorca s príjemcami - iba všeobecne počítalo sa s tým, že by bolo možné, aby zainteresované strany „napadli rozhodnutia prijaté na základe rovnakého vzorca a požadovali efektívny ľudský zásah“, a teda zásah ex post a nie ex ante s následným porušením dodatočného kritéria stanoveného právnymi predpismi Pokiaľ ide o nezhoršenie administratívneho postupu na úkor používateľov PA, Európska komisia, napriek zjavnej kritike, Ručiteľ vyjadril priaznivé stanovisko k návrhu navrhovaného štandardu a nadiktoval predpisy a podmienky, ktoré sa však javia ako marginálne a zostávajúce.