(Мишель Горга, юрист и компонент наблюдателя для координации DPO, RTD и менеджера по репутации Aidr) В области автоматизированной процедуры обработки персональных данных для целей административного решения общеизвестным эталонным стандартом является стандарт 'Изобразительное искусство. 22 GDPR от 2016/679, который гласит: «Заинтересованная сторона имеет право не подвергаться решению, основанному исключительно на автоматизированной обработке, включая профилирование, которое имеет в отношении него правовые последствия или которое существенно влияет на него. на его лицо ". Этот принцип можно резюмировать в максиме о том, что никто не может пострадать от последствий для своих прав ввиду решения, полностью принятого машиной, алгоритмом, другим нечеловеческим процессом принятия решений, находит свое соответствие в 15-м СООБРАЖЕНИИ GDPR 2016/679, где предполагается, что " Чтобы избежать возникновения серьезных рисков обхода, защита физических лиц (лечение) должна быть нейтральной с технологической точки зрения и не должна зависеть от используемых методов …… ». Таким образом, оба положения, сформулированные в Регламенте ЕС 2016/679, полностью соответствуют принципам, установленным национальным административным законодательством, которые при согласовании правил прозрачности и необходимости соблюдения законодательства о защите данных сочетаются, с одной стороны, с административным усмотрением. , с другой стороны, с категорией связанного действия, которому подвергаются все органы государственного управления и который обращает наше внимание на дополнительные критические вопросы, касающиеся алгоритма, принятого на основе решения, принятого системой искусственного интеллекта.
Первый профиль касается необходимости соблюдать принцип прозрачности, который сейчас является центральным в деятельности ПА и должен лежать в основе новых государственных услуг, основанных на алгоритмах и автоматизированных решениях. В этом смысле необходимо будет обеспечить прозрачность не только данных, но и алгоритмов, логики построения базы данных, процесса работы сервиса. Второй касается юридической ответственности государственной администрации, даже если она прибегает к решениям с искусственным интеллектом при предоставлении услуг или в решениях прибегать к полностью автоматизированным процедурам, а административная юриспруденция имеет дело со случаями, когда административная процедура полностью регулируется машина, и она двигалась, поддерживая фундаментальное предположение, а именно, что судебная защита не может быть исключена или ограничена для определенных категорий действий. Административный судья обратился к проблеме автоматизации процесса административной процедуры в некоторых совсем недавних постановлениях и определил три основных принципа, регулирующих этот вопрос; познаваемость; неисключительность алгоритмического решения; алгоритмического недискриминации.
Основываясь на первом принципе, который является «правом не подвергаться решению, основанному исключительно на автоматизированной обработке, включая профилирование», это означает, что каждое алгоритмическое решение, принятое ПА, никогда не может быть без контроля со стороны должностного лица - физического лица. обвинение - принцип, уже подтвержденный Окружным судом Висконсина США и принятый нашей административной юриспруденцией с вынесением судебного ареста в 2019 году, которое, по-видимому, не признается в недавнем заключении, вынесенном Гарантом конфиденциальности.
И на самом деле, по запросу о заключении из Автономной провинции Тренто относительно предложения, которое обычно готовится, чтобы иметь возможность проводить процедуры, предполагающие полностью автоматизированные решения, для возможного утверждения будущего законопроекта в контексте мер экономической поддержки - выделенных финансовых средств, то есть связанных с предоставлением грантов, субсидий, грантов и других форм экономических преимуществ для жителей, провинция выразила возможность использования в этих процедурах систем, даже полностью автоматизированных, алгоритмической логики, даже если они периодически проверяются на чтобы свести к минимуму риск ошибок, искажений или дискриминации любого рода.
Однако в запросе, хотя предполагалось, что алгоритмическая формула будет полностью известна получателям, заинтересованным в административной процедуре, - даже если в том же положении содержится рецепт о том, как сделать формулу алгоритмов известной получателям - только в общем предусматривалось, что заинтересованные стороны могли «оспаривать решения, принятые на основе той же формулы, и требовать эффективного вмешательства человека» и, следовательно, вмешательство ex post, а не ex ante с последующим нарушением дополнительного критерия, установленного законодательством Европейская комиссия не усложняет административную процедуру в ущерб пользователям ПА, Гарант, несмотря на очевидную критичность, выразил положительное мнение о предлагаемом стандарте и продиктовал предписания и условия, которые, однако, кажутся маргинальными и остаточными.