ビュー

(DPO、RTD、およびAidrの評判マネージャーを調整するための弁護士および天文台コンポーネントであるMichele Gorgaによる)管理上の決定を目的とした個人データの処理の自動化された手順に関しては、よく知られているように、参照標準は'アート。 22/2016年のGDPRの679は、次のように規定しています。「利害関係者は、プロファイリングを含む自動処理のみに基づく決定の対象とならない権利を有します。彼の人に。」 この原則は、機械、アルゴリズム、別の非人間的な意思決定プロセスを通じて完全に採用された決定を考慮して、誰も彼の権利に影響を与えることはできないという格言に要約することができます。回避の深刻なリスクの出現を回避するために、自然人の保護(治療)は技術的な観点から中立であるべきであり、使用される技術に依存すべきではありません…… "。 したがって、15/2016 EU規則で表明された両方の規定は、透明性に関する規則とデータ保護法を遵守する必要性との間の調整において、一方では行政の裁量と組み合わされる国内行政法によって確立された原則と完全に一致しています。一方、すべての公的行政が従う拘束された行為のカテゴリーでは、人工知能システムによって採用された決定に基づいて想定されるアルゴリズムに関連して、さらに重要なプロファイルが私たちの注意を引くことになります。

最初のプロファイルは、透明性の原則を尊重する必要性に関するものです。透明性の原則は、現在PAの活動の中心であり、アルゴリズムと自動決定に基づく新しい公共サービスの基盤でなければなりません。 この意味で、データだけでなく、アルゴリズム、データベース構築ロジック、サービス運用プロセスの透明性を確保する必要があります。 XNUMXつ目は、サービスの提供または完全に自動化された手順に頼る決定において人工的なインテリジェンスソリューションに頼る場合でも、行政の法的責任に関連し、行政管轄は、行政手続きが完全に管理されている場合に対処しました。機械とそれは基本的な仮定を維持しながら動きました、すなわち、司法保護は特定のカテゴリーの行為のために除外または制限することはできません。 行政裁判官は、いくつかのごく最近の文章で行政手続きの自動化プロセスの問題に取り組み、問題の規制者としてXNUMXつの基本原則を特定しました。 知識のそれ; アルゴリズムによる決定の非独占性。 アルゴリズムの無差別のそれ。

「プロファイリングを含む自動処理のみに基づく決定を受けない権利」という最初の原則に基づいて、これは、PAによって行われるすべてのアルゴリズムの決定が、公務員(自然人)による制御なしには決してあり得ないことを意味します。告発-、ウィスコンシン州の米国地方裁判所によってすでに確認され、2019年に法廷での逮捕が具体化された行政管轄区によって受け入れられた原則であり、プライバシー保証人による最近の意見は認識していないようです。

そして実際、トレント自治州からの意見の要請に応じて、経済支援介入の文脈で将来の法案の可能な承認のために、完全に自動化された決定を含む治療を実行できるように通常準備された提案に関して-財政的支出、すなわち、助成金、助成金、助成金、および居住者に対する他の形態の経済的利点の付与に関連して、州は、これらの手順において、完全に自動化されたシステムでさえ、定期的に検証されたとしても、アルゴリズムロジックを使用する可能性を表明しましたエラー、歪み、またはあらゆる種類の識別のリスクを最小限に抑えるため。

ただし、リクエストでは、管理手順に関心のある受信者にアルゴリズム式が完全に知られることが予見されていたとしても、同じ規定であっても、受信者にアルゴリズム式を知らせる方法の規定は一般的にしか知られていません。利害関係者が「同じ公式に基づいて下された決定に異議を唱え、効果的な人間の介入を要求する」ことが可能であり、したがって、事前の介入ではなく事後の介入が可能であり、その結果、法律によって設定された追加の基準に違反することが想定された。 PAのユーザーに損害を与える行政手続きの非悪化の欧州委員会、保証人は、明白な批判にもかかわらず、提案された基準の概要と指示された処方と条件について好意的な意見を表明したが、それは限界的で残余のように見える。 

PAにおけるプライバシーと自動化された意思決定