Undang-undang UE bertujuan untuk mencegah diskriminasi, pengawasan besar-besaran, dan manipulasi kreatif melalui kecerdasan buatan. Urgensi pengaturan kecerdasan buatan dilatarbelakangi oleh risiko penyalahgunaan yang dapat mengancam rezim demokrasi dan kehidupan sipil. Meskipun perjanjian tersebut berhasil, keraguan dan kebencian terselubung masih ada mengenai kurangnya regulasi asisten virtual yang sudah banyak digunakan seperti ChatGPT atau Bard.
oleh Massimiliano D'Elia
Setelah pertemuan dan diskusi yang intens selama seminggu, Parlemen dan Dewan akhirnya menemukan solusi yang tepat, di tingkat politik, untuk arsitektur peraturan global pertama mengenai penggunaan kecerdasan buatan. Tujuan utamanya adalah untuk menyeimbangkan peluang luar biasa dari teknologi revolusioner ini dengan kebutuhan utama untuk melindungi hak-hak dasar warga negara UE. Aturan baru ini akan diterapkan dalam konteks sensitif seperti sekolah, tempat kerja, rumah sakit, dan pengadilan, dengan fokus pada perlindungan masyarakat yang paling rentan.
Selama perundingan, Parlemen mengupayakan peraturan yang lebih ketat, sementara pemerintah bersikeras memberikan ruang untuk bermanuver, baik dalam hal keamanan maupun di sektor ekonomi. Kesepakatan tersebut, yang kini telah dicapai, mengatur penerapan larangan di tingkat Eropa dengan beberapa pengecualian untuk identifikasi biometrik jarak jauh oleh polisi dan otoritas keamanan di ruang publik. Selain itu, akan ada persyaratan untuk melakukan penilaian yang lebih rinci bagi mereka yang menggunakan sistem AI berisiko tinggi.
Mengenai itukecerdasan buatan generatif, kompromi tersebut menetapkan aturan umum untuk memastikan kualitas data, memverifikasi kepatuhan terhadap undang-undang hak cipta, dan dengan jelas mengidentifikasi suara, gambar, dan teks buatan. Batasan yang lebih ketat hanya akan berlaku pada sistem yang lebih kuat.
Naskah legislatif, yang mengatur sanksi keuangan terhadap perusahaan yang melanggar prinsip-prinsip tersebut, memerlukan rincian lebih lanjut sebelum dilakukan pemungutan suara akhir oleh Parlemen dan Dewan. Peraturan ini diharapkan mulai berlaku penuh dalam dua tahun, menjadikan Uni Eropa sebagai yurisdiksi pertama di dunia yang mengatur kecerdasan buatan.
Darurat mikrochip
Meskipun ada kemajuan dalam regulasi, Eropa masih tertinggal dalam hal mikrochip: hanya Perancis dan Jerman yang berinvestasi pada perusahaan rintisan yang menjanjikan untuk mengisi kesenjangan tersebut. Undang-Undang Keripik Eropa bertujuan untuk menggandakan produksi mikrochip pada tahun 2030. Italia, hingga saat ini, menunjukkan kurangnya strategi yang jelas dan harus bergerak cepat dengan memulai, misalnya, dengan pembuatan "model pondasi” warga negara yang mampu mencegat peluang budaya nasional sebelum orang lain.
UU AI
L 'Undang-Undang Kecerdasan Buatan membagi sistem kecerdasan buatan menjadi empat kategori risiko, dengan manfaat bagi sistem berisiko rendah dan kewajiban khusus bagi sistem berisiko tinggi. Sistem dengan risiko yang tidak dapat diterima jelas dilarang, sedangkan risiko transparansi dinilai dalam kasus seperti “sangat palsu”.
Mengenai pengenalan biometrik, hanya diizinkan dalam konteks tertentu, seperti pencarian korban yang ditargetkan atau pencegahan ancaman teroris. Praktik yang melibatkan karakteristik sensitif dalam sistem kategorisasi biometrik dilarang.
Perjanjian tersebut mengatur mengenai “model pondasi“, memerlukan penilaian terlebih dahulu untuk proyek-proyek yang berdampak tinggi sebelum mengakses pasar. Untuk sistem berisiko tinggi, kewajibannya berkisar dari evaluasi model hingga keamanan siber. Sistem dengan risiko yang tidak dapat diterima, seperti sistem yang memanipulasi perilaku manusia, dilarang keras, begitu pula sistem yang memungkinkan “penilaian sosial” oleh perusahaan dan pemerintah.
Selanjutnya teks tersebut menyebutkan ChatGPT di OpenAI sebagai salah satu AI generatif lebih kuat, sementara Gemini dari Google disajikan sebagai tanggapan yang signifikan. Di Eropa, laboratorium penelitian Kyutai berfokus padaopen source dan demokratisasi kecerdasan buatan. Dari China, Erni Bot muncul sebagai aplikasi Rumah AI dengan fungsi serupa dengan ChatGPT, yang berspesialisasi dalam percakapan teks, menjawab pertanyaan, dan memecahkan masalah matematika.
Berlangganan newsletter kami!