De EU-wetgeving heeft tot doel discriminatie, grootschalige surveillance en creatieve manipulatie door middel van kunstmatige intelligentie te voorkomen. De urgentie om kunstmatige intelligentie te reguleren wordt ingegeven door de risico’s van misbruik die een bedreiging kunnen vormen voor democratische regimes en het burgerleven. Ondanks het succes van de overeenkomst blijven er twijfels en verhulde wrok bestaan over het gebrek aan regulering van reeds veelgebruikte virtuele assistenten zoals ChatGPT of Bard.
door Massimiliano D'Elia
Na een intensieve week vol ontmoetingen en discussies hebben het Parlement en de Raad eindelijk op politiek niveau de juiste oplossing gevonden voor de eerste mondiale regelgevingsarchitectuur voor het gebruik van kunstmatige intelligentie. Het hoofddoel was om de buitengewone mogelijkheden van deze revolutionaire technologie in evenwicht te brengen met de allesoverheersende noodzaak om de fundamentele rechten van EU-burgers te beschermen. De nieuwe regels zullen worden toegepast in gevoelige contexten zoals scholen, werkplekken, ziekenhuizen en rechtbanken, waarbij de nadruk ligt op de bescherming van de meest kwetsbare mensen.
Tijdens de onderhandelingen streefde het Parlement naar restrictievere regels, terwijl regeringen aandrongen op manoeuvreerruimte, zowel op het gebied van de veiligheid als in de economische sector. Het nu bereikte akkoord voorziet in de toepassing op Europees niveau van verboden, met enkele uitzonderingen, voor biometrische identificatie op afstand door politie en veiligheidsautoriteiten in openbare ruimtes. Bovendien zal er een vereiste zijn om meer gedetailleerde beoordelingen uit te voeren voor degenen die gebruik maken van AI-systemen met een hoog risico.
Betreffende degeneratieve kunstmatige intelligentiestelt het compromis gemeenschappelijke regels vast om de kwaliteit van de gegevens te garanderen, de naleving van de auteursrechtwetten te verifiëren en kunstmatige geluiden, afbeeldingen en teksten duidelijk te identificeren. Strengere beperkingen zullen alleen van toepassing zijn op krachtigere systemen.
De wetstekst, die voorziet in financiële sancties tegen bedrijven die de beginselen schenden, zal verdere details vereisen voordat een definitieve stemming door het Parlement en de Raad kan plaatsvinden. De verordening zal naar verwachting over twee jaar volledig van kracht worden, waardoor de Europese Unie het eerste rechtsgebied ter wereld is dat kunstmatige intelligentie reguleert.
Noodgeval met microchip
Ondanks de vooruitgang op het gebied van de regelgeving blijft Europa achter op het gebied van microchips: alleen Frankrijk en Duitsland investeren in veelbelovende start-ups om de leemte op te vullen. De Europese Chipswet heeft tot doel de productie van microchips tegen 2030 te verdubbelen. Italië vertoont tot nu toe een gebrek aan een duidelijke strategie en zal snel actie moeten ondernemen door bijvoorbeeld te beginnen met de oprichting van "funderingsmodellen“onderdanen die in staat zijn nationale culturele kansen eerder dan anderen te onderscheppen.
De AI-wet
deWet kunstmatige intelligentie verdeelt kunstmatige-intelligentiesystemen in vier risicocategorieën, met voordelen voor systemen met een laag risico en specifieke verplichtingen voor systemen met een hoog risico. Systemen met een onaanvaardbaar risico zijn duidelijk verboden, terwijl het risico van transparantie wordt beoordeeld in gevallen zoals de “diep nep”.
Wat de biometrische herkenning, is alleen toegestaan in specifieke contexten, zoals het gericht zoeken naar slachtoffers of het voorkomen van terroristische dreigingen. Praktijken waarbij gevoelige kenmerken betrokken zijn in biometrische categorisatiesystemen zijn verboden.
De overeenkomst regelt de “funderingsmodellen“, waarbij voorafgaande beoordeling vereist is voor risico’s met een grote impact vóór toegang tot de markt. Voor systemen met een hoog risico variëren de verplichtingen van modelevaluatie tot cyberbeveiliging. Systemen die onaanvaardbare risico's met zich meebrengen, zoals systemen die menselijk gedrag manipuleren, zijn ondubbelzinnig verboden, net als systemen die 'sociaal scoren” door bedrijven en overheden.
Verder vermeldt de tekst ChatGPT di OpenAI als een van de Generatieve AI's krachtiger, terwijl Gemini van Google wordt gepresenteerd als een significant antwoord. In Europa richt het onderzoekslaboratorium Kyutai zich opopen source en over de democratisering van kunstmatige intelligentie. Uit China, Ernie Bot komt naar voren als een app van Thuis AI met vergelijkbare functionaliteit als ChatGPT, gespecialiseerd in tekstgesprekken, het beantwoorden van vragen en het oplossen van wiskundige problemen.
Abonneer je op onze nieuwsbrief!