door Massimiliano D'Elia
Il top vorige week aangevraagd door de Engelse premier Altaar in Groot-Brittannië was er op het gebied van AI (kunstmatige intelligentie) sprake van de deelname van 's werelds grootste hi-techbedrijven en de meeste wereldleiders. Aan het einde van de top beloofden de bedrijven, door middel van een intentieverklaring, de rol van overheden te erkennen bij de verificatieactiviteiten voordat elk AI-product extern op de markt wordt gebracht. Doel van deelname Publiek privaat is het zorgvuldig analyseren van potentieel gevaarlijke toepassingen van AI op het gebied van de nationale veiligheid of in de samenleving.
Wat zeker is, is dat de weg van intentie naar praktijk nog steeds erg lang en kronkelig is. In feite is Sunak al naar voren gesprongen en zei: “dingen verplicht stellen en wetten uitvaardigen kost tijd, we moeten sneller handelen dan nu: het is belangrijk dat regelgeving empirisch gebaseerd is, voordat formele regelgeving wordt gespecificeerd”.
Elke staat zal daarom gebruik moeten maken van een structuur die verantwoordelijk is voor het verifiëren van nieuwe AI-modellen. In Engeland zal dat wel zo zijnInstituut voor AI-veiligheid.
De risico's waartegen gevreesd wordt Altaar en ook van Elon Musk, aanwezig op de top, betreffen het Terminator-effect dat deze nieuwe en onontdekte technologie ervoor had kunnen zorgen dat modellen uitgerust met superintelligentie zichzelf zouden kunnen ontwikkelen, emoties zouden kunnen ervaren en mogelijk autonoom zouden kunnen handelen. De angst bestaat dat ze op een dag, niet ver weg, een concreet gevaar voor het voortbestaan van de mensheid zouden kunnen vormen.
Muskus, in dit opzicht, was lapidair: “Kunstmatige intelligentie vertegenwoordigt een van de grootste risico’s voor de mensheid want voor het eerst worden we geconfronteerd met iets dat veel intelligenter zal zijn dan wij."
Het Pentagon heeft zijn AI-strategie vrijgegeven
Dat blijkt uit een telling die openbaar is gemaakt door Government Accountability Office In de VS zou het ministerie van Defensie begin 2021 meer dan 685 projecten met betrekking tot AI beheren. Het leger loopt voorop met minstens 232 projecten. Het Korps Mariniers beheert echter naar verluidt minstens 33.
Het Amerikaanse ministerie van Defensie werd gedwongen naar buiten te treden en heeft onlangs een nieuwe strategie uitgebracht over het gebruik van data-analyse en kunstmatige intelligentie, waarmee wordt aangedrongen op verdere investeringen in AI om geavanceerde modellen van autonome technologieën te ontwikkelen, waaronder drones.
Het Pentagon is van plan zijn militaire commandanten in het veld te voorzien van nieuwe instrumenten die hen bij beslissingen kunnen ondersteunen. Om deze reden wordt de industrie gevraagd nieuwe AI-modellen te ontwikkelen.
Andere doelstellingen die in de strategie worden geschetst, zijn onder meer een verbeterde, grotere infrastructuur vennootschap met groepen buiten het ministerie van Defensie en een hervorming van de interne bureaucratie die vaak verhindert dat de technologie sneller vooruitgaat dan het ministerie zou willen.
Met dit document richt het Pentagon ook de interne entiteit (CDAO) op die het moet besturen.
Het CDAO werd opgericht in 2021 en omvatte het Joint Artificial Intelligence Center, de Defense Digital Service, het Advana-dataplatform en nam de rol van Chief Data Officer op zich.
Het gebruik van generatieve AI in het leger is controversieel, schrijft Defense News. Het belangrijkste voordeel is de mogelijkheid om eenvoudige of alledaagse taken te stroomlijnen, zoals het zoeken naar bestanden, het vinden van contactgegevens en het beantwoorden van eenvoudige vragen. Maar de technologie is ook gebruikt om cyberaanvallen, spoofing-pogingen en desinformatiecampagnes aan te wakkeren.
Het Pentagon heeft ervoor gezorgd dat mensen verantwoordelijk zullen blijven voor het gebruik van dodelijk geweld en, zoals vermeld in de laatste herziening van zijn kernwapens, zij onder strikte menselijke controle zullen blijven.
De ontwikkeling en het gebruik van semi-autonome of volledig autonome wapens wordt gereguleerd door de zogenaamde Richtlijn 3000.09, oorspronkelijk tien jaar geleden ondertekend en afgelopen januari bijgewerkt.
De richtlijn is bedoeld om de risico's van autonomie en vuurkracht te verminderen. Het is niet van toepassing op de cybernetica, een terrein waarop leiders steeds vaker de noodzaak van autonome capaciteiten bepleiten.
Task Force Lima, onder toezicht van het CDAO, werd eerder dit jaar opgericht om de toepassing van generatieve AI voor nationale veiligheidsdoeleinden te evalueren en te begeleiden.
Het Pentagon heeft 1,4 miljard dollar gevraagd voor AI in het boekjaar 2024, dat op 1 oktober begint, waardoor de financieringsniveaus onveranderd blijven ten opzichte van het voorgaande jaar.
Abonneer je op onze nieuwsbrief!