Meer dan honderd bedrijven, waaronder grote namen als Google, OpenAI, Amazon, Microsoft, KPN en Booking.com, hebben het Europese AI Act ondertekend. Opvallende afwezigen zijn Apple, TikTok, X en Meta, hoewel Meta aangeeft mogelijk later alsnog te tekenen. Dit viertal techreuzen zijn het vooralsnog niet eens met de regelgeving van de Europese AI Act.
De nieuwe regels zijn bedoeld om maatschappelijke risico’s van AI te beperken. Bedrijven moeten daarbij transparant zijn over hun AI-systemen en de bijbehorende risico’s. Het grootste risico is volgens deskundigen de zgn. ongewenste profilering door AI, waarbij grote hoeveelheden gegevens worden gebruikt om voorspellingen te doen over menselijk gedrag, met mogelijk negatieve gevolgen.
Vanaf februari 2025 wordt het voor opsporingsdiensten verboden om AI te gebruiken voor het voorspellen van crimineel gedrag. Tegelijkertijd biedt AI kansen om personeelstekorten op te vangen, bijvoorbeeld in de zorg. Dit roept ethische vragen op over de balans tussen toepasbare AI-mogelijkheden en het beheersen van risico’s. Gedacht wordt daarbij aan de monitoring op afstand van patiënten. Als dat soort systemen niet volledig betrouwbaar zijn bij diagnose en medicatie, kan dit grote risico’s met zich meebrengen.
AI als tijdbesparing en oplossing voor personeelstekorten is zeker een drijfveer, maar moeten aantoonbaar betrouwbaar zijn en algemeen geaccepteerd door de partijen die daar belang bij hebben. De patiënt staat daarbij zeker niet op de laatste plaats.
