De Europese Commissie is een publieke consultatie gestart over nieuwe regelgeving voor kunstmatige intelligentie (AI)-systemen met een hoog risico.
De consultatie, die openstaat tot 18 juli, is bedoeld om input te verzamelen van verschillende belanghebbenden, waaronder het maatschappelijk middenveld, de tech-industrie, AI-ontwikkelaars, onderzoekers en autoriteiten.
De AI-wet van de EU, die tot doel heeft AI-risico's te reguleren, werd vorig jaar afgerond, waarbij de meeste bepalingen in augustus van kracht worden. Systemen met een hoog risico zullen aan strenge eisen moeten voldoen, zoals datasets van hoge kwaliteit, activiteitlogboeken, gedetailleerde documentatie, duidelijke gebruikersinformatie, menselijk toezicht en robuuste cybersecurity.
Voorbeelden van AI-systemen met een hoog risico zijn systemen die worden gebruikt in sollicitatieprocedures of leningaanvragen. De Commissie moet uiterlijk 2 februari 2026 richtlijnen presenteren waarin de praktische toepassing van verplichtingen en voorbeelden van AI-systemen met een hoog en niet-hoog risico worden gespecificeerd.
De nieuwe wetgeving staat het gebruik van AI toe of verbiedt het, afhankelijk van het risico dat het oplevert. Deze is al in werking getreden, met een geleidelijke uitrol gepland, mogelijk volledig geïmplementeerd in 2027.
Sinds februari zijn biometrische identificatiesystemen en systemen die individuen op basis van gedrag scoren, verboden. De Commissie bereidt ook de vierde versie van richtlijnen voor generatieve AI-modellen voor, met als doel een tijdige implementatie.