Wat zal de AI Act kunnen betekenen voor beeldmakers?
Binnen de Europese wetgevingsinstanties wordt hard gewerkt aan regelgeving die van toepassing zal zijn op kunstmatige intelligentie: de zogenaamde ‘AI Act’. Begin mei is er in het Europees parlement weer een stap gezet naar een akkoord hierover, waarin ook specifiek de beeld genererende AI geadresseerd wordt. In de tweede helft van dit jaar zal er binnen Europa verder gewerkt worden aan de definitieve tekst. Pictoright is via de Europese koepelorganisatie EVA nauw betrokken bij dit proces. Zie bijvoorbeeld het juridische paper dat EVA hierover heeft gestuurd naar de Europese instanties.
In de AI Act worden hoog risico-toepassingen van AI aangewezen (denk daarbij aan analyse van biometrische gegevens of sociale kredietscores). In de laatste versie van de Act zijn ook voorstellen opgenomen die specifieke normen opleggen aan “generatieve AI” (de zogenaamde foundation models). Ook deze systemen moeten aan bepaalde zorgvuldigheids- en transparantienormen voldoen. Daarnaast dienen de ontwikkelaars van deze modellen door middel van een ‘samenvatting’ inzicht te geven in hun trainingsdata en moeten zij voorkomen dat hun systeem illegale output genereert. Waarschijnlijk betekent dit dat ook geen inbreukmakende output uit het systeem mag komen. Hoe de AI platforms dit precies moeten doen of hoe zo’n samenvatting eruit zal moeten zien, is nog niet duidelijk. De AI Act wordt nog gefinaliseerd en het duurt nog even voordat deze van kracht zal zijn.