Mediplanet/Pharmaplanet

Het Europees Parlement wil consumenten bescherming bieden tegen de problemen die gepaard kunnen gaan met de uitrol van artificiële intelligentie en geautomatiseerde besluitvorming. "Een mens moet ultiem verantwoordelijk zijn voor de beslissingen die worden genomen, maar die mens moet ook in staat zijn om foute beslissingen te corrigeren", zegt Petra De Sutter (Groen), die de pen van de resolutie vasthield.

Bij haar aantreden beloofde Europees commissaris voor Digitale zaken Margrethe Vestager eind vorig jaar om binnen de 100 dagen voorstellen te doen voor een modern regelgevend kader voor articiële intelligentie, dat ook aandacht heeft voor de "menselijke en ethische implicaties" van AI. Met de resolutie die de commissie Interne markt en Consumentenbeschermi ng donderdag heeft aangenomen, wil het Europees Parlement wegen op de besluitvorming binnen de Europese Commissie.

Voor de parlementsleden staat de bescherming van de consument centraal. "Mensen moeten erop gewezen worden dat een gespreksvenster met een virtuele assistent op websites, een zogenaamde chatbot, geen medemens is, maar een geautomatiseerd programma", geeft rapporteur Petra De Sutter als concreet voorbeeld. "Consumenten moeten op elk moment in staat zijn om op een of andere manier wél met een mens van vlees en bloed in contact te komen."

Tegelijk moeten de regels rond productveiligheid gemoderniseerd worden, om in te spelen op het feit dat producten die werken op basis van AI op het ogenblik dat ze op de markt worden gebracht, zich mogelijk anders gedragen dan bedoeld. Anders gezegd: ongevallen met zelflerende producten moeten in de mate van het mogelijke vermeden worden. En als er dan toch ongevallen gebeuren, moet in belangrijke dienstensectoren als de medische of de bankwereld "een mens ultiem verantwoordelijk zijn voor de beslissingen die daar gemaakt worden", zegt De Sutter. "Maar die mens moet ook in staat zijn om foute beslissingen te corrigeren."

De parlementsleden, die hun resolutie goedkeurden met 39 stemmen voor, nul tegenstemmen en vier onthoudingen, wijzen ook op de "grotere gevaren" voor de consument bij de uitrol van geautomatiseerde besluitvorming. "We willen vermijden dat de data waarop geautomatiseerde besluitvorming gebaseerd is, bevooroordeeld of onrechtmatig verkregen zijn of dat er met behulp van geo-locatie gediscrimineerd wordt op nationaliteit", aldus De Sutter.

Op 19 februari licht commissaris Vestager toe welk kader ze wil scheppen voor alles wat met artificiële intelligentie en geautomatiseerde besluitvorming te maken heeft. Daarna is het aan het parlement en de Raad (de lidstaten) om op basis van het Commissievoorstel die nieuwe wetgeving concreet vorm te geven.