CECU demana als eurodiputats i al govern una defensa clara dels consumidors en la nova regulació sobre Intel·ligència Artificial

Data: 12-09-2022 - Categoría: Consum


 
El debat a nivell europeu del projecte de Reglament d'IA es troba en aquests moments en marxa, fruit de la proposta de la Presidenta Von der Leyen que, en les seves orientacions polítiques per a la Comissió 2019-2024, va anunciar que la Comissió Europea presentaria propostes de legislació per a un enfocament europeu coordinat sobre les implicacions ètiques i humanes de la IA. El paper d'Espanya en aquest debat és especialment important, en ocupar la presidència del Consell el segon semestre del 2023 i en haver-se ofert a ser la prova pilot per aplicar aquesta normativa.

El nou reglament tindrà impacte en la nostra vida diària, mentre la IA està present en nombrosos àmbits: als assistents virtuals, les eines de reconeixement facial de, per exemple, els nostres telèfons intel·ligents, als sistemes de recomanació de contingut a les xarxes socials o de productes i, fins i tot, en qüestions tan senzilles com el nostre correu brossa. Encara més, cal tenir en compte que els sistemes de presa de decisions basades en algoritmes tindran cada cop més impactes en nombrosos aspectes de les nostres vides, com per exemple, en l'accés a una ocupació, a un crèdit o una determinada pòlissa d'assegurances. D'altra banda, els sistemes de reconeixement d'emocions podrien afectar l'autonomia de les persones consumidores si no es regulen correctament.

El projecte de Reglament té com a objectiu principal desenvolupar un ecosistema de confiança mitjançant un marc jurídic destinat a aconseguir que la IA sigui fiable. La proposta és discutida pel Parlament Europeu i el Consell.

CECU i la CUS - Salut + Consum + Alimentació celebren la proposta de Reglament de la IA en debat a nivell europeu. No obstant això, el projecte de regulació requereix importants modificacions per garantir que les persones consumidores es trobin adequadament protegides. CECU i la CUS - Salut + Consum + Alimentació consideren necessari que s'incloguin les millores següents en el Reglament que s'aprovi finalment:
  • Cal ampliar l'àmbit d'aplicació i imposar-se una sèrie de principis i obligacions horitzontals (equitat, transparència, rendició de comptes, entre d'altres) que apliquin a tots els sistemes d'IA.
  • La llista de pràctiques prohibides de l'art. 5 ha de ser ampliada i reforçada per incloure pràctiques perjudicials que en la proposta de la Comissió no es tenen en compte, com per exemple, els sistemes d'IA que manipulin causant un dany econòmic.
  • Els procediments d'avaluació de conformitat aplicables als sistemes d'alt risc s'han de reforçar i s'han d'establir que les avaluacions de tercers siguin la regla per a aquest tipus de sistemes.
  • Els estàndards harmonitzats s'han d'utilitzar únicament per definir requeriments tècnics i no per definir o aplicar principis legals o relacionats amb els drets fonamentals.
  • El sistema de governança i els mecanismes d'aplicació per part les autoritats nacionals han de ser clarificats i millorats, per exemple, atorgant a la Comissió Europea la competència d'iniciar procediments d'avaluació d'un sistema d'IA sota determinades circumstàncies.
Anabel Arias, responsable de drets digitals de CECU, sosté que “tant eurodiputats com el Govern han de garantir una regulació adequada de la IA, ja que això és crucial per aconseguir un alt nivell de protecció a les persones consumidores, així com un entorn just, segur i fiable en què s'asseguri el desenvolupament sostenible de les nostres societats”.