L’intelligence artificielle et la prise de décision automatisée peuvent représenter une menace pour les consommateurs. Découvrez comment le Parlement européen souhaite les protéger.
Qu’est-ce que l’intelligence artificielle et pourquoi peut-elle être dangereuse ?
Les algorithmes d’apprentissage étant
capables de traiter des ensembles de données avec précision et rapidité,
les applications d’intelligence artificielle (IA) sont devenues de plus
en plus courantes, entre autres, dans les secteurs de la finance, des
soins de santé et de l’éducation. Cependant, le recours à l’intelligence
artificielle n’est pas sans risque, en particulier lorsque des
décisions sont prises sans supervision humaine.
L’intelligence artificielle dans les processus décisionnels
L’IA est de plus en plus impliquée dans
les systèmes de décision algorithmiques. Il est important de noter que
les décisions prises peuvent avoir un énorme impact sur autrui, comme
par exemple, permettre ou non d’obtenir un crédit, de décrocher un
l’emploi ou encore d’avoir accès aux soins de santé. La prise de
décision automatisée peut donc faire persister les divisions sociales.
Comment protéger les consommateurs à l’ère de l’intelligence artificielle ?
Le développement de l’IA et des
processus de prise de décision automatisés (ADM) peut également nuire au
bien-être des consommateurs. Lorsque les consommateurs interagissent
avec un système ADM, ils devraient être correctement informés de son
fonctionnement.
La position du Parlement européen
Dans une résolutionadoptée le 23 janvier, la commission du marché intérieur et de la protection des consommateurs appelle la Commission européenne à examiner si des mesures supplémentaires doivent être prises afin de garantir la protection des consommateurs.
La Commission doit clarifier la façon dont elle prévoit de :
- veiller à ce que les consommateurs soient protégés contre les pratiques commerciales déloyales et discriminatoires
- garantir une plus grande transparence dans ces processus
- s’assurer que seuls des ensembles de données de haute qualité et non biaisés soient utilisés dans les systèmes de décision algorithmiques
« Nous devons veiller à ce que la protection et la confiance des consommateurs soient garanties, que les règles de l’UE sur la sécurité et la responsabilité des produits et des services soient adaptées à l’ère numérique », a déclaré Petra De Sutter, députée allemande membre du groupe des Verts/ALE et présidente de la commission du marché intérieur et de la protection des consommateurs.
Prochaines étapes
Les députés seront appelés à se prononcer sur la résolution durant la session plénière de février. Suite à cela, elle sera transmise au Conseil et à la Commission. La Commission devrait présenter ses plans pour une approche de l’UE envers l’IA le 19 février.
EP
