« Les développements dans le domaine de l’intelligence artificielle (IA) se succèdent à toute allure, avec à la clé des innovations prometteuses mais aussi un certain nombre d’inquiétudes concernant le respect de la vie privée et le risque d’exclusion de certains citoyens », estime le Pr Daniel Mügge de l’université d’Amsterdam.

« L’UE planche actuellement sur une réglementation dans le domaine de l’IA et la réflexion est en cours sur les systèmes qui devraient ou non être les bienvenus. Reste à savoir comment procéder, dans un contexte où de grands acteurs comme les États-Unis et la Chine ont souvent une position très différente sur les questions éthiques… » Spécialiste en économie politique, Daniel Mügge va s’attacher avec son équipe et le CiSAI à analyser l’approche diplomatique de l’UE dans le domaine de l’IA et les scénarios possibles pour le futur 

« Une réglementation dans le domaine de l’IA est nécessaire par exemple en raison de certaines inquiétudes concernant le respect de la vie privée, l’autonomie, le risque de discrimination de certains individus ou encore de possibles applications militaires pas forcément souhaitables. De par le caractère transfrontalier de l’IA, la manière dont ces règles vont pouvoir être élaborées et leur efficacité concrète sont toutefois tributaires l’évolution de la situation ailleurs dans le monde. La Chine et les États-Unis, qui sont les deux principaux acteurs dans ce domaine, ont une influence majeure sur les systèmes qui arrivent sur le marché européen. Dans notre étude, nous analysons comment l’UE compose avec eux lors de l’élaboration de sa réglementation », précise le Pr Mügge 

« Il y a déjà à l’heure actuelle énormément de discussions avec les États-Unis pour définir des cadres éthiques dans le domaine de l’IA, qui visent par exemple à éviter la discrimination ou à limiter le pouvoir de grandes entreprises comme Google ou Facebook. Reste à savoir dans quelle mesure nous y parviendrons et, dans l’état actuel des choses, nous n’avons pas la réponse. »

L’exemple à ne pas suivre

« Il est plus délicat encore de trouver un terrain d’entente avec la Chine – un pays souvent considéré, chez nous, comme le cas d’école d’un exemple à ne pas suivre, avec son gouvernement qui s’est assuré grâce à l’IA un pouvoir bien trop étendu sur ses citoyens et qui n’hésite pas à s’en servir à des fins de répression. Malheureusement, ces accords avec la Chine sont une nécessité en raison non seulement de l’envergure qu’y a le secteur l’IA et des moyens financiers considérables dont il dispose, mais aussi parce que le pays à accès à une masse de données colossales… qui sont évidemment essentielles pour les systèmes informatiques apprenants. Imaginez qu’un acteur chinois vous propose un système d’IA prometteur capable d’identifier certains cancers à un stade très précoce. Avant de l’implémenter dans votre hôpital, vous voudrez probablement savoir si les données qui ont alimenté l’algorithme d’identification sont été récoltées dans le respect de l’éthique. »

« Les prises de position vis-à-vis de la réglementation dans le domaine de l’IA diffèrent du reste aussi d’un pays à l’autre au sein de l’UE. Les Allemands sont par exemple traditionnellement extrêmement circonspects pour tout ce qui touche au respect de la vie privée et au partage de données à caractère personnel, et donc favorables à des règles plus strictes. Un pays comme l’Estonie voit au contraire une opportunité de se profiler comme une sorte de laboratoire novateur sur le plan numérique et a donc tout à gagner à une réglementation plus souple. »

« À côté de cette réglementation concernant les systèmes venus de l’extérieur de nos frontières, Bruxelles s’efforce aussi de développer un secteur européen robuste dans le domaine de l’IA. Les entreprises basées dans l’UE sont plus faciles à réguler et la collaboration européenne est une condition indispensable à l’intégration des masses de données colossales nécessaires pour développer des systèmes d’IA concurrents. L’Union essaie vraiment de mettre les bouchées doubles dans ce domaine, car la technologie évolue à une vitesse fulgurante. Mais ce n’est pas simple, car l’élaboration de politiques européennes reste un processus laborieux. »

Scénarios d’avenir

« Dans nos travaux, nous allons en première instance dresser le tableau de ce qui se passe à l’heure actuelle : dans quelle mesure l’UE dépend-elle de ce que font les autres pour une réglementation efficace ? Sur cette base, nous allons ensuite esquisser des scénarios d’avenir illustrant les avantages et inconvénients de certains choix. Notre position est qu’il ne faudrait pas élaborer une approche unique pour tous les systèmes d’IA ou un seul ensemble de règles qui s’appliquent en toutes circonstances au sein de l’UE. Suivant l’application spécifique, il peut par exemple être souhaitable dans certains cas de suivre l’approche américaine, dans d’autres de passer des accords à l’échelon mondial et dans d’autres encore, de définir une vision et une approche propres à l’Union », conclut le Pr Mügge.