Equità degli algoritmi e democrazia

Abstract [ita]

Negli ultimi anni, viene dedicata sempre più attenzione al tema dell'equità degli algoritmi (fairness), per il timore che, in un mondo sempre più automatizzato, diversi ambiti della nostra vita vengano gestiti da strumenti informatici che perpetrano ingiustizie. Questo articolo prende in considerazione i criteri che, generalmente, vengono seguiti dai programmatori, per fare in modo di non produrre discriminazioni. Ciò che si evidenzia, però, è che oggi, nei dibattiti sulla fairness algoritmica, le definizioni a proposito di ciò che è giusto e di ciò che non lo è sembrano derivare, per la maggior parte, da una visione tipicamente liberale del concetto di giustizia, incentrata sulla tutela dei diritti individuali e sull’eguale probabilità assegnata a ognuno di vederli rispettati dagli strumenti informatici. È molto più raro imbattersi in definizioni pensate per portare avanti meccanismi di giustizia focalizzati sul tentativo di realizzare perequazioni là dove le differenze iniziali tra le persone – di nascita, censo, eccetera – impediscono loro di godere appieno delle stesse opportunità che sono garantite agli altri. Poiché, come scrive Bobbio (1984), la vita democratica si dispiega in ogni settore della società, non solo nei parlamenti, e poiché ormai gli algoritmi stabiliscono o aiutano a stabilire se possiamo accedere al credito, all'istruzione, a un colloquio di lavoro, eccetera, nelle pagine che seguono si prova a ragionare su che tipo di vita democratica stiamo progettando, sulla base dell'idea di giustizia con cui diamo forma alle infrastrutture informatiche della nostra quotidianità.

Abstract [eng]

It is becoming common, in many spheres of our everyday life, to bump into algorithms that are used to take decisions in our place or to help us take decisions. To prevent these technologies from generating injustices, a new branch of computer science is taking place, called algorithmic fairness. The idea is that a certain vision of justice must be formalized into some statistical criteria, that are put at the core of the computer tools we recur to. Doing so, we can be sure that those instruments will automatically be fair, every time we use them. However, if we study the most common algorithmic fairness criteria, we find out that they are generally based on a very specific vision of justice, which is liberal, in a sense that will be described. Only a few of them derive from another concept of justice. This may have some effects on the quality of our democratic life, as the algorithms that are projected coherently with those principles are used to decide whether to free people from jail or not, to give them a loan, a job, the possibility to study in a university or in another, etc. This article makes an overview of the field of algorithmic fairness and raises some philosophical problems about the kind of democracies we are building, by recurring to the computer tools that are more and more diffused in our societies.