Trasparenza degli algoritmi

Quando lavoravo per la Commissione Europea (presso la sede di Siviglia del Joint Research Centre), Marc, il caposquadra, mi mandò "in missione" a Bruxelles. C'era nell'aria in conferimento al centro di Siviglia di certe analisi con modelli CGE (Computable General Equilibrium). Io ero e sono molto contrario ai CGE, e così era il nostro capo. Non li si voleva fare. Per questo mandarono me, perché ero la persona ideale per conseguire un non-risultato. E infatti trionfai.

All'incontro a Bruxelles c'era qualche venditore che di cotali modelli decantava le doti. Io proposi una concione sull'esigenza di avere algoritmi trasparenti, anche per evitare che la Commissione venisse accusata di un approccio tecnocratico. "Let's make the black boxes transparent", proclamai.

La mia critica era inoppugnabile - nessuno in Commissione ama l'accusa di "tecnocrazia" - e al tempo stesso improponibile: i "vendor" non hanno nessuna intenzione di aprire il codice, anche e certo non solo perché, cito a memoria da un bel vecchio articolo di Leamer, vale per le stime econometriche quel che si dice delle salsicce: non vuoi vedere come sono fatte.

Andò benissimo: i modelli CGE arrivarono a Siviglia, ma se li prese un altro team (qui) più di bocca buona del nostro.

Apprendo che al JRC di Siviglia si aprirà il nuovo centro per la trasparenza degli algoritmi. Il contesto è un po' diverso, dato che si parla di algoritmi altrui e non dei propri... ma diamo tempo al tempo.

La foto che apre l'articolo è dove ogni mattina entravo per andare a lavorare, sempre portando nel mio zainetto la mia notoria astuzia politico-dadaista.

ps. La questione importante citata sotto è la DSA (e poi c'è la DMA): se ne dovrebbe parlare di più.

Sevilla albergará el Centro Europeo para la Transparencia algorítmica. Eva Saiz, El Pais, 15 novembre 2022.

"España albergará el Centro Europeo para la Transparencia Algorítmica (ECAT en sus siglas en inglés), una de las principales herramientas de la Unión Europa para garantizar el buen funcionamiento y el control de contenidos ilícitos y perjudiciales de las plataformas digitales y brindar una mayor protección de los derechos fundamentales de los usuarios de Internet, que son los objetivos de la Directiva de Servicios Digitales (DSA), una de las grandes apuestas legislativas de la Unión Europea, que mañana entra en vigor. En concreto, el nuevo organismo tendrá su sede en el Centro Común de Investigación (JRC) que la Comisión tiene en Sevilla."