Una posible Agencia Estatal de Algoritmos ha sido planteada para España por parte de Íñigo Errejón (Más País), que considera necesario un organismo público regulador. Dado que los algoritmos cada vez afectan más a los ciudadanos, velaría porque sus decisiones sean justas y no discriminatorias.
En un principio, Errejón plantea la Agencia Estatal de Algoritmos como un ente independiente, aunque en el fondo subyace la cuestión de cómo se deben regular los algoritmos. Errejón cree que pronto se integrarán también en la administración pública, y que los ciudadanos se verán afectados por ellos de la misma manera que ocurre en redes sociales como Facebook, Instagram o Twitter.
El debate que plantea Más País lleva tiempo abierto, por ejemplo, cuando se descubrió que el algoritmo de Twitter era racista con las fotos, y la empresa dejó de utilizarlo porque no tenía muy claro qué estaba fallando.
Errejón encomendaría a la hipotética Agencia Estatal de Algoritmos que evite la discriminación por género, raza, orientación social o estatus socioeconómico. El programa de Más País da gran importancia al cuidado de la salud mental, y el organismo también podría investigar en qué medida le afectan Facebook y otras redes sociales.
Menciona una reciente polémica por un informe interno donde Facebook reconocía que causaba adicción a los jóvenes, y se aprovechaba de ello. De hecho, este escándalo obligó a Facebook a detener el desarrollo de Instagram Kids, y en breve desde Instagram se pedirá a los adolescentes que se desconecten regularmente para descansar.
Errejón también destaca el caso de una empresa rusa donde los algoritmos despidieron a 150 personas tras valorar su rendimiento en el trabajo usando diferentes parámetros.
El gran problema de los algoritmos es su casi total falta de transparencia, pues los usuarios afectados por sus decisiones normalmente conocen pocos o ningún detalle de cómo funcionan a nivel interno.
Tampoco son infrecuentes los casos de algoritmos que funcionan mal, sin que los propios programadores lo detecten, y toman decisiones injustas o discriminatorias.
Un enfoque "open source" donde cualquier pudiera revisar el código de los algoritmos sería lo deseable, pero muchas empresas los consideran secretos comerciales de gran valor, así que recibirían muy mal la noticia de tener que compartirlos.
Si bien Errejón no ha entrado a fondo en el funcionamiento de la Agencia Estatal de Algoritmos, se entiende que tendrá poderes para auditar este tipo de software, aunque habría que definir si la ley le da acceso al código o solo puede analizar los resultados de las decisiones y exigir cambios.
En general, la idea de la Agencia Estatal de Algoritmos es muy interesante, pero debemos tener en cuenta que Más País no tiene apoyos en el Congreso para sacarla adelante en solitario. Ya sea creando un nuevo ente o mediante las administraciones existentes, el tema de la regulación de los algoritmos promete generar mucho debate en los próximos años.
- Ver Comentarios