Por: Álvaro E. Sánchez Solís
Hace poco, la Universidad de Cambridge publicó un libro titulado The Cambridge Handbook of The Law, Ethics and Policy of Artificial Intelligence, editado por Nathalie Smuha, profesora de varias universidades europeas. Esta obra recopila diversos artículos sobre el impacto de la inteligencia artificial en distintas ramas del derecho. En el capítulo 19, la misma Nathalie Smuha desarrolla un análisis sobre el uso de sistemas algorítmicos en la administración pública. Considero importante comentarlo, tomando en cuenta que estamos a pocos pasos de que la inteligencia artificial invada todos los ámbitos en los que nos desenvolvemos.
Smuha comienza haciendo un breve recuento histórico del uso de la tecnología en las instituciones del sector público y menciona el gran salto que han dado varios países desde lo que denomina el movimiento del New Public Management (NPM)—que implica el uso de tecnologías básicas en la gestión y clasificación de la información dentro de una institución pública, previo a que un ser humano tome una decisión determinada—hacia el New Public Analysis (NPA), el cual, a diferencia de su antecesor, comprende sistemas de inteligencia artificial que recopilan información de manera autónoma, la almacenan, la clasifican y toman decisiones por sí mismos.
Considero que, en Ecuador, con sistemas del gobierno central como el obsoleto Quipux o plataformas municipales como el GADMATIC, aún nos encontramos en la etapa del NPM, donde los sistemas informáticos son manipulados por seres humanos para ingresar información específica y comunicar decisiones previamente tomadas por ellos mismos. Pocas son las iniciativas de NPA que han surgido en el país y muchas aún están por implementarse.
No obstante, la profesora Smuha también advierte sobre los peligros de adoptar sistemas de inteligencia artificial sin delimitar claramente los parámetros bajo los cuales deben operar. En Francia, por ejemplo, se implementó un sistema de inteligencia artificial para identificar a personas que poseían piscinas en sus domicilios y que, por lo tanto, debían pagar impuestos adicionales. Como resultado, se descubrieron evasores fiscales con piscinas no reportadas ante las autoridades; sin embargo, también se aplicaron impuestos excesivos a propietarios de viviendas con paneles solares, ya que el sistema no supo diferenciar entre ambos elementos.
En los Países Bajos, otro sistema de inteligencia artificial fue implementado de manera deficiente, con la finalidad de establecer quiénes deben o no recibir un determinado beneficio de cuidado infantil. Esto llevó a la injustificada revocación del beneficio a numerosas familias, a las cuales también se les exigió la devolución total del dinero recibido por dicho beneficio, lo que, en algunos casos, tuvo consecuencias trágicas, incluyendo suicidios. El artículo de Smuha describe las luces y sombras de una administración pública manejada por sistemas autónomos, los cuales, poco a poco, podrían desplazar a los seres humanos. Sin embargo, lejos de la utopía imaginada por muchos, estos sistemas no estarían exentos de errores que podrían vulnerar derechos fundamentales o, incluso, generar graves responsabilidades para la administración pública.
