La inteligencia artificial (IA) ha evolucionado de ser una simple promesa tecnológica a convertirse en una cuestión crucial para los gobiernos a nivel mundial. A medida que se implementan sistemas capaces de procesar información y anticipar escenarios con rapidez, surge la inquietud sobre el papel que debe desempeñar esta tecnología en la formulación de políticas públicas.
Un debate de larga data en la teoría política y administrativa regresa a la superficie: ¿deben los algoritmos participar en la creación de políticas o su función debe limitarse a mejorar su ejecución? Este dilema no es nuevo, ya que figuras como Charles Lindblom y Aaron Wildavsky exploraron los límites de la planificación racional en la gobernanza, enfatizando que las políticas emergen de negociaciones y conflictos.
A la luz de la tecnología actual, los sistemas de IA tienen la capacidad de consultar registros, verificar requisitos y procesar grandes volúmenes de datos con una eficiencia notable. Sin embargo, una administración más eficiente no necesariamente implica una gobernanza más justa. Es esencial diferenciar entre el proceso de automatización de tareas y la transferencia de autoridad, ya que las decisiones sobre quién recibe beneficios y cómo se distribuyen los recursos son intrínsecamente políticas.
Un ejemplo claro es el sistema que inscribiría automáticamente a un recién nacido en registros y servicios médicos. Aunque la tecnología puede agilizar procesos, plantea interrogantes que los algoritmos no pueden resolver, como la determinación de prestaciones adecuadas o la corrección de errores. Por tanto, el verdadero reto es construir un Estado que funcione como un orquestador de capacidades, donde la IA complemente la labor humana sin sustituir el juicio político.
La metáfora de la orquesta es pertinente, ya que un conjunto de algoritmos puede ejecutar tareas específicas, pero el Estado debe definir el mandato y las reglas de interacción. Las experiencias internacionales ilustran tanto el potencial como los riesgos de esta transformación. En los Países Bajos, el uso de IA para detectar fraudes en beneficios sociales resultó en injusticias significativas, mientras que en Singapur, un gemelo digital de la ciudad ha permitido simular proyectos urbanos sin reemplazar la decisión política.
La confianza excesiva en los datos puede llevar a la tentación de delegar la formulación de políticas a algoritmos. Sin embargo, la optimización de objetivos como la reducción de costos o el aumento de cobertura no pueden determinar la prioridad de esos fines. Las democracias prosperan al cuestionar regularidades y redefinir prioridades colectivas.
Por ello, es insuficiente una simple supervisión humana de decisiones automatizadas. Se requiere un modelo de «democracy-in-the-loop», donde exista autorización y control democrático sobre los sistemas inteligentes, involucrando a los ciudadanos en la discusión sobre los objetivos y reglas de funcionamiento de la IA.
La clave reside en que, aunque la inteligencia artificial puede mejorar la capacidad estatal, no se debe delegar la responsabilidad de decidir sobre derechos y prioridades fundamentales. Un Estado orquestador utilizará la tecnología para implementar políticas de manera más eficiente, manteniendo la obligación de justificar las decisiones y responder públicamente por sus consecuencias. La legitimidad política debe ser una consideración central en el diseño de sistemas tecnológicos.
Fuente: La Nación
