El pasado 8 de diciembre se aprobó la Ley de Inteligencia Artificial que regula la venta y el uso de la Inteligencia Artificial (IA) en la Unión Europea. Esta es una ley que se venía impulsando desde abril de 2021 y que marca un ejemplo para otros países. ¿Y por qué esto es importante? Porque los gobiernos han identificado que es necesario poner limitaciones, de manera que se proteja a la sociedad de consecuencias no previstas, típicamente relacionados con manipulación, violación de la privacidad y discriminación.

Por ejemplo, hay muchas columnas de periódicos en Estados Unidos exponiendo como la aplicación de Coffee Meets Bagel (una app de citas) sólo recomendaba hombres asiáticos cuando el usuario no ponía sus preferencias (era una opción no tener preferencias). El algoritmo no consideró problemas de discriminación algorítmica y los hombres asiáticos eran el “descarte”. El algoritmo también violaba la privacidad y terminaba sugiriendo personas con la misma etnicidad del usuario. Que la app no le recomiende al amor de su vida puede ser triste, pero ahora imagine que estos algoritmos discriminatorios no sólo son usados para hacer citas, sino para otorgar créditos o decidir a quién se le prioriza un trasplante.

Sobre derechos de autor, con las AI generativas (como ChatGPT®) hoy es difícil responder a quién es el autor de un ensayo, o quién compuso la nueva canción viral de TikTok y a quién van sus regalías.

Asimismo, la IA puede hasta manipular el futuro de naciones. En 2018, salió a la luz un escándalo porque una compañía llamada Cambridge Analytica había usado los datos de Facebook de los usuarios estadounidenses para influir en las elecciones presidenciales de 2016 a través de manipulación de las emociones y usando contenido provocador, de acuerdo con los perfiles psicológicos de cada usuario establecidos gracias a la información de Facebook. Esta misma empresa fue responsable de dirigir la campaña en pro del Brexit en Reino Unido. En este sentido, no sólo se manipuló a la gente, y se influenció el ejercicio democrático a partir de información falsa, sino que también se violó la privacidad (a nadie le preguntaron si sus datos podían ser usados, probablemente su perfil de Facebook y el mío fueron usados para entrenar esos modelos).

Esto expone un riesgo sumamente desatendido en esta década de furor y desarrollo y “cuando hay prisa lo mejor es andar despacio”. Para la IA hace rato nos pasamos el semáforo, pero esperemos que el frenazo no sea tan tarde. Como lo menciona Harari en “21 lecciones para el siglo XXI”, discutir las implicaciones éticas de la IA no es una opción si se quiere garantizar la subsistencia de la humanidad.

En este sentido, el objetivo fundamental de la ley es regularizar el uso de la IA a partir de un marco legal que responsabiliza a los proveedores. La ley parte de categorizar a las aplicaciones de IA en cuatro niveles de riesgo: Inaceptable, alto, limitado y mínimo. En inaceptable se encuentran todas aquellas aplicaciones que tienen riesgo de causar daños físicos o psicológicos, manipulación, vigilancia en masa y estimar puntajes sociales. Éstas estarán prohibidas.  

Las aplicaciones de riesgo alto son aquellas que ponen en peligro los derechos fundamentales de las personas. Toda aplicación de riesgo alto debería realizar, previo a su lanzamiento, una evaluación de impacto sobre los derechos fundamentales y una evaluación de la conformidad de la aplicación. Una de las grandes críticas a la ley es que tratándose de salvaguardar los derechos fundamentales, las evaluaciones requeridas no necesitan ser realizadas por un tercero imparcial, sino que la misma compañía desarrolladora puede realizar su propia evaluación. Las aplicaciones de riesgo limitado o riesgo mínimo no tienen requisitos por cumplir. La ley también establece las penalidades para aquellas compañías que incumplan la regulación y la regulación de IA de Propósito General.

Ahora bien, aunque la Unión Europea es la primera en dar este importante paso, no es la única interesada en este tipo de iniciativas. En Estados Unidos la iniciativa no viene impulsada desde el gobierno, sino desde el sector privado. Corporaciones como Microsoft, Google e IBM debaten sobre qué tipo de agencia debería regular. Lo cierto es que de acuerdo con Bill Whyman, del Centro para Estrategia y Estudios Internacionales, a este proceso aún le quedan un par de años. La solución posiblemente sea menos armonizada que la europea, y termine siendo un retazo de legislaciones descentralizado impulsado por las compañías, lo que terminará produciendo inconsistencias.

Por su parte, China ha estado desarrollando legislación desde 2021. De acuerdo con la Fundación Carnegie para la Paz Internacional, hay ya tres leyes claves, todas estas enfocadas en filtrar la información para los residentes chinos. A diferencia de la reciente ley europea, China ha ido lanzando leyes separadas para ocuparse de cada peldaño. Otros países como Japón, Singapur o Reino Unido han optado por regulaciones “suaves”, en donde se sugieren unos “principios básicos”, pero no se establecen penalizaciones. Todo esto deja ver que el mundo ha reconocido la relevancia de regular la IA (en lugar de dejar que la mano invisible haga lo suyo), pero que la mejor manera de hacerlo no está definida. Lo anterior constituye un reto para las firmas, ya que deben aprender a adaptar sus desarrollos al contexto legal de cada país, y esto podría implicar un despliegue significativo de recursos.

En Colombia, aún se debate sobre el tipo de marco regulatorio que se requiere. El documento CONPES 3975 de 2022 establece en sus recomendaciones que se requiere un marco ético para el desarrollo de la IA, pero hasta el momento las discusiones que se han adelantado han sido aisladas en la academia. Mientras se fortalece el desarrollo de aplicaciones de IA en el país, hay tiempo para aprender de los experimentos regulatorios que se vienen adelantando en el mundo. Econometría Consultores ha desarrollado ya diferentes estudios implementando herramientas de IA tales como procesamiento de lenguaje natural (NPL), análisis automatizado de texto (AAT) y modelos de clasificación de aprendizaje de máquinas, todos aplicados en la evaluación de políticas públicas y programas sociales.

La actualización del predial es una idea, con la que nadie en principio estaría en contra, pero en su implementación hay riesgos que pueden llevar a un escenario completamente opuesto al que se desea.

Para comenzar, que el ordenamiento territorial sea un elemento central del actual Plan Nacional de Desarrollo es un avance significativo. Bien puede considerarse como el pago de una vieja deuda que las ciencias económicas tenían con la incorporación de la dimensión espacial en sus análisis. Referencias a la ubicación de las actividades productivas existen desde los clásicos y nunca han faltado, pero en la corriente moderna de la economía no se había incorporado la dimensión espacial por problemas asociados a su modelaje matemático, como muy bien lo plantea Krugman (1995) en su libro Desarrollo, geografía y teoría económica.

¿Por qué es importante la dimensión espacial? Paul Romer (1990) en su libro sobre crecimiento endógeno muestra como la eficiencia total es la suma de una eficiencia individual, que depende del desempeño de cada persona en las actividades que realiza; y una eficiencia colectiva asociada a los procesos de interacción entre esas personas, que permite lograr economías de escala, efectos crecientes a escala, sinergias tecnológicas, etc. La eficiencia colectiva potencia la eficiencia individual y es lo que permite explicar los procesos de crecimiento sostenidos de largo plazo. Sin embargo, para lograr la eficiencia colectiva se requiere la interacción, lo que implica incorporar la dimensión espacial.

Siguiendo a Douglass North (1993) en su libro Instituciones, cambio institucional y desempeño económico, en Colombia existe una institucionalidad (normas formales e informales y sistemas de sanción de esas normas también formales e informales) que propicia la dispersión y no favorece la eficiencia colectiva. Modelos de crecimiento estimados por Econometría Consultores (2014) en Dinámicas de uso de tierras para la agricultura y el comportamiento de los precios del suelo rural soportan este planteamiento en términos de la existencia de Dinámicas perversas de ocupación territorial. Los precios especulativos de la tierra, entendidos como valores comerciales muy por encima del valor presente neto de la producción que puede desarrollarse en un terreno, hacen que quienes quieran desarrollar una actividad agropecuaria se alejen de las principales ciudades. Allí pueden comprar tierras, pero cuenta con los bienes y servicios públicos que permita producciones competitivas y mejoras en bienestar. Se trata de un comportamiento “racional”, pero que no lleva a mejoras en bienestar; por eso se denomina perverso.

El centro del problema es la especulación con la tierra, que bien pueden considerarse una expresión de una economía extractivista. Los ingresos netos de un propietario en el campo, no tiene mayor relación con el precio de la tierra. En el documento Catastro, predial, producción agropecuaria y desarrollo, que hizo parte de la evaluación del Catastro Multipropósito realizada por Econometría Consultores (2022) usando estadísticas oficiales de costos y precios de la tierra, se encontró que ninguna producción logra generar ingresos netos que permitan comprar la tierra. El precio de la tierra está más asociado con el desarrollo de bienes públicos, en particular vías y seguridad, que conlleva incrementos significativos de ese precio, sin que históricamente los propietarios hayan tenido que cubrir parte de esos costos.

Esto tiene una implicación compleja. Aún los productores más eficientes tienen en sus cuentas en menor o mayor medida la perspectiva de la venta de tierras como una opción que podría ser más rentable con respecto a la producción. No es el único efecto no deseado. Además, no se invierte en las tierras en la magnitud que recomendaría un comportamiento racional; se desincentivan producciones de tardío rendimiento, donde Colombia tienen mayores ventajas comparativas; y los recursos “congelados” en compras de tierras limitan las inversiones que podrían hacerse para ampliar el área sembrada o invertir en las tierras en producción para aumentar la eficiencia.

En este contexto, atacar las dinámicas especulativas bien puede ser una política que convoque a un gran consenso. No total, en la medida en que existen propietarios de tierras que no apuestan por desarrollar producciones competitivas en sus tierras; se trata más de propietarios que apuestan por rentas derivadas de la valorización que se va dando con la dotación de bienes públicos y el crecimiento general de la economía. Sin embargo, hay un problema: en general, las personas que tienen tierras y le apuestan a producir, tienen en sus cuentas un componente asociado con la especulación de la tierra, incluso si usan tierras arrendadas; por lo tanto, un aumento del predial puede tener efectos negativos sobre la producción.

Este puede llevar a un resultado opuesto al que se busca. Se argumentará que, a largo plazo, las ventajas seguramente serán mucho mayores. Correcto. El problema es que los efectos a corto plazo pueden presentarse muy rápido, por el hecho mismo que los productores no desarrollan en sus terrenos actividades de tardío rendimiento, ni invierten en capital fijo al nivel óptimo; mientras que el descenso de la renta especulativa existente en el precio de la tierra puede tomar muchos años en reflejarse en el mercado de tierras. Como lo plantea Justin Yifu Lin (2009) en Economic developtment and transition, la administración del cambio es fundamental para hacer viables las políticas.

Por eso en su momento Econometría Consultores propuso, para facilitar la actualización de los avalúos catastrales: a) Que los propietarios autoavalúen sus predios (esto evitará la gran protesta que se dará cuando un tercero defina el avalúo) y que el Estado tenga la opción de compra de los predios al valor del auto avalúo; y b) Diferenciar entre propietarios productores y propietarios rentistas, permitiendo deducir los mayores pagos de predial y de impuesto al patrimonio asociados a los mayores avalúo de las tierras de los impuestos de renta contra facturas de producción agropecuaria.