Operación regulación: El fortalecimiento de la gobernanza de la IA en América Latina

Las recientes elecciones en América Latina han puesto de relieve los peligrosos efectos de los algoritmos y la IA, en particular la IA generativa, sobre las urnas. Durante las elecciones regionales colombianas de 2023, las campañas se vieron empañadas por la desinformación difundida a través de las redes sociales, con la aparición de contenidos mediáticos generados por IA —o deepfakes— con el objetivo de perjudicar las campañas políticas de los candidatos. Esto hizo saltar las alarmas entre las organizaciones de verificación, como ColombiaCheck, ya que las grabaciones, muy difundidas y convincentemente realistas, que permite la imitación por IA generativa resultaron demasiado difíciles de desmentir, y para cuando fue posible hacerlo el daño ya estaba hecho. Se produjo un bulo similar durante las elecciones argentinas de 2023, cuando la candidata Patricia Bullrich fue objeto de audios generados por IA que difamaban a su ministro de Economía. En las recientes elecciones mexicanas, un audio deepfake de la candidata Claudia Sheinbaum la imitaba criticando al presidente Andrés Manuel López y reconociendo un fraude en las encuestas.

Sin duda los actores políticos están sacando partido de la IA, por ejemplo, aprovechando su capacidad para aplicar tácticas de “microtargeting” a los votantes. Esto plantea importantes problemas éticos y de privacidad. La desinformación, los anuncios dirigidos y los “filtros burbuja” resultantes se están disparando, contribuyendo a la polarización política y a la manipulación de las decisiones de los votantes. En paralelo, se está generalizando el uso de bots y ciborgs basados en inteligencia artificial, cuyo objetivo es imitar a los humanos e interactuar con los lectores de medios de comunicación concretos para facilitar la distribución de desinformación. Los deepfakes y los bots plagaron las elecciones presidenciales de 2022 en Brasil. En las elecciones presidenciales de Costa Rica de 2022, más del 11 por ciento de las publicaciones en las redes sociales procedían de cuentas falsas, y esta cifra aumentó hasta entre el 19 y el 21 por ciento en las semanas previas a la votación.

Esto, por sí solo, no tiene nada de extraordinario. Pero lo que diferencia el caso de América Latina son los desafíos únicos a los que ya se enfrenta la región. Asediadas por la inestabilidad política, la polarización y la fragilidad de las instituciones, las democracias latinoamericanas se encuentran en un terreno frágil. Junto con la corrupción sistémica, los gobiernos inestables y la escasa alfabetización digital, esta situación ha obstaculizado el desarrollo de un marco normativo global y ha retrasado el nacimiento de iniciativas regionales para hacer frente al uso indebido de la IA. De hecho, la tecnología impulsada por la IA opera sin regulaciones estrictas en América Latina, lo que permite a los actores políticos difundir con impunidad grandes cantidades de desinformación al electorado.

Como se ha demostrado en el último año, la IA ha dado paso a una nueva era en las campañas políticas, y amenaza la tenue estabilidad democrática de la región. La cooperación con la Unión Europea, que ya va un paso por delante en regulación y buenas prácticas, es clave para reconfigurar y proteger los procesos electorales latinoamericanos y evitar la degradación de los espacios democráticos en el ámbito digital.

De hecho, la UE se ha posicionado como líder mundial en la regulación de la IA, haciendo hincapié en las normas éticas, la privacidad de los datos y los derechos humanos. Para que la UE mantenga su liderazgo y garantice la estabilidad digital mundial, debe extender estos principios reguladores más allá de sus fronteras. Al ayudar a América Latina a desarrollar normativas sólidas en materia de IA, la UE puede promover un enfoque global cohesivo de la gobernanza de la IA, y garantizar que se aprueben y mantengan normas éticas y de seguridad en todo el mundo.

Además, la UE tiene un gran interés en ayudar a la salud democrática de la región. La inestabilidad democrática en América Latina ya ha provocado un aumento de la emigración, perturbaciones del comercio y amenazas a la seguridad que afectan directamente a Europa, al tiempo que ha tensado los lazos con importantes países socios de la UE. Desde una perspectiva económica, la UE es uno de los mayores inversores en América Latina, con un stock de inversión extranjera directa de la UE en la región que asciende a 680.000 millones de euros a partir de 2022 (incluido el Caribe). Por ejemplo, Telefónica, el gigante español de las telecomunicaciones, tiene importantes operaciones en Brasil y otros países latinoamericanos, donde la estabilidad de la normativa es crucial para facilitar los negocios. Y, una vez finalizado, el acuerdo comercial UE-Mercosur creará una de las mayores zonas de libre comercio del mundo, lo que pone de relieve la importancia de la armonización de las normas reguladoras para unas relaciones económicas fluidas.

Para reducir los efectos negativos de la IA generativa, los países han aprobado directrices éticas y marcos reguladores a nivel nacional y en foros multilaterales como Naciones Unidas, el G7 y la OCDE, así como la UE. Estas iniciativas multilaterales pretenden guiar el desarrollo ético de la IA y salvaguardar al mismo tiempo los derechos de los usuarios, haciendo hincapié en la protección de datos y en la reducción de los sesgos de datos en los algoritmos. Al mismo tiempo, se están dando pasos para acoger el invento de contratecnologías como el blockchain que pueden mitigar y detectar bulos y otras amenazas planteadas por la IA generativa. América Latina puede aprender de estas políticas.

Sin embargo, aún quedan muchos pasos por dar para que América Latina logre un enfoque conjunto sobre la gobernanza eficaz de la IA. La alfabetización digital es uno de los principales retos, agravado por las pronunciadas brechas rurales y de género de la región. Esto, junto con la agitación política, ha deteriorado la aplicación y adsorción de iniciativas regionales para responder a los importantes riesgos que plantea la IA a los procesos electorales en América Latina. Por ello, es fundamental que los gobiernos de la región aprovechen el renovado impulso de la asociación estratégica con la UE, evidenciado en la cumbre de la alianza digital entre la UE y América Latina y el Caribe del año pasado, que fue caldo de cultivo para iniciativas bilaterales y promesas de una cooperación más estructurada. La ONU señala que América Latina tiene que emprender un proceso de cooperación para fomentar y aplicar unos marcos éticos para la IA y unas mejores prácticas para las plataformas y los procesos electorales en aras de la responsabilidad democrática. Por tanto, la cooperación entre la UE y América Latina en materia de gobernanza de la IA puede inspirarse en la Ley de IA de la UE y fomentar los avances regionales a través de organizaciones como el Banco de Desarrollo de América Latina y el Caribe y el Banco Interamericano de Desarrollo. Estas colaboraciones multilaterales pueden ayudar a establecer marcos y normas cohesivos en toda la región. Esto también tendrá que adaptarse a los contextos jurídicos y normativos concretos de cada país latinoamericano, lo que requerirá que cada país adapte e integre estas directrices en su propia legislación para acometer con eficacia los retos y prioridades específicos.

De forma paralela, la UE debería utilizar su asociación estratégica con la región para reforzar el desarrollo de capacidades, crear iniciativas conjuntas de investigación y procurar asistencia técnica. Los europeos tienen razones de peso para preocuparse por la regulación de la IA en América Latina. Al ayudar activamente a América Latina a crear una mejor regulación de la IA, la UE puede salvaguardar sus intereses estratégicos, mejorar la seguridad global y promover normas éticas en todo el mundo. Aprovechando su relación con la región, la UE dispone de muchas vías de cooperación con los gobiernos latinoamericanos para garantizar que la IA se desarrolle y utilice de forma que beneficie a ambas regiones y contribuya a un entorno global estable y seguro. Con Venezuela, Brasil, Chile y Uruguay aún pendientes de elecciones este año, no hay mejor momento que este.

Commentary traducido por Verónica Puertollano