¿La Inteligencia Artificial es una amenaza para la democracia?

Distintas ONGs, académicos, expertos e incluso personajes de Hollywood están en guerra contra las aplicaciones que podrían ser un peligro para la sociedad. Exigen que se las limite.

Por Gabriel Michi

Es el gran debate del presente. Y del futuro. Y las respuestas dependen de quien las elabore. Sin embargo cada vez hay más sectores que alertan sobre los peligros que pueden representar la Inteligencia Artificial (IA) sin un control claro sobre sus límites. En los últimos días Organizaciones No Gubernamentales (ONGS) como Public Citizen se han sumado a un reclamo público que ya vienen enarbolando distintos actores sociales.

Esta ONG ha exigido a OpenAI que retire su app de generación de vídeo con IA, Sora 2, alegando que su lanzamiento apresurado muestra un "desprecio temerario" por la seguridad, el derecho a la propia imagen y hasta la estabilidad democrática. En palabras de JB Branch, experto en políticas tecnológicas de Public Citizen: "Nuestra mayor preocupación es la posible amenaza para la democracia. Creo que nos adentramos en un mundo en el que la gente no puede confiar realmente en lo que ve. Y estamos empezando a ver estrategias en política en las que la primera imagen, el primer vídeo que se difunde, es lo que la gente recuerda". Branch, autor de la carta que esta semana se envió a la empresa y a su consejero delegado, Sam Altman, ve además problemas más amplios para la privacidad que afectan de forma desproporcionada a poblaciones vulnerables en Internet.

La utilización de la imagen de cada ciudadano de la manera que se le plazca a quien maneje esa tecnología -incluso después de la muerte- es el gran tema de debate y ha habido casos de "deepfakes" -contenidos de audio, video o imagen manipulados con inteligencia artificial para que parezcan reales, a menudo se usan para suplantar la identidad de alguien- que terminaron de manera trágica llevando hasta al suicidio a sus víctimas. Ni hablar del acoso y el bullying contra muchos jóvenes, en particular mujeres adolescentes que, por ejemplo, sus imágenes fueron utilizadas para falsos videos pornográficos creados maliciosamente a través de Inteligencia Artificial. Las plataformas de generación de imágenes con IA como Sora 2 de OpenAI están en el ojo del huracán de las críticas de grupos vinculados al Derecho, académicos y expertos que alertan sobre los peligros ciertos que representa que cualquier persona puede crear vídeos con esa tecnología sobre casi cualquier cosa, provocando un "boom" de imágenes no consentidas y "deepfakes" realistas que causan un daño inconmensurable.

Pese a que OpenAI endureció el control sobre creaciones de IA con personajes públicos, entre ellos Michael Jackson, Martin Luther King Jr y Mister Rogers, haciendo cosas estrafalarias, lo hizo sólo tras el reclamo de herederos y de un sindicato de actores. Ahora la ONG Public Citizen exige que esa empresa retire Sora 2 del acceso público, acusándola de que el lanzamiento apresurado de la app -para adelantarse a sus competidores- muestra "un patrón consistente y peligroso de OpenAI lanzando al mercado un producto intrínsecamente inseguro o carente de las barreras necesarias". Y es allí donde plantea directamente que Sora 2 demuestra un "desprecio temerario" por la seguridad del producto, así como descuida el derecho de las personas a su propia imagen. Pero también, amenaza la estabilidad del sistema democrático. La ONG también envió una carta al Congreso de Estados Unidos.

Si bien es cierto que OpenAI bloquea la desnudez, con eso no alcanza. Branch denuncia que "las mujeres están viendo cómo las acosan en Internet" de otras formas, por ejemplo con contenidos fetichistas de nicho que sortean las restricciones de la propia app y que incluso apelan a la violencia extrema contra ellas: existió una avalancha de vídeos hechos con Sora en los que se estrangula a mujeres.

Además de la oposición de ONGs como Public Citizen, también referentes la industria de Hollywood y de otros sectores del entretenimiento, incluida la industria del manga japonés, han manifestado su rechazo a la proliferación de la IA. También hubo demandas de las familias de personalidades públicas fallecidas cuyas imágenes fueron utilizadas y manipuladas a través de IA. Eso llevó, a que las compañías deban llegar a acuerdos por ejemplo con la familia de Martin Luther King Jr buscando impedir "representaciones irrespetuosas" del líder de los Derechos Civiles y la empresa se comprometió a trabajar en mejores salvaguardas. También hubo otros acuerdos con el actor de 'Breaking Bad' Bryan Cranston, el sindicato 'SAG-AFTRA' y agencias de representantes de artistas.

Frente a todas estas críticas, OpenAI anunció sus primeros grandes cambios pocos días después del lanzamiento de Sora y afirmó que "la sobrerregulación es muy frustrante" para los usuarios, pero que es importante ser conservadores "mientras el Mundo aún se acostumbra a esta nueva tecnología".

En cuanto a la utlización de estas tecnologías con usos políticos hay una preocupación adicional porque podrían llegar a generar hasta conflictos internacionales. Ya a habido problemas con videos creados con IA que involucraban, por ejemplo, a la presidenta de la Comisión Europea, Ursula von der Leyen, al expresidente de Francia (recién salido de prisión) Nicolas Sarkozy, el ex primer ministro británico, Boris Johnson, y los expresidentes estadounidenses George W. Bush, Barack Obama y Joe Biden, entre muchos otros.

REGULACIONES EN MARCHA

Frente a estas situaciones abusivas de la utilización de Inteligencia Artificial para crear falsos videos utilizando las identidades de las personas, ya hay países que trabajan en intentar frenar esas prácticas. Uno de los que está tomando medidas al respecto es Dinamarca que busca proteger a sus ciudadanos y también a artistas cuya imagen o voz pueda ser imitada y difundida sin su consentimiento a través de la IA.

La proliferación de herramientas de IA generativa, incluidas las de generación de vídeo de OpenAI y Google, se han vuelto una práctica muy extendida. Por eso, en Dinamarca se está estudiando un proyecto de ley -que se espera aprobar a comienzos del próximo año- que modificaría la legislación sobre Derechos de Autor para prohibir la difusión de 'deepfakes' y así proteger los rasgos personales de los ciudadanos, como por ejemplo su apariencia o su voz, frente a imitaciones y publicaciones en línea sin su consentimiento como se viene utilizando.

Si se aprueba será algo revolucionario que podría ser un antecedente para las legislaciones de otros países del Mundo porque, de ser así, los ciudadanos daneses obtendrían Derechos de Autor sobre su propia imagen. Y, gracias a eso podrían exigir a las plataformas que retiren contenidos difundidos sin su permiso. Existen sí algunas dudas planteadas desde el ejercicio de la Libertad de Expresión, pero la ley seguiría permitiendo la parodia y la sátira, aunque no está claro cómo se determinará. La idea es frenar esas 'deepfakes' que tanto daño vienen provocando. La ley podría implicar multas o cárcel para los usuarios de redes sociales que incurran en esas prácticas y también sanciones económicas severas a las plataformas tecnológicas que no retiren 'deepfakes' .

Ha habido otros antecedentes internacionales vinculados de manera directa o indirecta a la regulación de este mal uso de la IA. Por ejemplo, en mayo pasado el presidente de Estados Unidos, Donald Trump, firmó una ley bipartidista que tipifica como delito publicar o amenazar con publicar imágenes íntimas sin el consentimiento de la persona, incluidos los "deepfakes".

Y en 2024, Corea del Sur adoptó medidas para frenar la pornografía con "deepfakes", entre ellas castigos más duros y normas más estrictas para las plataformas de redes sociales. Son los primeros pasos para atacar una problemática dramática que ya está presente hoy pero que se proyecta aún mucho peor para el futuro. La imposibilidad de distinguir qué es verdad y que es mentira se vuelve cada vez más compleja. Y esta tecnología mal utilizada, saturadas de abusos y manipulaciones, atropella el derecho a la intimidad y altera la identidad de las personas. Y se constituye en un peligro para todos. Para la Humanidad en su conjunto. Una verdadera amenaza a la democracia.