Washington, 29/04/24 (Más / IA).- A pesar de las recientes actualizaciones en las políticas de OpenAI para prevenir la desinformación en el contexto electoral, estas medidas pueden ser fácilmente burladas en idiomas distintos al inglés, según un estudio reciente.
El Instituto de Democracia Digital de las Américas realizó una investigación cuyos resultados destacan que las nuevas reglas para el uso de la inteligencia artificial de OpenAI no son efectivas en determinados contextos porque permiten la creación de contenido engañoso y propaganda política en perjuicio de comunidades minoritarias y marginadas de Estados Unidos, especialmente latinos y hablantes de español.
OpenAI, la empresa líder en inteligencia artificial, actualizó sus políticas en enero para fortalecer la lucha contra la desinformación de cara a las elecciones de 2024; entre las medidas incluyen la prohibición de crear chatbots para campañas políticas y cabildeo, y crear imágenes de personas reales.
Sin embargo, el estudio sugiere que estas nuevas reglas son susceptibles de ser burladas, permitiendo ataques con contenido engañoso y propaganda política dirigidos a comunidades específicas, como los latinos.
El Instituto de Democracia Digital de las Américas, que analiza el comportamiento en línea de los latinos, realizó pruebas con la herramienta ChatGPT, de OpenAI, solicitando ayuda para desarrollar chatbots de campaña que interactúen en español y se dirijan a votantes latinos.
A pesar de que las políticas de OpenAI deberían impedirlo, los investigadores obtuvieron instrucciones detalladas de GPT-4 para llevar a cabo dicha tarea.
El hallazgo pone de manifiesto la necesidad de reforzar las medidas contra la desinformación en línea, especialmente en idiomas distintos al inglés, donde las empresas tecnológicas han sido acusadas de no invertir suficientemente en recursos para hacer cumplir sus reglas.
El estudio también revela que las reglas de las herramientas de IA todavía no se aplican de manera consistente o simétrica en diferentes países, contextos o en idiomas que no son inglés.
Aunque los términos de servicio de OpenAI son considerados avanzados en cuanto a abordar el mal uso y la difusión de desinformación, el informe sugiere que aún queda trabajo por hacer para asegurar que las herramientas de IA no se conviertan en instrumentos de influencia política indebida.
Los investigadores también examinaron la herramienta de generación de imágenes Dall-E, también de OpenAI, que prohíbe crear imágenes de personas reales, incluidos candidatos.
Aunque no se violaron las protecciones, lograron generar imágenes de políticos haciendo el gesto de la mano “ok”, asociado por algunos con el odio debido a sus vínculos con organizaciones supremacistas blancas.
Para la organización esto demuestra que, a pesar de las restricciones, las herramientas pueden ser utilizadas para emitir declaraciones políticas significativas.
De acuerdo con el reporte, el estudio consistió en pruebas realizadas en enero y replicadas en abril; los resultados fueron consistes en ambos momentos.
La conclusión del Instituto de Democracia Digital de las Américas es que los riesgos sociales inherentes al mal uso de la inteligencia artificial están vigentes.
“Nuestros experimentos, usando avisos diseñados para atacar a las comunidades latinas revelan cómo las salvaguardias y políticas implementadas por los desarrolladores de IA a menudo se quedan cortas”, se señala en el reporte, “esto subraya la necesidad de una mejor comprensión de cómo la IA puede ser utilizada para tratar de interferir o causar daño en contextos específicos o contra grupos específicos”.
Roberta Braga, fundadora y directora ejecutiva del instituto, destacó que los resultados evidencian la facilidad con la que se pueden eludir las protecciones de OpenAI, incluso sin ocultar la intención de influir en las campañas dirigidas a latinos.