OpenAI busca prevenir abusos relevantes, como ¨deepfakes¨ engañosos, operaciones de influencia a escala o chatbots que se hacen pasar por candidatos
Por agencia IPS
SAN FRANCISCO, Estados Unidos – OpenAI, la empresa creadora de la aplicación ChatGPT, informó que desarrolla un plan para proporcionar transparencia y mejorar el acceso a la información en el uso de inteligencia artificial (IA) en campañas electorales, que este año se vivirán en más de 50 países en cinco continentes.
Una declaración de la firma tecnológica expuso que “mientras nos preparamos para las elecciones de 2024 en las democracias más grandes del mundo, nuestro enfoque es continuar nuestro trabajo de seguridad de la plataforma, elevando información electoral precisa, aplicando políticas mesuradas y mejorando la transparencia”.
“Esperamos y aspiramos a que las personas utilicen nuestras herramientas de forma segura y responsable, y las elecciones no son diferentes”, agregó el texto.
En particular “trabajamos para anticipar y prevenir abusos relevantes, como ¨deepfakes¨ (falsificaciones) engañosos, operaciones de influencia a escala o chatbots que se hacen pasar por candidatos”, indicó la declaración.
Los chatbots son aplicaciones diseñadas para imitar una conversación humana a través de interacciones de texto o voz. Los más modernos utilizan sistemas de IA generativa que son capaces de mantener una conversación con un usuario en lenguaje natural y simular la forma en que un humano se comportaría como interlocutor.
Los chatbots son aplicaciones diseñadas para imitar una conversación humana a través de interacciones de texto o voz.
Las medidas fueron apenas esbozadas en el texto de OpenAI, una en el creciente grupo de corporaciones que desarrollan herramientas avanzadas de IA generativa.
“Antes de lanzar nuevos sistemas, los agrupamos, involucramos a los usuarios y socios externos para recibir comentarios y creamos mitigaciones de seguridad para reducir el potencial de daño. Estas herramientas proporcionan una base sólida para nuestro trabajo en torno a la integridad electoral”, aseguró OpenAI.
La compañía dijo que “hasta que sepamos más, no permitimos que la gente cree aplicaciones para campañas políticas y lobby”.
“Las personas quieren saber y confiar en que están interactuando con una persona, empresa o gobierno real. Por ese motivo, no permitimos que los constructores creen chatbots que pretendan ser personas reales (por ejemplo candidatos) o instituciones (por ejemplo gobierno local)” aseguró su declaración.
Tampoco permitirá “aplicaciones que disuadan a las personas de participar en procesos democráticos, por ejemplo, tergiversando los procesos y las calificaciones de votación (cuándo, dónde o quién es elegible para votar) o que desalienten la votación (por ejemplo, afirmar que un voto no tiene sentido).
“Con nuestros nuevos GPT, los usuarios pueden informarnos sobre posibles infracciones”, asegura el texto.
También expuso que “una mayor transparencia en torno a la procedencia de las imágenes (incluida la capacidad de detectar qué herramientas se utilizaron para producir una imagen) puede permitir a los votantes evaluar una imagen con confianza en cómo se creó”, y evitar esa clase de falsificaciones.
Las personas quieren saber y confiar en que están interactuando con una persona, empresa o gobierno real.
Pero, en paralelo, el director general de OpenAI, Samuel Altman, dijo que durante un evento en el Foro Económico Mundial de Davos, Suiza, que a pesar de todas las medidas de seguridad implementadas por su empresa, no se siente tranquilo.
“Creo que es bueno que estemos muy preocupados. Vamos a tener que vigilar esto muy de cerca este año, con un seguimiento muy estricto y un circuito de retroalimentación muy estrecho”, expresó.
Altman ha comparecido ante el Congreso de Estados Unidos y allí ha planteado la necesidad de que se adopten legislaciones para regular el empleo de la IA.
El uso de las redes sociales, y demás instrumentos facilitados por internet, para favorecer la desinformación en tiempo de elecciones, alimenta los temores acerca de que ese empleo negativo se magnifique con el uso de la inteligencia artificial.
Este año se efectuarán elecciones en más de medio centenar de países donde viven más de 4000 millones de personas.
En América Latina están pautadas elecciones en Brasil, Costa Rica, Chile, El Salvador, México, Panamá, República Dominicana y Uruguay, y previstas en Venezuela.
Las primeras fueron las de Bangladesh, el 7 de enero, en la cual la jequesa Hasina Wazed obtuvo un quinto mandato como primera ministra, y de Taiwán, donde el día 13 se eligió como nuevo presidente a Lai Ching-te, del independentista Partido Democrático Progresista.
A lo largo del año se prevén elecciones generales, presidenciales, parlamentarias o regionales en Alemania, Argelia, Australia, Austria, Azerbaiyán, Bélgica, Bielorrusia, Bosnia y Herzegovina, Botsuana, Burkina Faso, Camboya, Canadá, Chad, Corea del Sur, Croacia, Eslovaquia, España y Estados Unidos.
También en Finlandia, Georgia, Ghana, Guinea-Bissau, India, Indonesia, Irán, Islandia, Lituania, Macedonia del Norte, Malí, Mauritania, Mongolia, Mozambique, Namibia, Pakistán, Polonia, Portugal, Reino Unido, Ruanda, Rumania, Rusia, Senegal, Sudán del Sur, Sudáfrica, Turquía y la Unión Europea.
En América Latina están pautadas elecciones en Brasil, Costa Rica, Chile, El Salvador, México, Panamá, República Dominicana y Uruguay, y previstas en Venezuela.
