Consideran que la IA generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios.
PARÍS – Un niño debe tener al menos 13 años para empezar a utilizar en las aulas la inteligencia artificial (IA) generativa, los profesores deben ser capacitados y los gobiernos producir regulaciones, indica una nueva directriz de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco).
La IA generativa “puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios. No puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos”, advirtió la directora general de la Unesco, Audrey Azoulay.
La “Guía sobre la Inteligencia Artificial Generativa en la Educación y la Investigación”, de la Unesco, fue presentada este jueves 7, calzando con el inicio de un nuevo año escolar tras las vacaciones del verano boreal en muchos países.
La IA generativa es un tipo de sistema de inteligencia artificial capaz de generar texto, imágenes u otros medios en respuesta a comandos, con aplicaciones potenciales en enseñanza, industrias, arte, escritura, el desarrollo de software, diseño de productos, atención médica, finanzas, juegos, el mercadeo y la moda.
Se dio a conocer masivamente al público en noviembre de 2022 con el lanzamiento del ChatGPT, de la firma estadounidense Open AI, que se convirtió en la aplicación de más rápido crecimiento de la historia.
“La IA generativa puede ser una tremenda oportunidad para el desarrollo humano, pero también puede causar daños y prejuicios. No puede integrarse en la educación sin el compromiso público y sin las salvaguardias y regulaciones necesarias por parte de los gobiernos”: Audrey Azoulay.
Esa herramienta puede generar resultados como texto, imágenes, vídeos, música y códigos de software, lo que tiene implicaciones de gran alcance para la educación y la investigación.
Sin embargo, el sector educativo no está preparado para la integración ética y pedagógica de estas herramientas en rápida evolución, según la Unesco.
Una encuesta hecha por esa agencia de las Naciones Unidas en más de 450 escuelas y universidades, mostró que menos de 10 % cuentan con políticas institucionales o directrices formales relativas al uso de aplicaciones de IA generativa, en gran parte debido a la ausencia de normativas nacionales.
El pasado junio la Unesco advirtió que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones.
Como evidencia, la agencia destacó que la publicación de un nuevo libro de texto requiere más autorizaciones que el uso de herramientas de inteligencia artificial generativa en las aulas.
El objetivo de la nueva guía es hacer frente a las perturbaciones causadas por la IA generativa y garantizar que su uso tenga un enfoque centrado en el ser humano.
Para ello, la Unesco urgió a los gobiernos a reglamentar el uso de esas tecnologías en la esfera de la educación, y a capacitar al profesorado para que refuerce en los estudiantes la importancia de la inteligencia humana para tomar decisiones frente a las opciones que brinda la IA generativa.
Propone que la regulación de esas tecnologías incluya la exigencia de proteger la privacidad de los datos, y que se considere un límite de edad para su empleo.
El pasado junio la Unesco advirtió que el uso de la inteligencia artificial generativa en las escuelas se estaba extendiendo a un ritmo demasiado acelerado, con una preocupante falta de escrutinio público, controles o regulaciones.
Según el organismo, un niño debe tener al menos 13 años para empezar a utilizar herramientas de IA generativa en las aulas.
También plantea requisitos para los proveedores de IA generativa, de manera que sus herramientas puedan tener un uso ético y eficaz en la educación.
Enfatiza la necesidad de que las instituciones educativas validen los sistemas de IA generativa en cuanto a su idoneidad ética y pedagógica para la educación, y llama a la comunidad internacional a reflexionar sobre sus implicaciones a largo plazo para el conocimiento, la enseñanza, el aprendizaje y la evaluación.
Asimismo, advierte sobre sesgos de estas tecnologías, y coloca como ejemplo que los modelos actuales de ChatGPT se diseñan con datos de usuarios en línea que reflejan los valores y las normas sociales dominantes del Norte global.
Azoulay dijo confiar en que “estas orientaciones de la Unesco ayudarán a los responsables políticos y a los docentes a aprovechar mejor el potencial de la inteligencia artificial en interés primordial de los educandos”.
Publicado originalmente por Ipsnoticias.net
