Las herramientas de IA generativa de acceso público (IAGen) están surgiendo rápidamente, y el lanzamiento de versiones iterativas supera la velocidad de adaptación de los marcos regulatorios nacionales. La falta de regulaciones nacionales sobre IAGen en la mayorÃa de los paÃses deja desprotegida la privacidad de los datos de los usuarios y a las instituciones educativas, en gran medida, sin preparación para validar las herramientas.
La primera orientación global de la UNESCO sobre IAGen en educación apunta a apoyar a los paÃses en la implementación de acciones inmediatas, la planificación de polÃticas de largo plazo y el desarrollo de capacidades humanas para garantizar una visión de estas nuevas tecnologÃas centrada en el ser humano.
Esta guÃa presenta una evaluación de los posibles riesgos que la IAGen podrÃa plantear para los valores humanÃsticos fundamentales que promueven la intervención humana, la inclusión, la equidad, la igualdad de género, la diversidad lingüÃstica y cultural, asà como las opiniones y expresiones plurales.
Propone pasos clave para que las agencias gubernamentales regulen el uso de las herramientas de IAGen, incluyendo la obligación de proteger la privacidad de los datos y considerar un lÃmite de edad para su uso. Igualmente establece requisitos para los proveedores de IAGen para permitir su uso ético y efectivo en la educación.
La guÃa destaca la necesidad de que las instituciones educativas validen la idoneidad ética y pedagógica de los sistemas de IAGen para la educación y hace un llamado a la comunidad internacional para reflexionar sobre sus implicancias a largo plazo en el conocimiento, la enseñanza, el aprendizaje y la evaluación.
La publicación también ofrece recomendaciones concretas para los formuladores de polÃticas y las instituciones educativas sobre cómo diseñar el uso de IAGen, con el fin de proteger la intervención humana y beneficiar genuinamente a estudiantes, aprendices e investigadores.
Descargue el texto desde aquÃ: GuÃa para el uso de IA generativa en educación e investigación. Paris: UNESCO, 2024.
