Integridad científica y agencia humana en la investigación entrelazada con IA Generativa

Desde el blog SciELO en perspectiva, nos llega este análisis sobre el equilibrio necesario de la autonomía de los sistemas de IA bajo la supervisión humana, promoviendo el uso responsable y políticas para la regulación ética de investigaciones que involucran la colaboración entre humanos e IA Generativa, de las autoras Sonia Vasconcelos y Ana Marušić.

Desde la popularización de los modelos de Inteligencia Artificial Generativa (IA Gen), en especial del ChatGPT de OpenAI, a finales de 2022, se observa una transformación gradual y profunda en la actividad científica (Nature, 2023; Noorden, R.V. y Webb, R., 2023). Uno de los ejes centrales de este cambio en curso es la regulación ética del uso de la IA Gen, considerando su potencial disruptivo para esta actividad, con influencia sin precedentes para la comunicación científica. La creciente autonomía de estos sistemas y su interacción con lo que llamamos agencia humana (Bandura, A., 1989; Pew Research Center, 2023) es uno de los puntos sensibles en este proceso.

Se puede argumentar que la comunicación científica pasa por un proceso de reconfiguración que, desde una perspectiva conservadora, es tan paradigmático como aquel desencadenado con la creación de la primera revista científica, el Philosophical Transactions, en 1665, en Inglaterra. Ya desde una perspectiva más disruptiva, esta transformación reconfigurará toda la cultura científica, redefiniendo la autonomía de los científicos y de las instituciones en la producción y legitimación del conocimiento — un impacto cuya dimensión aún no es posible estimar.

Esta visión más radical tiene en cuenta que la IA Gen, al integrarse progresivamente a la actividad de investigación (y a la sociedad de forma más amplia), no se limita a la introducción de una nueva herramienta tecnológica. Tampoco se limita a la adaptación de prácticas científicas existentes a una nueva infraestructura técnica. La incorporación de la IA Generativa en la ciencia (independientemente de las disputas epistemológicas sobre el término) sugiere un cambio estructural en las bases sobre las cuales la actividad científica se realiza. Se trata de una tecnología de uso dual (dual-use), con potencial para reconfigurar tanto los medios como los fines de la actividad científica.

Como se describe en el informe Generally Faster: The Economic Impact of Generative AI¹ (McAfee, A., 2024), la IA Gen constituye una tecnología capaz de generar contenido original, perfeccionarse continuamente mediante su propio uso y presentar impactos económicos y sociales diseminados con mayor rapidez que tecnologías anteriores.

En este ambiente tecnológico reestructurante en las articulaciones entre la inteligencia humana y artificial (IBM IBV, 2024), el potencial de autonomía de modelos y sistemas de IA Gen impone la necesidad de anticipación crítica de sus desarrollos, incluyendo el contexto científico (European Research Council, ECR, 2023).

Eric Schmidt, ex-CEO y presidente ejecutivo de Google, junto con Henry Kissinger y Daniel Huttenlocher, en el libro Genesis: Artificial Intelligence, Hope, and the Human Spirit³ (Kissinger, H., et al., 2024), aboga por una regulación ética proactiva y estratégica para los usos de la IA, con implicaciones sin precedentes para la gobernanza en los países en lo que respecta, por ejemplo, a la autonomía de los sistemas de IA Gen.

Lea el artículo completo y participe en el debate en:

VASCONCELOS, S. and MARUŠIĆ, A. Integridad científica y agencia humana en la investigación entrelazada con IA Generativa [online]. SciELO en Perspectiva, 2025.