text in 
Spanish (pdf)
Article in xml format
Article references
Automatic translation
Send this article by e-mail
Cited by SciELO 
Similars in
SciELO 
Permalink
Introducción
Se considera que la inteligencia artificial proporciona las siguientes condiciones:
Herramienta: La inteligencia artificial (IA) se ha posicionado como una herramienta útil, versátil y aplicable a todas las acciones humanas.
Beneficios y riesgos: Las experiencias existentes sobre el uso de IA en el campo de la publicación científica ponen en evidencia los beneficios que se pueden obtener, pero también los riesgos que supone la adopción extensiva de modelos que aún permanecen en evolución y mejora.
Entrenamiento y precisión: El uso de la IA como herramienta de apoyo para los procesos de investigación y de publicación científica implica la interacción con modelos que, solo mediante entrenamiento, se calibran y se vuelven más precisos.
Trazabilidad y reproducibilidad: La transparencia es un principio de la comunicación científica; así, transparentar el uso de IA en la escritura de textos científicos permite darle trazabilidad, comprender las interacciones con la herramienta y dejar rutas para reproducir o replicar las buenas prácticas y las estrategias de aprovechamiento.
Diversidad y propiedad intelectual: Es necesario tener conciencia de que, ante la diversidad de opciones de modelos de IA y aplicaciones disponibles, se debe procurar hacer combinaciones no solo de las más útiles o eficientes, sino de las más responsables en el uso de material con propiedad intelectual. Esto abarca diversas manifestaciones de la protección de las creaciones humanas, por ejemplo: patentes, imágenes o material sonoro, entre otros. En consecuencia, también debe existir claridad sobre la posibilidad de derivación y transformación del material con el que un modelo de IA proporciona respuestas a las consultas de quienes lo utilizan.
Mitigar el sesgo y la desinformación: La creación y programación de modelos de IA es humana, también es humana la obra intelectual que compone las bases de datos usadas por la IA; por ello, tienen implícito el sesgo que proviene de la condición humana. Las personas deben tener conciencia de ello para que, al interactuar con la IA, no magnifiquen, prolonguen o propaguen sesgos y, a partir de ellos, desinformación.
Bienestar humano: Desde el espíritu más altruista -así como desde los principios bioéticos- el bienestar humano debe ser el eje que encauce la toma de decisiones relacionadas con la incorporación de herramientas de IA a los procesos de investigación y a su posterior publicación.
Dimensionar el alcance: Apenas empezamos a dimensionar los alcances e impacto de la incorporación de la IA a la gestión del conocimiento. Estamos ante un escenario en evolución donde hay debates abiertos a los que se les debe prestar atención, para canalizar, estratégicamente, las acciones que orienten el uso ético y responsable de esta herramienta.
Principios de la edición científica sobre el uso de inteligencia artificial
Estos principios hacen referencia al segmento de la comunicación del conocimiento relacionada con la gestión editorial, donde interactúan los roles de edición, revisión (o arbitraje) y autoría. Quien tome el rol de edición, tiene la responsabilidad de conducir y mediar el proceso que lleva a la publicación, de forma que el uso de IA -tema central de esta declaración- quede claramente explicado. Si bien se parte de la perspectiva de personas en el rol de edición, se espera que las ideas expresadas sirvan como sustento a otras partes del proceso de generación de conocimiento y a otras actividades relacionadas con el proceso de publicación científica, como traducciones o revisiones de estilo y redacción.
En general
1. Los roles de edición, revisión y autoría están a cargo de seres humanos que pueden mediar el proceso de publicación de documentos científicos. En el ejercicio de dichos roles, las personas deben formarse para adoptar y alfabetizar en prácticas responsables alrededor de la comunicación científica y de inteligencia artificial.
2. La IA no debe sustituir las responsabilidades o rendición de cuentas de las personas que ejercen estos roles. Tampoco el proceso editorial debe depender exclusivamente de acciones relacionadas con IA.
Sobre el rol de autoría
3. Son seres humanos quienes ejercen el rol de autoría, a estas personas se les puede reconocer la capacidad de -en ejercicio de su intelecto- crear, tomar decisiones y asumir las responsabilidades por las obras generadas. Así, los modelos de lenguaje, chatbots o la IA generativa no pueden ser considerados autores, pues no pueden asumir de manera integral estas tres condiciones.
4. Declarar explícitamente el uso de IA en los procesos de investigación y de elaboración de textos científicos -durante cualquier etapa del proceso de publicación científica- es una muestra de transparencia que suma a las buenas prácticas para garantizar la reproducibilidad de la ciencia. Al respecto, es necesario considerar una explicación solvente que mencione, al menos:
El modelo de IA, su versión, la fecha de uso.
Cómo se usó, identificar las interacciones y combinaciones que se pueden articular entre modelos.
Qué productos y formatos -de los generados por dicha interacción- se integraron a la publicación de resultados.
Citar y referenciar el modelo empleado, comprendiendo la diversidad y potencial complejidad de las interacciones y combinaciones que se pueden articular al emplear esta herramienta.
5. Se espera que las personas autoras hayan filtrado la información sobre los contenidos aportados como respuesta un modelo de IA y que a partir de estos insumos generen nuevo conocimiento. Validar la veracidad de la información obtenida resulta aún más relevante en el contexto actual. No se pueden asumir como verdaderas o absolutas las respuestas que ofrece la IA. Evitar el plagio, la desinformación, la propagación de sesgos u otro fraude académico es parte de las acciones que las personas autoras deben realizar al momento de interactuar con los modelos de IA. Procurar que se usen insumos de manera legítima debe ser un interés permanente de quienes ejerzan el rol de autoría.
6. Se deben proteger los datos personales, confidenciales, sensibles o de terceros cuando no se cuente con una autorización explícita para utilizarlos como parte de consultas a un modelo de IA.
7. Se debe mencionar, también, si se ha contado con el financiamiento de un tercero para la implementación o uso de modelos de IA en el proceso de investigación o de publicación.
Sobre el rol de revisión
8. La responsabilidad del criterio emitido para recomendar, o no, la publicación de un texto científico -o para proponer correcciones y mejoras- es de la persona en el rol de revisión. La interacción con la IA no reemplaza su criterio experto o su rendición de cuentas.
9. Cuando se haya incorporado el uso de IA como complemento de la revisión, es necesario indicarlo al equipo editorial y, a través de ellos, a las personas autoras. Indicar, al menos, el nombre del modelo, la versión, la fecha de uso, así como el enunciado como instrucción de evaluación es parte de un ejercicio transparente y trazable de la evaluación de contenidos.
10. Las personas revisoras deben estar en capacidad de explicar la interacción que han tenido con la IA, qué insumos han recibido y cuánto de dichos insumos han sido considerados en las observaciones, comentarios, recomendaciones y solicitudes de corrección que hayan emitido como criterios de evaluación de un texto científico.
Sobre el rol de edición
11. La responsabilidad del proceso de edición es de la persona editora y del equipo editorial que le acompaña. El uso de IA no debe reemplazar la responsabilidad de los seres humanos o su rendición de cuentas al ejercer tareas de edición o seguimiento a las acciones de personas revisoras y autoras. La labor de edición de textos científicos no debe depender del uso de IA.
12. Las personas editoras evidenciarán cuando hayan utilizado IA en alguna parte del proceso editorial. Se reportará el nombre del modelo, la versión, la fecha de uso, así como el enunciado de trabajo asignado.
13. Se establecerán estrategias de prevención para evitar la propagación de sesgo, la desinformación o cuando no se pueda garantizar el respeto o el abordaje ético de los datos personales. Además, se promoverá el uso de datos abiertos, de calidad, fiables y respaldados por el consentimiento o autorizaciones que permitan a la IA hacer un uso legítimo de dicha información.
14. Se comunicará a las personas autoras y lectoras, cuando, en atención a la transparencia, las tareas editoriales o las de revisión se hayan apoyado en el uso de IA.
Reflexión final
El proceso de investigación y la comunicación de resultados aún es una tarea esencialmente humana. No se debe perder de vista que el uso de la IA debe estar al servicio de la humanidad, de la generación del bien común y de la posibilidad de mejorar la calidad de vida de las personas. Ante la realidad de que cada vez se utilizan más modelos, y con más frecuencia, se debe potenciar el debate académico: no sustituirlo con los resultados o productos de la interacción de seres humanos con los modelos de IA.
Adquiere especial relevancia tener conciencia de que los sesgos están presentes tanto en las diferentes etapas o fases de construcción de los modelos y algoritmos, como en los momentos de interacción con ellos. Comprender que estos sesgos se pueden manifestar de formas diversas y que es necesario identificarlos lleva a la elaboración de estrategias que conduzcan a su mitigación, al entrenamiento efectivo de modelos y a su calibración.
Tener presente que la interacción de los seres humanos con la IA es un fenómeno que está en evolución y transformación pone de manifiesto la necesidad de mantener una visión crítica, de prospección y que actualice, constantemente, las condiciones que guían el uso de esta herramienta.
Firman en Heredia, Costa Rica, el 15 de enero de 2024.
Si usted quiere suscribir esta declaración llene el siguiente formulario:
https://docs.google.com/forms/d/e/1FAIpQLSdtuGwcc3VDW3YUNaE5zVWQiFKptTRX81apm0_l3Xr6Tw60vw/viewform
Contacto:
Escriba a educare@una.ac.cr
Incluya en el asunto: Declaración de Heredia
1, 2, 3, 4, 5, 6, 7, 8, 9. 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24
