Las herramientas basadas en IA, como ChatGPT, están revolucionando muchos campos y podrían alterar radicalmente el panorama de la publicación científica, pero, ¿cómo abordamos a estas máquinas que intentan reescribir las normas?
La inteligencia artificial (IA) utiliza la potencia de las computadoras para realizar tareas complejas que tradicionalmente requieren la comprensión humana. Estas tareas se han definido como aplicaciones de productos, procesos o conocimientos, desde la interfaz de usuario de su Netflix hasta los robots de atención al cliente y las herramientas analíticas de aprendizaje automático (ML).
Pero sólo en los últimos años la tecnología avanzada de IA ha empezado a producir contenido a la par que el trabajo generado por humanos, incluyendo arte derivado de IA y sistemas que pueden generar texto. Lanzada en noviembre de 2022, ChatGPT, una herramienta de procesamiento del lenguaje natural impulsada por IA, ya está causando sensación, escribiendo textos excepcionalmente pulcros y bien argumentados en respuesta a las preguntas de los usuarios.
Los investigadores que experimentan con esta nueva herramienta han descubierto que ChatGPT puede ofrecer resultados sorprendentemente precisos incluso para peticiones irónicas como poemas sobre perovskita o una oda a una revista específica de la ACS.1
Otros robots especializados en IA, como Chemist Bot, se han desarrollado para ayudar a los estudiantes a preparar sus exámenes.2 Un estudio publicado en Journal of Chemical Information and Modeling utilizó la IA para crear sistemas de respuesta a preguntas que extraen datos de gráficos de conocimiento sin necesidad de tener experiencia en la navegación de consultas semánticas. Esto permitió a los usuarios realizar consultas en lenguaje natural y solicitar con precisión información basada en condiciones complejas. Los resultados del estudio demostraron que los sistemas de IA podían interpretar y responder a preguntas sobre química mejor que los motores de búsqueda genéricos.3
Ya es posible ver que la IA podría ofrecer ventajas reales y tiene el potencial de revolucionar la labor científica, quizá al ser menos rígida a la hora de trabajar con distintas disciplinas. Los investigadores también podrían utilizar la IA para explorar nuevos temas o corroborar su trabajo.4
Pero también existen riesgos. Desde el punto de vista editorial, el más preocupante es que la IA podría contribuir a agravar el problema de las "fábricas de publicaciones" (paper mills), así como de los "artículos sándwich" (sandwich papers) de baja calidad y mal concebidos.4-6 Estas publicaciones de calidad inferior ya constituyen una amenaza para la edición académica, pues aumentan el volumen y reducen el impacto de la producción académica real, por lo que están siendo investigadas por el Comité de Ética de la Publicación (COPE).7
El hecho de que la IA ya sea capaz de redactar artículos de revisión convincentes justifica la creación de un código de conducta para el uso de esta tecnología en la literatura científica.4 En algunas revistas ya existe el requisito de reconocer el apoyo editorial y de redacción, sobre todo en el campo de la medicina, donde el apoyo profesional de redacción puede estar financiado por un patrocinador.
Las Normas para Autores de la ACS establecen que las herramientas de IA no dan derecho de autoría y que cualquier herramienta de este tipo utilizada para producir texto o imágenes debe revelarse en el manuscrito.8 Estas normas están en consonancia con las de la COPE, así como con las de organizaciones como la Asociación Mundial de Editores Médicos (WAME) y la Red JAMA.9-11
Pero, ¿se plantearán los autores incluir la IA en estas cláusulas de exención de responsabilidad a menos que sea explícitamente obligatorio? También pueden surgir otras cuestiones clave sobre los derechos de propiedad intelectual, tanto sobre a quién pertenecen los derechos de autor de las obras resultantes de la IA como sobre si los sistemas pueden rastrear y reconocer adecuadamente las fuentes que utilizan.4
Actualmente, la validez del texto generado por IA depende de su serie de entrenamiento, pero ¿veremos sistemas capaces de ir más allá de estos límites para generar conocimientos extrapolados y descubrimientos? ¿Y qué hay del margen de error? Por el momento, quizá haya más preguntas que respuestas, pero será importante ir un paso por delante para garantizar que la publicación científica no se ahogue en un mar de artículos de Chatbot.
Referencias
- Kirmani, R. Artificial Intelligence-Enable Science Poetry. ACS Energy Lett. 2023, 8, 1, 574–576.
- Korsakova, E. et al. Chemist Bot as a Helpful Personal Online Training Tool for the Final Chemistry Examination. J. Chem. Educ. 2022, 99, 2, 1110–1117.
- Zhou, X. et al. Question Answering System for Chemistry. J. Chem. Inf. Model. 2012, 61, 8, 3868–3880.
- Grimaldi G, Ehrler B. AI et al.: Machines Are About to Change Scientific Publishing Forever. ACS Energy Lett. 2023, 8, 1, 878–880.
- ACS Takes Action to Address the Threat Posed by “Paper Mills. ACS Axial 2021.
- Jin, S. Fewer Sandwich Papers, Please. ACS Energy Lett. 2022, 7, 10, 3727–3728.
- Paper Mills Research. Committee on Publication Ethics 2023.
- Authorship, Author List, and Coauthor Notification. ACS Author Guidelines 2023.
- Authorship and AI Tools: COPE Position Statement. Committee on Publication Ethics 2023.
- WAME Recommendations on ChatGPT and Chatbots in Relation to Scholarly Publications. World Association of Medical Editors 2023.
- Flanagin, A et al. Nonhuman “Authors” and Implications for the Integrity of Scientific Publication and Medical Knowledge. JAMA