Apertura
Diapositiva
1 Ética de la Inteligencia Artificial en
la Investigación
Tiempo sugerido: 2
minutos
Muy
buenas noches con todos. En primer lugar, quiero agradecer a Dios por
permitirme compartir este espacio. También expreso mi agradecimiento a la Red
Latinoamericana de Investigaciones Cualitativas, RELATIC, por la invitación, y
a cada una de las personas que se encuentra conectada desde distintos lugares.
Durante
esta conferencia no vamos a discutir si la inteligencia artificial debe
incorporarse o no a la investigación científica. Esa discusión ya fue superada
por la realidad. Actualmente, estas herramientas intervienen en la búsqueda de
literatura, la organización de información, el análisis de datos, la
programación, la traducción, la redacción y la comunicación de resultados.
Por
eso, la pregunta verdaderamente importante no es si debemos utilizar
inteligencia artificial, sino cómo aprovechar sus posibilidades sin debilitar
la confianza, la transparencia y la responsabilidad que sostienen a la ciencia.
A
lo largo de esta hora revisaremos decisiones muy concretas: qué tareas podemos
apoyar mediante inteligencia artificial, cuáles no deberían delegarse, qué
resultados necesitan verificación, cómo proteger información confidencial,
cuándo declarar el uso de una herramienta y por qué un sistema de inteligencia
artificial no puede aparecer como autor de una publicación científica.
Mi
propósito es que esta conferencia no se quede únicamente en principios
generales. Quiero que salgamos de aquí con criterios que podamos aplicar desde
mañana al revisar un artículo, desarrollar una tesis, analizar información o
preparar una nueva investigación.
Al
final contaremos con una lista de comprobación sencilla para evaluar cualquier
uso de inteligencia artificial dentro de un proyecto.
Les
propongo una regla que acompañará toda la sesión: cada vez que una herramienta
nos permita ahorrar tiempo, preguntémonos también qué nueva responsabilidad
genera para nosotros como investigadores.
Transición. Con
esta idea pasamos a la diapositiva 2: Propósito de la conferencia.
Diapositiva
2 Propósito de la conferencia
Tiempo sugerido: 1
minuto 30 segundos
El
objetivo central es sencillo: convertir la ética en un método de trabajo. Una
investigación responsable con IA debe cumplir tres condiciones. Primero,
utilidad real: la herramienta resuelve una tarea definida y no se usa solo por
novedad. Segundo, trazabilidad: podemos explicar qué herramienta usamos, con
qué datos, en qué momento y qué modificaciones realizamos. Tercero,
responsabilidad humana: una persona competente revisa y responde por el
resultado. Estas condiciones acompañarán todos los ejemplos. No buscan frenar
la innovación. Buscan que la velocidad no sustituya el juicio y que la
automatización no oculte decisiones que afectan a participantes, datos, autores
o lectores.
Transición. Con
esta idea pasamos a la diapositiva 3: Pregunta inicial.
Diapositiva
3 Pregunta inicial
Tiempo sugerido: 2
minutos 30 segundos
Antes
de entrar en el contenido, les propongo hacer un diagnóstico personal. Piensen
por unos segundos en el último proyecto de investigación en el que participaron
y traten de identificar en qué momentos intervino alguna herramienta de
inteligencia artificial.
Tal
vez la utilizaron para explorar un tema, localizar posibles referencias,
resumir documentos, traducir textos o mejorar la redacción. También pudieron
emplearla para generar código, organizar información, analizar datos,
transcribir entrevistas, diseñar imágenes o preparar una presentación. Incluso
es posible que hayan utilizado inteligencia artificial sin reconocerla
expresamente, porque actualmente muchos buscadores, correctores ortográficos,
traductores y programas de edición incorporan funciones automatizadas.
Este
reconocimiento inicial es importante porque, antes de evaluar éticamente una
herramienta, necesitamos saber dónde interviene y qué función cumple. No todos
los usos producen el mismo nivel de riesgo. Corregir la ortografía de un
párrafo no equivale a interpretar testimonios de personas víctimas de
violencia. Traducir un título tampoco representa el mismo riesgo que generar
datos, modificar una imagen científica o decidir qué resultados deben excluirse
de un análisis.
También
debemos considerar el tipo de información procesada. Una solicitud general
sobre un tema académico puede implicar un riesgo reducido, mientras que cargar
historias clínicas, entrevistas identificables, datos de estudiantes o
manuscritos confidenciales puede generar consecuencias graves.
Por
eso, durante esta conferencia no clasificaremos la inteligencia artificial
simplemente como buena o mala. Analizaremos cada uso según su finalidad, los
datos empleados, el grado de intervención de la herramienta y las consecuencias
que podría producir un error.
La
primera responsabilidad de quien investiga es hacer visible esa intervención.
Si no reconocemos dónde utilizamos inteligencia artificial, tampoco podremos
verificar sus resultados, declarar su uso ni asumir adecuadamente la
responsabilidad científica.
Este
diagnóstico nos deja una pregunta que acompañará toda la sesión: ¿estamos
utilizando la inteligencia artificial como una herramienta de apoyo o le
estamos entregando decisiones que corresponden al investigador?.
Transición. Con
esta idea pasamos a la diapositiva 4: Ruta de la sesión.
Diapositiva
4 Ruta de la sesión
Tiempo sugerido: 2
minutos
La
conferencia se organiza alrededor de los cuatro ejes anunciados, pero no quiero
que los entendamos como temas aislados. En realidad, forman una secuencia de
decisiones que acompaña todo el proceso de investigación.
Primero
revisaremos cómo puede utilizarse la inteligencia artificial durante el ciclo
investigativo: desde la exploración inicial de un problema y la búsqueda de
literatura hasta el análisis de información, la redacción y la comunicación de
resultados. Aquí diferenciaremos claramente entre apoyo tecnológico y
sustitución del criterio científico.
Después
abordaremos los principales riesgos. Hablaremos de privacidad,
confidencialidad, sesgos, errores y respuestas inventadas que pueden parecer
convincentes, aunque no tengan respaldo verificable. También veremos qué
controles humanos permiten reducir esos riesgos.
El
tercer bloque estará dedicado a la integridad científica y la transparencia.
Analizaremos por qué no basta con obtener rápidamente un resultado; también
debemos poder explicar cómo fue producido, qué datos se utilizaron y cómo se
verificó.
El
cuarto eje se centrará en la autoría, la citación y la declaración del uso de
inteligencia artificial. Precisaremos qué contribuciones corresponden realmente
a una persona autora y por qué una herramienta no puede asumir responsabilidad
ética, jurídica o científica.
Finalmente,
aplicaremos estos principios a casos concretos. En cada bloque responderemos
dos preguntas: ¿qué puede hacer la herramienta y qué responsabilidad debe
conservar la persona investigadora? La respuesta dependerá de la disciplina, la
sensibilidad de los datos y las normas de cada revista o institución.
Transición. Con
esta idea pasamos a la diapositiva 5: IA en el ciclo de investigación.
Aplicación
Diapositiva
5 IA en el ciclo de investigación
Tiempo sugerido: 1
minuto 30 segundos
La
IA puede intervenir en casi todo el ciclo científico. Puede ayudar a delimitar
preguntas, proponer términos de búsqueda, explicar métodos, depurar código,
resumir textos, sugerir estructuras y adaptar resultados para distintas
audiencias. Pero su presencia en muchas fases también puede acumular errores.
Una referencia inventada al inicio puede contaminar el marco teórico. Un código
no revisado puede cambiar el análisis. Una interpretación convincente pero
falsa puede llegar a la discusión. Por eso conviene registrar cada uso desde el
comienzo, no reconstruirlo al enviar el manuscrito. La bitácora de IA debe
anotar herramienta, versión o fecha, tarea, información introducida, resultado
aceptado o rechazado y verificación humana.
Transición. Con
esta idea pasamos a la diapositiva 6: Dónde aporta valor.
Diapositiva
6 Dónde aporta valor
Tiempo sugerido: 1
minuto 30 segundos
La
IA aporta más valor cuando amplía opciones o reduce tareas repetitivas, sin
sustituir la decisión científica. Es útil para generar sinónimos de una
búsqueda, comparar posibles estructuras de un cuestionario, explicar un
fragmento de código o transformar un resumen técnico en lenguaje accesible.
También puede ayudar a detectar inconsistencias que luego verificamos. El
criterio es usarla como asistente de exploración y producción, no como fuente
automática de verdad. Cuando el investigador conoce el dominio, puede reconocer
errores y mejorar el resultado. Cuando no domina la tarea, el texto fluido
puede crear una falsa sensación de seguridad. La eficiencia solo cuenta como
ganancia cuando mantenemos la calidad y podemos justificar el procedimiento.
Transición. Con
esta idea pasamos a la diapositiva 7: Riesgos principales.
Riesgos
Diapositiva
7 Riesgos principales
Tiempo sugerido: 1
minuto 30 segundos
Los
riesgos no se reducen al plagio. Un modelo puede producir información falsa con
apariencia académica. Puede reproducir sesgos presentes en sus datos de
entrenamiento y perjudicar grupos poco representados. Puede exponer información
confidencial si copiamos datos personales en una plataforma sin garantías.
También puede dificultar la trazabilidad porque desconocemos parte del proceso
interno. Finalmente, la dependencia cognitiva aparece cuando aceptamos
respuestas sin reconstruir el razonamiento. Estos riesgos se combinan. Por
ejemplo, un resumen automático de entrevistas sensibles puede afectar
privacidad, perder matices culturales y generar categorías sesgadas. La
evaluación ética debe considerar la tarea completa, los datos utilizados y las
consecuencias de un error.
Transición. Con
esta idea pasamos a la diapositiva 8: Un marco ético práctico.
Diapositiva
8 Un marco ético práctico
Tiempo sugerido: 1
minuto 30 segundos
Podemos
convertir los principios de UNESCO en cinco preguntas prácticas. ¿La finalidad
del uso es legítima y necesaria? ¿Qué daño podría producir y cómo lo reducimos?
¿Quiénes podrían quedar mal representados o excluidos? ¿Podemos explicar la
intervención de la herramienta? ¿Quién revisa y asume la decisión final? La
supervisión humana no significa mirar rápidamente el resultado. Significa tener
competencia para evaluarlo, autoridad para rechazarlo y evidencia de la
revisión. La intensidad del control debe crecer con el riesgo. Una sugerencia
de título requiere menos control que la clasificación de testimonios sobre
violencia o una recomendación clínica.
Transición. Con
esta idea pasamos a la diapositiva 9: Privacidad y datos sensibles.
Diapositiva
9 Privacidad y datos sensibles
Tiempo sugerido: 1
minuto 30 segundos
La
regla más preventiva de toda la conferencia es esta: no copie datos
identificables o confidenciales en una herramienta pública solo porque resulta
conveniente. Nombres, correos, historias clínicas, audios, respuestas abiertas
y documentos institucionales pueden contener información sensible. Antes de
usar IA, revise el consentimiento, el protocolo aprobado, el contrato de la
plataforma, la política de retención y la posibilidad de entrenamiento con los
datos. Cuando sea adecuado, anonimice o trabaje con datos sintéticos. Pero
recuerde que quitar nombres no siempre elimina el riesgo de reidentificación.
En investigaciones con menores, salud, violencia o poblaciones pequeñas, el
umbral de precaución debe ser mayor.
Transición. Con
esta idea pasamos a la diapositiva 10: Sesgo algorítmico.
Diapositiva
10 Sesgo algorítmico
Tiempo sugerido: 1
minuto 30 segundos
Un
sistema no es neutral por presentarse como automático. Sus respuestas reflejan
datos de entrenamiento, decisiones de quienes lo desarrollaron y la forma en
que formulamos la solicitud. Los sesgos pueden aparecer como invisibilidad de
autores latinoamericanos, traducciones que pierden sentido local, categorías
que no representan identidades o recomendaciones que favorecen un grupo. Para
reducirlos, compare resultados entre formulaciones, incluya fuentes regionales,
revise el lenguaje y examine errores por subgrupos. La pregunta ética no es
solo si el promedio funciona. También debemos preguntar para quién falla, con
qué frecuencia y con qué consecuencias. La diversidad del equipo investigador
mejora la capacidad de detectar estos problemas.
Transición. Con
esta idea pasamos a la diapositiva 11: Alucinaciones.
Diapositiva
11 Alucinaciones
Tiempo sugerido: 1
minuto 30 segundos
Los
modelos generativos producen secuencias probables de lenguaje. No consultan
necesariamente una base de verdad y pueden inventar autores, DOI, resultados,
conceptos o citas textuales. El tono seguro no demuestra exactitud. Por eso
nunca debemos copiar referencias generadas sin abrir la fuente original.
Verifique título, autores, año, revista, volumen, páginas y DOI en la editorial
o en una base confiable. Si el modelo resume un artículo, compare el resumen
con el texto. Si explica un resultado estadístico, reproduzca el cálculo. La IA
puede proponer una pista, pero la evidencia debe existir fuera de su respuesta.
Transición. Con
esta idea pasamos a la diapositiva 12: Protocolo de verificación.
Diapositiva
12 Protocolo de verificación
Tiempo sugerido: 1
minuto 30 segundos
Propongo
un protocolo de cuatro pasos. Primero, localizar la fuente real en una base o
sitio oficial. Segundo, abrir el documento original, no confiar en una cita
secundaria ni en el resumen generado. Tercero, contrastar el dato con el
contexto y comprobar si realmente respalda la afirmación. Cuarto, registrar la
comprobación en la matriz de literatura o en la bitácora. Este proceso parece
lento, pero evita correcciones costosas y protege la credibilidad. Para datos
críticos, conviene una segunda revisión independiente. La regla operativa es
clara: ninguna afirmación importante entra al manuscrito solo porque la IA la
formuló bien.
Transición. Con
esta idea pasamos a la diapositiva 13: Prompts responsables.
Diapositiva
13 Prompts responsables
Tiempo sugerido: 1
minuto 30 segundos
Un
buen prompt mejora la utilidad, pero no elimina la obligación de verificar.
Indique el papel de la herramienta, la tarea, el contexto, las restricciones y
el formato esperado. Pida que diferencie hechos, inferencias y dudas. Prohíba
inventar referencias y solicite señalar cuando no dispone de evidencia. Evite
incluir información personal. Por ejemplo: “Propón términos de búsqueda para
esta pregunta; separa descriptores controlados y palabras libres; no generes
referencias; identifica ambigüedades”. Este tipo de instrucción delimita la
tarea. Aun así, el investigador decide qué términos usar y documenta los
cambios. El prompt forma parte del procedimiento cuando influye materialmente
en el resultado.
Transición. Con
esta idea pasamos a la diapositiva 14: Búsqueda de literatura.
Diapositiva
14 Búsqueda de literatura
Tiempo sugerido: 1
minuto 30 segundos
La
IA puede sugerir conceptos y relaciones, pero no sustituye una búsqueda
reproducible. En una revisión sistemática debemos informar bases consultadas,
cadenas completas, campos, fechas, filtros y proceso de selección. Un chatbot
puede omitir estudios, inventar referencias o cambiar resultados sin aviso.
Úselo para ampliar vocabulario y probar combinaciones, luego ejecute la
búsqueda en fuentes documentables. Conserve las estrategias exactas y exporte
los resultados. Si una herramienta con IA participa en cribado o extracción,
describa su función, el umbral y la validación humana. Transparencia significa
que otra persona pueda entender qué hizo la herramienta y evaluar el riesgo de
error.
Transición. Con
esta idea pasamos a la diapositiva 15: Análisis cualitativo.
Diapositiva
15 Análisis cualitativo
Tiempo sugerido: 1
minuto 30 segundos
En
investigación cualitativa, la IA puede sugerir códigos, agrupar fragmentos o
comparar patrones. El riesgo surge cuando transforma una interpretación situada
en una clasificación aparentemente objetiva. Antes de subir transcripciones,
resuelva la privacidad. Después, contraste los códigos con el texto original,
revise casos negativos y documente decisiones. La reflexividad sigue siendo
humana: debemos reconocer cómo nuestras posiciones y las del sistema influyen
en las categorías. Una práctica útil es comparar una codificación humana
inicial con la propuesta automática y discutir divergencias. No use la IA para
borrar tensiones o uniformar voces. La riqueza cualitativa depende del contexto
que un resumen puede perder.
Transición. Con
esta idea pasamos a la diapositiva 16: Análisis cuantitativo y código.
Diapositiva
16 Análisis cuantitativo y código
Tiempo sugerido: 1
minuto 30 segundos
La
IA acelera la escritura de código, pero puede elegir una prueba incorrecta,
cambiar nombres de variables, tratar mal valores perdidos o producir una
gráfica engañosa. Revise cada línea, ejecute pruebas con datos controlados y
compare resultados con otro procedimiento cuando la conclusión dependa del
cálculo. Conserve el código final, la versión del software y las decisiones
analíticas. Si no comprende el código, no puede asumir responsabilidad por él.
En datos sensibles, use entornos autorizados y evite enviar la base a servicios
externos. La automatización debe aumentar la reproducibilidad, no crear una
caja negra adicional.
Transición. Con
esta idea pasamos a la diapositiva 17: Redacción y traducción.
Diapositiva
17 Redacción y traducción
Tiempo sugerido: 1
minuto 30 segundos
La
IA puede mejorar claridad, traducir o adaptar el tono. Sin embargo, puede
cambiar el significado, exagerar resultados o eliminar cautelas. Compare
siempre la versión editada con el texto original, especialmente en resultados,
limitaciones y consentimiento. No permita que agregue citas que no verificó.
Mantenga una copia de las versiones y describa el uso cuando la política
editorial lo requiera. La voz científica no depende de escribir cada palabra
sin apoyo, sino de conservar el control intelectual sobre argumentos,
evidencias y conclusiones. El autor responde incluso cuando una herramienta
propuso la frase.
Transición. Con
esta idea pasamos a la diapositiva 18: Supervisión humana significativa.
Integridad
Diapositiva
18 Supervisión humana significativa
Tiempo sugerido: 1
minuto 30 segundos
La
supervisión humana solo es significativa cuando cumple cuatro verbos.
Comprender la tarea y el límite del sistema. Comprobar la salida con evidencia
o pruebas. Decidir qué se acepta, modifica o rechaza. Responder públicamente
por el resultado. Un clic de aprobación no basta. Tampoco basta afirmar que “un
humano estuvo en el proceso” si nadie podía detectar el error. Las
instituciones deben definir quién revisa, con qué criterios y qué evidencia
conserva. Este enfoque evita trasladar la responsabilidad a una tecnología que
no puede responder ante participantes, comités, editores o lectores.
Transición. Con
esta idea pasamos a la diapositiva 19: Integridad científica.
Diapositiva
19 Integridad científica
Tiempo sugerido: 1
minuto 30 segundos
La
integridad científica exige honestidad en todo el proceso. La IA no cambia las
prohibiciones básicas: no fabricar datos, no falsificar resultados, no ocultar
procedimientos y no atribuirse contribuciones ajenas. Sí crea nuevas formas de
cometer errores a gran velocidad. Por eso necesitamos controles antes, durante
y después del uso. Antes: definir propósito y riesgo. Durante: registrar
prompts, salidas y decisiones relevantes. Después: verificar, declarar y
corregir si aparece un problema. La transparencia no convierte una práctica
incorrecta en aceptable, pero permite evaluar una práctica legítima. Declarar
que se usó IA no autoriza inventar información.
Transición. Con
esta idea pasamos a la diapositiva 20: Criterios de autoría.
Autoría
Diapositiva
20 Criterios de autoría
Tiempo sugerido: 1
minuto 30 segundos
La
autoría científica implica más que producir texto. Los criterios editoriales
exigen contribución intelectual sustantiva, revisión o redacción crítica,
aprobación de la versión final y responsabilidad por el trabajo. Una
herramienta de IA no puede aprobar un manuscrito, declarar conflictos,
transferir derechos, responder a una acusación ni asumir consecuencias. Por eso
no debe aparecer como autora. Las personas que firman deben revisar la
totalidad del contenido pertinente y responder por la exactitud. Si alguien
solo operó una herramienta sin contribución intelectual suficiente, eso tampoco
convierte automáticamente a esa persona en autora.
Transición. Con
esta idea pasamos a la diapositiva 21: Por qué la IA no es autora.
Diapositiva
21 Por qué la IA no es autora
Tiempo sugerido: 1
minuto 30 segundos
A
veces se argumenta que, si la IA produjo mucho texto, debería recibir autoría.
Esa conclusión confunde generación con responsabilidad. La autoría no es un
premio por cantidad de palabras. Es una relación de responsabilidad y rendición
de cuentas. El sistema no puede aceptar la versión final, explicar una decisión
metodológica bajo interrogación, proteger confidencialidad ni corregir el
registro científico por iniciativa propia. Podemos reconocer la herramienta y
describir su función, pero no convertirla en sujeto responsable. La atribución
correcta recae en las personas que diseñaron, verificaron y aprobaron el
trabajo.
Transición. Con
esta idea pasamos a la diapositiva 22: Declaración del uso de IA.
Transparencia
Diapositiva
22 Declaración del uso de IA
Tiempo sugerido: 1
minuto 30 segundos
Una
declaración útil permite comprender la intervención de la IA. Incluya el nombre
de la herramienta, versión o fecha de acceso cuando sea relevante, propósito,
partes afectadas y procedimiento de revisión. Un ejemplo breve sería: “Los
autores utilizaron [herramienta] el [fecha] para mejorar claridad lingüística
en la introducción. Verificaron y editaron todas las salidas y asumen
responsabilidad por el contenido final”. Si la IA intervino en análisis,
métodos o recolección, la descripción debe ser suficientemente detallada para
evaluar o reproducir el procedimiento. Consulte siempre la política de la
revista, porque las ubicaciones y requisitos varían.
Transición. Con
esta idea pasamos a la diapositiva 23: Citación y reconocimiento.
Diapositiva
23 Citación y reconocimiento
Tiempo sugerido: 1
minuto 30 segundos
La
IA no debe reemplazar la cita de la fuente que respalda una afirmación. Si una
respuesta menciona un estudio, cite el estudio original después de verificarlo.
Cuando el contenido de una conversación con IA sea objeto de análisis o deba
recuperarse, siga el estilo y la política correspondiente, considerando que
muchas conversaciones no son accesibles para el lector. Para usos
instrumentales, suele ser más apropiada una declaración metodológica o de
agradecimiento que tratar al chatbot como fuente académica. La norma esencial
es evitar dos confusiones: atribuir evidencia a la IA cuando proviene de otra
fuente, y ocultar una intervención material que el lector necesita conocer.
Transición. Con
esta idea pasamos a la diapositiva 24: Plagio y paráfrasis automática.
Diapositiva
24 Plagio y paráfrasis automática
Tiempo sugerido: 1
minuto 30 segundos
La
paráfrasis automática puede ocultar similitudes superficiales, pero no resuelve
la atribución intelectual. Si una idea, método o hallazgo procede de otra obra,
necesita cita aunque la redacción cambie. También existe autoplagio cuando se
reutiliza material propio sin transparencia. Los detectores de IA y similitud
tienen límites y no deben convertirse en jueces automáticos. La prevención más
sólida consiste en tomar notas con fuentes, separar citas textuales, escribir
desde la comprensión y verificar la atribución antes de enviar. La ética se
demuestra en el proceso, no en lograr que un texto pase un detector.
Transición. Con
esta idea pasamos a la diapositiva 25: Imágenes, tablas y datos sintéticos.
Diapositiva
25 Imágenes, tablas y datos sintéticos
Tiempo sugerido: 1
minuto 30 segundos
Las
imágenes generadas pueden ilustrar conceptos, pero no deben presentarse como
evidencia observada. En figuras científicas, una modificación puede alterar la
interpretación. Declare generación o edición y conserve los archivos
originales. Los datos sintéticos pueden servir para enseñar, probar código o
proteger privacidad, pero deben distinguirse claramente de datos empíricos.
Nunca rellene observaciones faltantes inventando participantes plausibles. En
tablas y gráficos, revise etiquetas, escalas y correspondencia con la base. Una
apariencia profesional no garantiza autenticidad.
Transición. Con
esta idea pasamos a la diapositiva 26: Revisión por pares y confidencialidad.
Diapositiva
26 Revisión por pares y confidencialidad
Tiempo sugerido: 1
minuto 30 segundos
Quien
revisa un manuscrito recibe información confidencial. Copiarlo en un chatbot
externo puede violar acuerdos, propiedad intelectual y anonimato. Los revisores
deben seguir la política de la revista y no delegar su juicio. Si una editorial
ofrece una herramienta autorizada, también debe quedar claro qué datos procesa
y qué función cumple. Los editores enfrentan el mismo deber de confidencialidad
y equidad. La IA puede apoyar tareas administrativas, pero las decisiones
editoriales requieren responsabilidad humana y mecanismos de apelación.
Transición. Con
esta idea pasamos a la diapositiva 27: Caso 1: referencias perfectas.
Casos
Diapositiva
27 Caso 1: referencias perfectas
Tiempo sugerido: 2
minutos 30 segundos
Analicemos
ahora un caso muy frecuente. Un investigador solicita a una herramienta de
inteligencia artificial diez referencias recientes para construir el marco
teórico de su estudio. La respuesta parece excelente: aparecen autores, títulos
de revistas, años de publicación y DOI con una apariencia completamente
académica. Como todo parece correcto, copia la lista y redacta el apartado.
Sin
embargo, cuando se realiza la comprobación, descubre que tres de los DOI no
existen. Además, otros dos artículos sí son reales, pero no sostienen las
afirmaciones que la herramienta les atribuyó. En otras palabras, la mitad de
las referencias presenta algún problema.
¿Dónde
estuvo el fallo? No estuvo necesariamente en emplear la inteligencia artificial
para explorar posibles fuentes. El error consistió en transformar una respuesta
generada en evidencia científica sin verificarla. La herramienta produjo
información plausible, pero plausibilidad no significa autenticidad.
La
actuación correcta habría sido comprobar cada título, autor, revista, año y
DOI; abrir los documentos originales; confirmar que realmente respaldan las
afirmaciones realizadas y registrar la estrategia de búsqueda utilizada en las
bases académicas.
Ahora
les planteo una pregunta: si ustedes detectaran cinco referencias
problemáticas, ¿eliminarían únicamente esas cinco o revisarían todo el marco
teórico?
La
decisión prudente sería revisar todas las referencias y las afirmaciones
asociadas. Si el mismo procedimiento produjo la lista completa, no podemos
asumir que los demás registros son correctos solamente porque parecen creíbles.
Este
caso nos deja una regla sencilla: la IA puede ayudarnos a descubrir posibles
fuentes, pero ninguna referencia debe incorporarse sin verificar el documento
original.
Transición. Con
esta idea pasamos a la diapositiva 28: Caso 2: entrevistas sensibles.
Diapositiva
28 Caso 2: entrevistas sensibles
Tiempo sugerido: 2
minutos 30 segundos
Veamos
un segundo caso, ahora relacionado con información especialmente sensible. Un
equipo investiga experiencias de violencia mediante entrevistas. Para agilizar
el análisis cualitativo, decide cargar las transcripciones completas en una
plataforma pública de inteligencia artificial y le solicita que identifique
categorías, patrones y temas recurrentes.
El
resultado parece muy útil. La herramienta organiza rápidamente la información,
propone categorías coherentes y encuentra relaciones que pueden orientar el
análisis. Sin embargo, la calidad del resultado no elimina el problema ético
producido durante el procedimiento.
Estas
transcripciones pueden contener nombres, lugares, relaciones familiares,
experiencias personales y otros detalles que permitan identificar directa o
indirectamente a quienes participaron. Aunque se elimine el nombre de una
persona, la combinación de edad, ocupación, localidad y acontecimientos
específicos podría revelar su identidad.
Además,
debemos preguntarnos si el consentimiento informado autorizaba el procesamiento
mediante inteligencia artificial, si la información fue transferida a
servidores externos, cuánto tiempo podría conservarse y si la plataforma
utiliza los contenidos para mejorar sus sistemas. También existe el riesgo de
que la herramienta simplifique testimonios complejos, reproduzca sesgos o
elimine elementos esenciales del contexto.
Antes
de cargar la información, el equipo debía revisar el protocolo aprobado, las
políticas institucionales, las condiciones de privacidad de la plataforma y el
alcance real del consentimiento. También debía aplicar una anonimización
rigurosa y considerar alternativas locales, institucionales o expresamente
autorizadas.
Ahora
imaginemos que las transcripciones ya fueron cargadas. La respuesta correcta no
sería ocultarlo ni continuar como si nada hubiera ocurrido. El equipo debe
detener el procesamiento, impedir nuevas cargas, informar el incidente de
acuerdo con el protocolo institucional y evaluar qué información pudo quedar
expuesta. Después tendrá que documentar las medidas adoptadas y determinar si
los resultados obtenidos pueden utilizarse legítimamente o deben descartarse.
La
enseñanza central es clara: un resultado técnicamente útil puede proceder de
una práctica éticamente inaceptable. En investigaciones con información
sensible, la protección de las personas debe decidirse antes de utilizar la
herramienta, no después de que los datos hayan sido compartidos.
Transición. Con
esta idea pasamos a la diapositiva 29: Lista de comprobación antes de usar IA.
Cierre
Diapositiva
29 Lista de comprobación antes de usar
IA
Tiempo sugerido: 2
minutos
Antes
de utilizar inteligencia artificial en una investigación, conviene detenernos y
responder ocho preguntas básicas. No se trata de completar un requisito
burocrático, sino de anticipar problemas antes de que afecten a las personas,
los datos o la credibilidad del estudio.
La
primera pregunta es: ¿cuál es la finalidad concreta? Debemos definir
exactamente para qué utilizaremos la herramienta y evitar emplearla simplemente
porque está disponible.
La
segunda pregunta es: ¿qué datos vamos a introducir? Necesitamos saber si
contienen información personal, confidencial, inédita o protegida.
La
tercera es: ¿qué daño podría producir un error, una filtración o una
interpretación incorrecta? El nivel de precaución debe aumentar cuando las
posibles consecuencias sean mayores.
La
cuarta pregunta es: ¿cómo verificaremos el resultado? Toda salida relevante
debe contrastarse con fuentes originales, datos conocidos o procedimientos
reproducibles.
En
quinto lugar, debemos preguntarnos: ¿qué sesgos, grupos o perspectivas podría
excluir la herramienta? Una respuesta aparentemente neutral puede reproducir
desigualdades presentes en los datos utilizados para construir el sistema.
La
sexta pregunta es: ¿qué debemos registrar? Conviene documentar la herramienta,
su versión o fecha de uso, la tarea realizada y la revisión humana aplicada.
La
séptima es: ¿cómo declararemos su utilización? La transparencia debe ajustarse
a las normas de la institución, la revista o el proyecto.
Finalmente:
¿quién asume la responsabilidad? La respuesta siempre debe señalar a una
persona o a un equipo humano capaz de justificar las decisiones tomadas.
Si
alguna respuesta es “no lo sé”, eso no significa una prohibición automática.
Significa que debemos detenernos, buscar la información necesaria y resolver la
incertidumbre antes de continuar.
Esta
lista puede incorporarse a un protocolo, a la dirección de una tesis o a la
política de un grupo de investigación. La ética funciona mejor cuando deja de
ser una reacción ante el problema y se convierte en una rutina visible de
trabajo.
Transición. Con
esta idea pasamos a la diapositiva 30: Compromiso final.
Diapositiva
30 Compromiso final
Tiempo sugerido: 2
minutos 30 segundos
Quisiera
cerrar esta conferencia con una idea fundamental. La inteligencia artificial
puede acelerar tareas, ampliar las alternativas disponibles y facilitar la
búsqueda, el análisis y la comunicación de información. Sin embargo, la rapidez
no garantiza la calidad y un resultado convincente no siempre es un resultado
correcto.
La
confianza científica continúa dependiendo de decisiones humanas que puedan
explicarse, verificarse y documentarse. Cada investigador debe estar en
capacidad de responder cuatro preguntas: ¿qué hice con la herramienta?, ¿por
qué decidí utilizarla?, ¿cómo comprobé el resultado? y ¿quién asume la
responsabilidad por la decisión final?
La
inteligencia artificial puede proponer una referencia, pero nosotros debemos
confirmar que exista. Puede generar un código, pero debemos ejecutarlo y
validar sus resultados. Puede sugerir categorías para una entrevista, pero
corresponde al investigador conservar el contexto y proteger a los
participantes. También puede mejorar la claridad de un texto, pero no
reemplazar la contribución intelectual ni la voz de sus autores.
Por
eso, el compromiso que les propongo no consiste en rechazar estas herramientas
ni en aceptarlas sin condiciones. Consiste en utilizarlas con propósito,
prudencia, transparencia y supervisión humana significativa.
Para
su próximo proyecto, elijan al menos una práctica concreta: crear una bitácora
del uso de inteligencia artificial, revisar las condiciones de privacidad antes
de introducir información, verificar cada referencia en su fuente original,
declarar las herramientas utilizadas o establecer una política común dentro del
equipo de investigación.
Una
acción pequeña, aplicada de manera constante, puede prevenir problemas de
confidencialidad, errores en las referencias, resultados no reproducibles y
dudas sobre la autoría.
La
inteligencia artificial seguirá evolucionando y las herramientas que hoy
utilizamos probablemente cambiarán. Por eso, nuestra responsabilidad no puede
depender de una plataforma específica. Debe apoyarse en principios científicos
permanentes: verificar la evidencia, proteger a las personas, reconocer las
contribuciones, explicar los procedimientos y responder por las decisiones.
La
IA puede ayudarnos a avanzar con mayor rapidez, pero somos nosotros quienes
debemos asegurar que ese avance conserve la confianza de la comunidad
científica y de la sociedad.
Agradezco
sinceramente a Dios, a RELATIC por esta invitación y a cada uno de ustedes por
acompañarme. Muchas gracias. Abrazos y bendiciones.
