El Desafío de los Detectores de IA: Más Allá de la Superficie
Por: Néstor Vidal
31 de mayo 2026 · 10:20 hs
La irrupción de los detectores de inteligencia artificial (IA) en el ámbito forense ha abierto un debate crucial. A simple vista, estas herramientas prometen revolucionar la validación de documentos en investigaciones, pero en el interior de la ciencia se revela una serie de falencias que ponen en jaque su fiabilidad. Basando sus análisis en dos métricas estadísticas: perplejidad y ráfaga, estos sistemas asumen que un texto con un vocabulario estructurado y apegado rigurosamente a la técnica es necesariamente generado por máquinas. No obstante, este enfoque genera falsos positivos peligrosos, reflejando una inclinación a penalizar la precisión que caracteriza la redacción técnica, científica o jurídica.
La Trampa Estadística: El Teorema de Bayes
Desde la accidentología forense hasta el ámbito académico, el uso de estadísticas es un pilar fundamental. El famoso Teorema de Bayes proporciona una ilustración clara del riesgo que suponen estos detectores. Imaginemos un tribunal donde solo el 5% de las personas usa IA de manera indebida, y el software anuncia tener un 99% de precisión. Sin embargo, si sumamos la tasa de falsos positivos del 1%, la probabilidad real de que un documento cuestionado sea realmente generado por IA se reduce a apenas 83%. En consecuencia, casi 2 de cada 10 acusados podrían ser inocentes, lo que en el ámbito legal representa un margen de error totalmente inadmisible.
Regulaciones que Marcan el Camino
La rigurosidad en el uso de herramientas de IA no solo debe considerar aspectos éticos, sino también cumplir con normativas internacionales. El ISO/IEC 42001 exige que los sistemas de IA sean transparentes y explicables, mientras que el marco del NIST aborda la equidad y evita sesgos en la toma de decisiones. Los detectores de IA actuales, al operar como “cajas negras”, infringen estas normas al ofrecer probabilidades sin una explicación clara de cómo llegaron a dichos resultados. Utilizarlos para decisiones legales o científicas podría equivaler a condenar a un inocente basado en pruebas que no son confiables. Esta problemática invita a repensar la forma en que integramos la tecnología en nuestras prácticas, priorizando la precisión y la responsabilidad.