La IA generativa inunda libros y deepfakes médicos

La inteligencia artificial generativa está alterando al mismo tiempo el mercado editorial digital y la comunicación médica. Un estudio de la Universidad de Columbia analizó 14.419 libros de ficción autopublicados en Amazon entre 2023 y junio de 2026 y encontró que aquellos con más de un 25% de texto generado por modelos de lenguaje —sistemas como ChatGPT que producen texto a partir de instrucciones— ocupan una porción creciente del catálogo y de las ventas trimestre a trimestre. En paralelo, las imágenes médicas sintéticas, desde radiografías hasta tomografías computarizadas, ya son capaces de engañar a especialistas humanos.

El fenómeno tiene dos caras: la producción de contenido se dispara y el valor económico por unidad se desploma. Entre 2023 y junio de 2026, el número de libros con ventas observadas en un trimestre creció 19,2 veces. Los ingresos trimestrales totales apenas se multiplicaron por 8,9. El ingreso por libro en venta cayó en la mayoría de los géneros analizados. La IA no está creando un mercado más rico: lo está diluyendo.

El colapso silencioso de la transparencia editorial

De los 14.419 libros examinados en el estudio de Columbia, ninguno declara si contiene o no texto generado por inteligencia artificial. La omisión es sistemática y cruza todos los géneros de ficción. Amazon no exige esta divulgación en Kindle Direct Publishing, su plataforma de autopublicación, y los autores —humanos, asistidos por IA o completamente automatizados— operan en un vacío de reglas.

Los libros con alto contenido de IA no solo compiten por volumen: están desplazando a las obras sin texto sintético en las posiciones mejor rankeadas. El efecto es más fuerte en géneros con alta penetración de IA y amplia disponibilidad en Kindle Unlimited. La investigación también encontró que estos libros recurren a lenguaje distintivo extraído de obras existentes, y que esta superposición aumenta conforme crecen los ingresos. Cuanto más vende un libro generado por IA, más se parece al material del que fue extraído. El hallazgo tiene implicaciones directas para la doctrina de fair use —el principio legal que permite el uso limitado de material con derechos de autor sin permiso— en los litigios contra empresas de inteligencia artificial.

Radiografías falsas que burlan a especialistas

En el ámbito sanitario, los deepfakes médicos —imágenes clínicas generadas artificialmente para simular diagnósticos— son una amenaza concreta. Un equipo de investigadores creó MedForensics, un dataset con seis modalidades médicas (radiografías, resonancias magnéticas y tomografías, entre otras) generadas por 12 modelos distintos de inteligencia artificial. El objetivo era medir cuán detectable es una imagen médica falsa.

Los métodos forenses que funcionan para imágenes naturales o rostros no sirven para identificar imágenes médicas sintéticas. El detector DSKI, desarrollado por el mismo equipo, supera tanto a las herramientas existentes como a los especialistas humanos en la tarea de distinguir una imagen médica real de una generada artificialmente. La brecha entre generación y detección sigue abierta, y los sistemas de salud carecen de protocolos para verificar la autenticidad del material diagnóstico que reciben.

A esto se suman vulnerabilidades en los propios modelos de lenguaje. Técnicas de jailbreak —métodos para eludir las barreras de seguridad de un modelo— permiten producir desinformación sanitaria a escala. Una auditoría de 2025 confirmó que los mecanismos de protección actuales no bastan para frenar este tipo de abusos.

Plataformas como vectores de desinformación

YouTube fue señalado en 2022 por más de 80 organizaciones de verificación de datos, agrupadas en la International Fact-Checking Network, como uno de los principales conductos de desinformación global. La carta abierta que enviaron a su directora general pedía medidas efectivas de moderación de plataformas: sistemas automatizados y humanos para filtrar contenido falso. En 2026, con herramientas de generación multimodal —capaces de producir texto, imágenes y video— al alcance de cualquier persona, el volumen de contenido sintético no verificado que circula por la plataforma se ha multiplicado.

Marcas de agua y la deuda de autenticidad

Las soluciones técnicas no ofrecen garantías plenas. Las especificaciones C2PA, el estándar de la Coalition for Content Provenance and Authenticity que busca certificar el origen de archivos digitales mediante marcas criptográficas, tienen limitaciones documentadas en una investigación de abril de 2026. El concepto de "deuda de autenticidad", propuesto por otro grupo de investigadores, describe un ecosistema donde la capacidad de generar contenido sintético supera con creces la capacidad de verificar su procedencia. La solución no puede ser solo técnica: requiere mecanismos de gobernanza en capas que combinen verificación de origen, transparencia de plataformas y responsabilidad legal.

El debate regulatorio se polariza entre dos modelos. La Unión Europea avanza con la Digital Services Act hacia la responsabilidad proactiva de las plataformas, que incluye obligaciones de auditoría algorítmica y transparencia. Estados Unidos mantiene la Section 230, que otorga inmunidad condicionada a las plataformas por el contenido que alojan. La escala y velocidad del contenido generado por IA ponen a prueba ambos marcos. Mientras tanto, las librerías digitales y los sistemas de comunicación médica acumulan contenido sintético que no se declara ni se verifica. Buena parte de ese material es indistinguible del auténtico.

Fuentes

• Chakrabarty, T., Liu, X., Ginsburg, J.C., Dhillon, P. "Generative AI floods and dilutes the market for books". arXiv:2607.20349, julio 2026. https://arxiv.org/abs/2607.20349
• Li, S., Xing, Z., Wang, H. et al. "Toward Medical Deepfake Detection: A Comprehensive Dataset and Novel Method". arXiv:2509.15711, septiembre 2025. https://arxiv.org/abs/2509.15711
• Chequeado. "Cuando ya no sabemos qué es real: la IA y el consumo de noticias", febrero 2026. https://chequeado.com/cuando-ya-no-sabemos-que-es-real-la-ia-y-el-consumo-de-noticias/
• IFCN / Chequeado. "Carta abierta a la directora general de YouTube", enero 2022. https://chequeado.com/carta-abierta-a-la-directora-general-de-youtube-de-parte-de-los-chequeadores-del-mundo/
• Hussain, A., Zhao, P., Vincent, N. "An Audit and Analysis of LLM-Assisted Health Misinformation Jailbreaks Against LLMs". arXiv:2508.10010, agosto 2025. https://arxiv.org/abs/2508.10010
• "Verifying Provenance of Digital Media: Why the C2PA Specifications Fall Short". arXiv:2604.24890, abril 2026. https://arxiv.org/abs/2604.24890
• "Authenticity Debt and the Synthetic Content Threat Landscape: A Layered Framework for Trust, Provenance, and IP Governance in the Generative AI Era". arXiv:2606.00621, mayo 2026. https://arxiv.org/abs/2606.00621