Cómo funcionan los detectores de IA y por qué una puntuación por sí sola no puede probar la autoría

Pegue un ensayo, artículo o correo electrónico en un detector de IA y unos segundos después puede devolver un resultado como «85% de IA».

Parece preciso. Pero también puede ser fácil de malinterpretar.

El detector no observó cómo se escribió el documento. Analizó el texto terminado en busca de patrones asociados con la escritura generada por IA. Dependiendo de la herramienta, ese 85% podría representar la probabilidad estimada de que la IA haya producido el documento o la proporción del texto que marcó el detector.

Eso hace que un detector de IA sea útil como señal, especialmente cuando algo necesita una revisión más detallada. Pero la puntuación aún necesita contexto y evidencia de respaldo antes de que alguien llegue a una conclusión sobre quién escribió el texto o cómo lo creó. Comprender cómo los detectores producen sus puntuaciones ayuda a explicar tanto lo que pueden detectar como las razones por las que a veces se equivocan.

¿Qué es un detector de IA?

Un detector de escritura de IA analiza una pieza de texto terminada y estima si se parece a la escritura producida por un modelo de lenguaje. Por lo general, un usuario pega el texto o carga un documento. En cuestión de segundos, la herramienta puede devolver una etiqueta, un porcentaje, pasajes resaltados o los tres.

• Los maestros y las instituciones académicas los utilizan al revisar el trabajo de los estudiantes.
• Los editores y los equipos de contenido pueden usarlos para examinar la escritura enviada o encargada, mientras que algunas empresas de detectores comercializan versiones para equipos de contratación que revisan los materiales de postulación.
• A veces, los escritores también revisan su propio trabajo para comprender cómo un maestro, editor, cliente o plataforma podría clasificarlo.

Nota: Los detectores de plagio cumplen un propósito relacionado pero independiente. Comparan un documento con material publicado y otras fuentes para encontrar lenguaje coincidente. Los detectores de IA evalúan los patrones en la escritura enviada. Por lo tanto, un pasaje completamente original puede recibir una marca de IA, mientras que la escritura humana copiada puede no contener ninguna señal fuerte de generación por IA.

Cómo los detectores de IA analizan el texto

Muchos detectores de IA se basan en un clasificador, un modelo de aprendizaje automático (machine learning) entrenado en ejemplos de escritura humana y generada por IA. A medida que compara ambos, aprende qué patrones tienden a aparecer en cada uno, incluidos los patrones en la elección de palabras y la estructura de las oraciones. Luego busca esos patrones en texto nuevo y produce una predicción.

Lo que aprende el detector depende de lo que ve durante el entrenamiento. Una herramienta entrenada en un rango limitado de escritura puede tener dificultades con un nuevo tema, un estilo desfamiliarizado o resultados de un modelo de IA que no ha encontrado antes. La investigación realizada en diferentes tipos de texto y modelos de IA ha descubierto que el rendimiento de la detección puede disminuir en esas condiciones.

Algunos métodos adoptan un enfoque diferente. En lugar de entrenar un clasificador separado, utilizan las propias estimaciones de probabilidad de un modelo de lenguaje para juzgar qué tan probable sería que produjera un pasaje.

• DetectGPT, por ejemplo, compara el texto original con versiones ligeramente modificadas para buscar patrones asociados con la generación por IA. Su investigación describe esto como un método de «cero disparos» («zero-shot») porque no requiere un detector entrenado por separado. El resultado puede incluir una puntuación general, oraciones resaltadas o ambas cosas.
• GPTZero afirma que sus resaltados muestran qué oraciones tienen mayor influencia en su predicción general. Debido a que también evalúa el documento en un sentido más amplio, un pasaje escaneado por sí solo puede no recibir el mismo resultado cuando aparece como parte de una obra más larga.

Cada resultado refleja tanto el texto como el sistema que lo evalúa, razón por la cual diferentes detectores pueden llegar a conclusiones diferentes sobre el mismo pasaje.

Ampliar

Qué miden la perplejidad y la ráfaga (burstiness)

La perplejidad y la ráfaga (burstiness) surgen a menudo en las explicaciones sobre la detección de IA. Pueden revelar patrones útiles en un fragmento de texto, pero ninguno apunta a una forma única y exclusiva de escribir por IA.

Un detalle potencialmente confuso: la perplejidad cumple una doble función aquí. En minúsculas, es una medida estadística. Con P mayúscula, somos nosotros.

La perplejidad mide qué tan predecible es el texto

Los modelos de lenguaje generan texto asignando probabilidades a los siguientes tokens posibles, que pueden ser palabras enteras o partes de palabras. La perplejidad mide qué tan bien un modelo puede predecir los tokens en un pasaje.

• Menor perplejidad: El texto sigue patrones que el modelo encuentra familiares.
• Mayor perplejidad: La redacción es menos esperada.

La puntuación es específica para el modelo que realiza la evaluación y la forma en que se procesa el texto, por lo que el mismo pasaje puede recibir diferentes puntuaciones de perplejidad bajo diferentes configuraciones.

Tome la oración: «Por favor, hágase saber si tiene alguna pregunta». Es probable que un modelo de lenguaje haya encontrado una redacción similar muchas veces, lo que hace que cada palabra sea relativamente fácil de predecir. Eso nos dice algo sobre la familiaridad de la oración. No dice nada concluyente sobre quién la escribió.

La ráfaga (burstiness) mide cuánto varían esos patrones

La ráfaga (burstiness) se utiliza de manera más flexible en las discusiones sobre detección de IA. Por lo general, describe cuánto cambia la escritura a lo largo de un pasaje. Esto puede incluir la variación en la longitud y la estructura de las oraciones, o cambios entre lenguaje muy predecible y más sorprendente.

• Menor ráfaga (burstiness): Las oraciones siguen una longitud, estructura o ritmo más consistentes.
• Mayor ráfaga (burstiness): La escritura se desplaza entre declaraciones más cortas, explicaciones más largas y frases menos esperadas.

Parte del texto generado por IA es coherente y predecible, razón por la cual la ráfaga (burstiness) se asoció con la detección. La escritura humana puede tener las mismas cualidades, especialmente en contextos comerciales, académicos y técnicos. Los modelos de IA también pueden producir un lenguaje más variado cuando se les indica o edita para que lo hagan.

GPTZero afirma que la perplejidad y la ráfaga (burstiness) eran dos de varias características utilizadas por una versión anterior de su detector.

Qué muestran estas medidas: La perplejidad y la ráfaga (burstiness) describen patrones en un pasaje. Esos patrones pueden ayudar a explicar por qué se marcó el texto, pero no pueden establecer quién lo escribió.

Qué significa la puntuación de un detector de IA

Un resultado de «80% de IA» parece directo. Su significado depende del detector.

GPTZero describe el porcentaje como la probabilidad estimada por su modelo de que la IA o un humano haya escrito el documento. Turnitin utiliza el porcentaje para mostrar cuánta prosa calificativa marca su modelo como potencialmente generada por IA o modificada con ciertas herramientas de IA.

Por lo tanto, la misma etiqueta de «80% de IA» podría significar:

• El detector estima una probabilidad del 80% de que la IA haya generado el documento.
• El detector ha marcado el 80% de la prosa que evaluó.

Esos son hallazgos diferentes. Uno hace una predicción sobre el documento en su conjunto. El otro identifica cuánto del texto coincidió con los criterios del detector.

Las puntuaciones de probabilidad necesitan otra comprobación: la calibración. Si un detector otorga a 100 documentos una probabilidad de IA de alrededor del 80%, aproximadamente 80 de ellos deberían ser realmente generados por IA para que la puntuación esté bien calibrada. Probar el modelo frente a ejemplos con orígenes conocidos muestra qué tan de cerca coinciden sus probabilidades con los resultados reales.

Un porcentaje puede parecer exacto antes de que su significado o confiabilidad estén claros. La etiqueta, el método de puntuación y el rendimiento del detector determinan lo que el número puede respaldar.

Ampliar

El límite determina qué es lo que se marca

Un detector todavía tiene que decidir cuándo una puntuación es lo suficientemente alta como para tomar medidas. Esa línea divisoria se llama límite o umbral.

Supongamos que una herramienta califica el texto de 0 a 100 y marca cualquier valor superior a 70. Mover el límite a 60 dejaría todas las puntuaciones sin cambios al tiempo que aumentaría el número de documentos marcados.

• Un límite más bajo generalmente detecta más escritura generada por IA, pero también marca más escritura humana de manera incorrecta.
• Un límite más alto reduce las marcas incorrectas, al tiempo que permite que más texto generado por IA pase desapercibido. Esta compensación se aplica a los sistemas de clasificación en general.

Los dos errores posibles tienen nombres diferentes.

• Un falso positivo ocurre cuando la escritura humana se marca como generada por IA.
• Un falso negativo ocurre cuando la escritura generada por IA pasa desapercibida.

Dónde traza la línea un detector refleja qué error está diseñado para evitar. Esa elección tiene más peso cuando una marca podría afectar una calificación, un empleo o la credibilidad de alguien.

Cómo una tasa de error del 2% puede producir casi un 30% de marcas incorrectas

El impacto de una tasa de falsos positivos del 2% depende de la cantidad de texto escrito por humanos que revise el detector.

Considere un conjunto hipotético de 1,000 artículos:

• 50 son generados por IA.
• 950 están escritos por humanos.
• El detector captura el 90% de los artículos generados por IA.
• Marca incorrectamente el 2% de los artículos escritos por humanos.

Esto es lo que sucede:

El detector marca 64 artículos en total. Diecinueve están escritos por humanos, por lo que casi el 30% de sus marcas son incorrectas.

Las cifras del 2% y del 30% miden cosas distintas. El detector marca incorrectamente el 2% de todos los artículos escritos por humanos. Esos errores constituyen casi el 30% de todo lo que marca.

Los números se acumulan de esta manera porque el detector revisó muchos más artículos escritos por humanos que generados por IA. Incluso una tasa de error pequeña puede producir un número significativo de marcas incorrectas cuando se aplica a un grupo mucho mayor.

El término tasa base describe qué tan común es la escritura generada por IA en el material que se está revisando. A medida que cambia esa proporción, también lo hace el significado de un resultado positivo. Si las tasas de verdaderos positivos y falsos positivos del detector siguen siendo las mismas, una marca generalmente será más confiable cuando la escritura generada por IA sea común en la colección y menos confiable cuando sea escasa.

Estos números son hipotéticos y no describen a un detector en particular. En una revisión real, la proporción de escritura generada por IA suele ser desconocida. Esa incertidumbre es otra razón para tratar una marca como una razón para mirar más de cerca, en lugar de una prueba de cómo se escribió un documento.

La precisión depende de aquello en lo que se probó el detector

Una tasa de precisión describe el rendimiento bajo un conjunto particular de condiciones. Antes de aplicar esa tasa a otro escrito, verifique:

• La versión del detector
• La longitud, el idioma, el tema y el formato del texto
• El modelo de IA y la configuración utilizados para generar el material de prueba
• Si el texto fue editado o modificado deliberadamente
• Los escritores representados en las muestras escritas por humanos

Comience con las entradas compatibles de la herramienta

Turnitin, por ejemplo, requiere al menos 300 palabras de prosa de formato largo. Afirma que su modelo no detecta de manera confiable poesía, guiones, código u otros formatos que no sean prosa generados por IA. Por lo tanto, un alto rendimiento en ensayos nos dice poco sobre cómo el mismo detector manejará un poema o un correo electrónico corto.

Compare la prueba con la escritura del mundo real

En 2024, los investigadores probaron 12 detectores utilizando RAID, un punto de referencia (benchmark) que contiene más de 6 millones de pasajes generados por IA en 11 modelos y ocho áreas temáticas. El rendimiento disminuyó cuando los detectores encontraron modelos desconocidos, diferentes configuraciones de generación o texto modificado deliberadamente.

Un desafío de 2025 que utilizó RAID produjo mejores resultados en condiciones más familiares. Varios participantes detectaron más del 99% del texto generado por máquinas manteniendo una tasa de falsos positivos del 5%. Las áreas temáticas y los modelos de IA utilizados en la prueba también estaban representados en los datos de entrenamiento.

En conjunto, los resultados muestran que los detectores pueden tener un buen desempeño en material variado que fueron entrenados para reconocer, mientras que el material desconocido sigue siendo más difícil de evaluar.

Mire quién estuvo representado

En un estudio de 2023, siete detectores clasificaron incorrectamente un promedio del 61.3% de 91 ensayos del TOEFL escritos por hablantes no nativos de inglés como generados por IA. Ese resultado se aplica a las herramientas y muestras probadas en ese momento. También muestra por qué una tasa de precisión general puede no describir el desempeño de manera equitativa para todos los grupos de escritores.

Cómo interpretar una afirmación de precisión: Cuanto más se asemeje el texto enviado al material utilizado en la prueba, más relevante se vuelve el resultado informado.

El documento final muestra solo una parte de cómo se escribió

La IA puede desempeñar muchos roles en el proceso de escritura. Alguien podría usarla para investigar un tema, organizar notas, traducir un pasaje, pulir una oración o producir un primer borrador.

Esos flujos de trabajo pueden dar lugar a documentos muy diferentes. Un escritor puede usar la IA para investigar y redactar cada oración de forma independiente. Otro puede reescribir sustancialmente un borrador generado por IA. Un tercero puede agregar un párrafo generado a un artículo por lo demás escrito por un humano.

Un detector de texto ve las palabras que se enviaron. No tiene acceso a los mensajes de texto (prompts), ediciones o decisiones que las precedieron. Su puntuación no puede reconstruir el proceso de escritura completo ni determinar si el autor siguió una política en particular. Por ejemplo,

• Una escuela puede permitir la lluvia de ideas (brainstorming) y al mismo tiempo exigir que los estudiantes escriban la tarea por sí mismos.
• Un editor puede permitir la edición asistida por IA cuando se revela.
• A un lugar de trabajo le puede importar más la precisión de los hechos, la confidencialidad o la atribución de fuentes que si la IA contribuyó a la redacción.

Aplicar esas reglas requiere evidencia sobre el proceso, así como sobre el texto terminado. El historial de borradores, las notas de investigación y la explicación de un escritor pueden proporcionar un contexto que un detector no puede. Turnitin aconseja explícitamente a los educadores que no utilicen su puntuación de escritura de IA como la única base para tomar medidas desfavorables contra un estudiante.

Un detector puede identificar lenguaje que se asemeja a los patrones que asocia con la IA. Decidir qué sucedió y si estaba permitido requiere una revisión más amplia.

Las marcas de agua añaden un tipo diferente de señal

Algunos sistemas de IA pueden agregar un patrón detectable a medida que generan texto. Este proceso se llama inserción de marcas de agua (watermarking).

Cómo funciona una marca de agua en el texto

SynthID de Google DeepMind ofrece un ejemplo:

1. El sistema ajusta las probabilidades de los tokens. Cambia ligeramente la probabilidad de que el modelo seleccione ciertas palabras o partes de palabras.
2. Esas elecciones crean un patrón. La marca de agua está diseñada para permanecer invisible para el lector.
3. Un detector compatible lo comprueba. El detector analiza el texto en busca de la señal estadística esperada.

Debido a que el patrón se agrega durante la generación, puede proporcionar información vinculada al sistema que produjo el texto.

Qué limita la detección de marcas de agua (watermarks)

• El generador debe agregarlo. El sistema de IA necesita admitir y aplicar la marca de agua (watermark). La ausencia de una marca de agua no establece que una persona haya escrito el texto.
• Debe permanecer suficiente parte del patrón. Google informa que SynthID puede soportar cierto recorte, cambios de palabras y un ligero parafraseo. Una reescritura o traducción extensas pueden reducir su nivel de confianza.

Las marcas de agua pueden fortalecer la evidencia cuando un sistema compatible generó el texto y queda suficiente parte de la señal. No pueden identificar cada fragmento de escritura generada por IA.

Otros registros pueden completar el panorama

• El historial de borradores muestra cómo cambió un documento con el tiempo.
• Las notas de investigación vinculan sus afirmaciones con las fuentes.
• Las interacciones reveladas con IA muestran dónde contribuyó una herramienta.

Estos registros proporcionan un contexto más directo sobre el proceso de escritura que una puntuación basada en patrones por sí sola.

Tratar una marca como el inicio de una revisión

El resultado de un detector se vuelve más útil cuando tiene un papel definido. Antes de actuar en función de una marca, los revisores deben comprender qué midió la herramienta, confirmar v que el texto se encuentre dentro de su alcance y examinar la otra evidencia disponible.

Cinco comprobaciones pueden ayudar:

1. Lea la definición de la puntuación. Determine si el porcentaje representa una probabilidad a nivel de documento o la proporción de texto marcado.
2. Compruebe el alcance de la herramienta. Confirme que el idioma, la longitud y el formato del documento coincidan con lo que admite el detector.
3. Revise la evidencia. Examine los pasajes resaltados junto con los borradores, las notas de origen y la explicación del autor.
4. Aplique la política pertinente. Identifique qué usos de la IA están permitidos y qué evidencia demostraría una infracción.
5. Evalúe el trabajo por sí mismo. Revise la precisión de los hechos, la atribución de fuentes, la originalidad y la calidad bajo sus propios méritos.

Lo que está en juego debe determinar la profundidad de la revisión. Un editor puede usar una marca para decidir qué artículo necesita otra mirada. Una decisión que afecte una calificación, un empleo o un acuerdo de publicación requiere evidencia más sólida y la oportunidad de que el autor explique su proceso.

Un detector de IA comprime un juicio complejo en una puntuación. Interpretar esa puntuación requiere información que el número no contiene: qué midió la herramienta, qué umbral utilizó, cómo se desempeñó en escritos comparables y qué tan común es el texto generado por IA en el material que se está revisando. La puntuación puede dirigir la atención. La puntuación de un detector puede contribuir a esa revisión, pero cualquier conclusión sobre la autoría también requiere evidencia sobre el proceso de escritura.

Preguntas frecuentes

¿Pueden equivocarse los detectores de IA?

Sí. Un falso positivo ocurre cuando un detector marca texto escrito por humanos como generado por IA. Un falso negativo ocurre cuando el texto generado por IA pasa desapercibido. La frecuencia de cada error depende del detector, su umbral y el grado en que el texto enviado se asemeje al material utilizado para probarlo.

¿Qué tan precisos son los detectores de IA?

No existe una tasa de precisión única para los detectores de IA. El rendimiento puede variar según el idioma, la longitud, el tema, el estilo de escritura, el modelo generador y la cantidad de edición. Una afirmación de precisión es más útil cuando las condiciones de prueba se asemejan a la escritura que se está revisando y el resultado informa tanto los falsos positivos como las detecciones exitosas.

¿Qué significa un porcentaje de detección de IA?

La definición depende de la herramienta. Puede representar la probabilidad estimada de que un documento sea generado por IA, el porcentaje de texto calificativo marcado o una forma de confianza en el resultado. La documentación del detector debe explicar qué medida informa.

¿Puede un detector de IA demostrar que alguien usó IA?

La puntuación de un detector por sí sola no puede demostrar cómo se creó un documento. Analiza el texto enviado sin ver los mensajes de texto (prompts), borradores, ediciones o investigaciones detrás de él. Una revisión confiable considera la puntuación junto con la evidencia del proceso y la política que rige el uso aceptable de la IA.

¿Por qué la escritura humana a veces se marca como IA?

La escritura humana y la generada por IA pueden compartir los mismos patrones estadísticos. El lenguaje formulaico, las frases predecibles, el vocabulario limitado o un estilo que difiere de los datos de entrenamiento del detector pueden contribuir a un falso positivo. La investigación también ha descubierto que algunos detectores probados en 2023 marcaron de manera desproporcionada ensayos escritos por hablantes no nativos de inglés.