Cómo funcionan los detectores de IA y por qué una puntuación no basta

Pegue un ensayo, un artículo o un correo electrónico en un detector de IA y, unos segundos después, este puede devolver un resultado como «85 % de IA».

Parece preciso. Pero también puede ser fácil malinterpretarlo.

El detector no observó cómo se escribió el documento. Analizó el texto final en busca de patrones asociados con la escritura generada por IA. Dependiendo de la herramienta, ese 85 % podría representar la probabilidad estimada de que la IA haya producido el documento o la proporción del texto que marcó el detector.

Eso hace que un detector de IA sea útil como señal, especialmente cuando algo necesita una mirada más cercana. Pero la puntuación aún necesita contexto y pruebas de respaldo antes de que nadie llegue a una conclusión sobre quién escribió el texto o cómo lo creó. Comprender cómo los detectores producen sus puntuaciones ayuda a explicar tanto lo que pueden detectar como por qué a veces se equivocan.

¿Qué es un detector de IA?

Un detector de escritura de IA analiza un texto final y estima si se parece a la escritura producida por un modelo de lenguaje. Por lo general, el usuario pega el texto o sube un documento. En cuestión de segundos, la herramienta puede devolver una etiqueta, un porcentaje, pasajes resaltados o los tres.

• Los profesores y las instituciones académicas los utilizan al revisar el trabajo de los estudiantes.
• Los editores y los equipos de contenido pueden utilizarlos para filtrar la escritura enviada o encargada, mientras que algunas empresas de detectores comercializan versiones para equipos de contratación que revisan los materiales de solicitud.
• A veces, los escritores también comprueban su propio trabajo para comprender cómo podría clasificarlo un profesor, editor, cliente o plataforma.

Nota: Los detectores de plagio cumplen un propósito relacionado pero independiente. Comparan un documento con material publicado y otras fuentes para encontrar lenguaje coincidente. Los detectores de IA evalúan los patrones en la escritura enviada. Por lo tanto, un pasaje completamente original puede recibir una marca de IA, mientras que la escritura humana copiada puede no contener ninguna señal fuerte de generación por IA.

Cómo analizan el texto los detectores de IA

Muchos detectores de IA se basan en un clasificador, un modelo de aprendizaje automático entrenado con ejemplos de escritura humana y generada por IA. A medida que compara ambos, aprende qué patrones tienden a aparecer en cada uno, incluidos los patrones en la elección de palabras y la estructura de las frases. A continuación, busca esos patrones en el nuevo texto y produce una predicción.

Lo que aprende el detector depende de lo que ve durante el entrenamiento. Una herramienta entrenada en un rango limitado de escritura puede tener dificultades con un nuevo tema, un estilo desconocido o la producción de un modelo de IA con el que no se haya encontrado antes. La investigación en diferentes tipos de texto y modelos de IA ha descubierto que el rendimiento de la detección puede disminuir en esas condiciones.

Algunos métodos adoptan un enfoque diferente. En lugar de entrenar un clasificador separado, utilizan las propias estimaciones de probabilidad de un modelo de lenguaje para juzgar cuán probable sería que produjera un pasaje.

• DetectGPT, por ejemplo, compara el texto original con versiones ligeramente alteradas para buscar patrones asociados con la generación por IA. Su investigación describe esto como un método de «aprendizaje de tiro cero» (zero-shot) porque no requiere un detector entrenado por separado. El resultado puede incluir una puntuación general, frases resaltadas o ambas cosas.
• GPTZero afirma que sus resaltados muestran qué frases tienen mayor influencia en su predicción general. Debido a que también evalúa el documento en un sentido más amplio, un pasaje escaneado por sí solo puede no recibir el mismo resultado cuando aparece como parte de un texto más largo.

Cada resultado refleja tanto el texto como el sistema que lo evalúa, razón por la cual diferentes detectores pueden llegar a conclusiones diferentes sobre el mismo pasaje.

Ampliar

Qué miden la perplejidad y la ráfaga (burstiness)

La perplejidad y la ráfaga (burstiness) surgen a menudo en las explicaciones sobre la detección de IA. Pueden revelar patrones útiles en un escrito, pero ninguno apunta a una única manera de escribir exclusiva de la IA.

Un detalle potencialmente confuso: la perplejidad cumple una doble función aquí. En minúsculas, es una medida estadística. Con P mayúscula, somos nosotros.

La perplejidad mide qué tan predecible es el texto

Los modelos de lenguaje generan texto asignando probabilidades a los siguientes tokens posibles, que pueden ser palabras completas o partes de palabras. La perplejidad mide qué tan bien puede predecir un modelo los tokens en un pasaje.

• Menor perplejidad: El texto sigue patrones que el modelo considera familiares.
• Mayor perplejidad: La redacción es menos esperada.

La puntuación es específica del modelo que realiza la evaluación y de la forma en que se procesa el texto, por lo que un mismo pasaje puede recibir diferentes puntuaciones de perplejidad bajo diferentes configuraciones.

Tomemos la frase: «Por favor, háznos saber si tienes alguna pregunta». Es probable que un modelo de lenguaje se haya encontrado con una redacción similar muchas veces, lo que hace que cada palabra sea relativamente fácil de predecir. Eso nos dice algo sobre la familiaridad de la frase. No dice nada concluyente sobre quién la escribió.

La ráfaga (burstiness) mide cuánto varían esos patrones

La ráfaga (burstiness) se utiliza de forma más flexible en los debates sobre la detección de IA. Por lo general, describe cuánto cambia la escritura a lo largo de un pasaje. Esto puede incluir variaciones en la longitud y la estructura de las frases, o cambios entre un lenguaje muy predecible y otro más sorprendente.

• Menor ráfaga (burstiness): Las frases siguen una longitud, estructura o ritmo más consistentes.
• Mayor ráfaga (burstiness): La escritura se desplaza entre afirmaciones más cortas, explicaciones más largas y una fraseología menos esperada.

Parte del texto generado por IA es consistente y predecible, razón por la cual la ráfaga (burstiness) se asoció con la detección. La escritura humana puede tener las mismas cualidades, especialmente en contextos empresariales, académicos y técnicos. Los modelos de IA también pueden producir un lenguaje más variado cuando se les solicita o edita para hacerlo.

GPTZero afirma que la perplejidad y la ráfaga (burstiness) fueron dos de varias características utilizadas por una versión anterior de su detector.

Qué muestran estas medidas: La perplejidad y la ráfaga (burstiness) describen patrones en un pasaje. Esos patrones pueden ayudar a explicar por qué se marcó un texto, pero no pueden establecer quién lo escribió.

Qué significa la puntuación de un detector de IA

Un resultado de «80 % de IA» parece directo. Su significado depende del detector.

GPTZero describe el porcentaje como la probabilidad estimada de su modelo de que la IA o un humano hayan escrito el documento. Turnitin utiliza el porcentaje para mostrar qué parte de la prosa elegible marca su modelo como potencialmente generada por IA o modificada con ciertas herramientas de IA.

Por lo tanto, la misma etiqueta de «80 % de IA» podría significar:

• El detector estima que hay un 80 % de probabilidad de que la IA haya generado el documento.
• El detector ha marcado el 80 % de la prosa que evaluó.

Esos son hallazgos diferentes. Uno hace una predicción sobre el documento en su conjunto. El otro identifica qué parte del texto coincide con los criterios del detector.

Las puntuaciones de probabilidad necesitan otra comprobación: la calibración. Si un detector otorga a 100 documentos una probabilidad de IA de alrededor del 80 %, aproximadamente 80 de ellos deberían ser realmente generados por IA para que la puntuación esté bien calibrada. Probar el modelo frente a ejemplos con orígenes conocidos muestra qué tan de cerca coinciden sus probabilidades con los resultados reales.

Un porcentaje puede parecer exacto antes de que su significado o fiabilidad estén claros. La etiqueta, el método de puntuación y el rendimiento del detector determinan lo que el número puede respaldar.

Ampliar

El límite determina qué se marca

Un detector todavía tiene que decidir cuándo una puntuación es lo suficientemente alta como para actuar. Esa línea divisoria se llama límite o umbral.

Supongamos que una herramienta califica el texto del 0 al 100 y marca cualquier valor superior a 70. Mover el límite a 60 dejaría cada puntuación sin cambios al tiempo que aumentaría el número de documentos marcados.

• Un límite inferior generalmente detecta más escritura generada por IA, pero también marca más escritura humana de manera incorrecta.
• Un límite superior reduce las marcas incorrectas, al tiempo que permite que una mayor cantidad de escritura generada por IA pase desapercibida. Este equilibrio se aplica a los sistemas de clasificación en general.

Los dos errores posibles tienen nombres diferentes.

• Un falso positivo ocurre cuando la escritura humana se marca como generada por IA.
• Un falso negativo ocurre cuando la escritura generada por IA pasa desapercibida.

El lugar donde un detector traza la línea refleja qué error está diseñado para evitar. Esa elección cobra más peso cuando una marca podría afectar a una calificación, un empleo o la credibilidad de alguien.

Cómo una tasa de error del 2 % puede producir casi un 30 % de marcas incorrectas

El impacto de una tasa de falsos positivos del 2 % depende de cuánta escritura humana revise el detector.

Considere un conjunto hipotético de 1000 artículos:

• 50 son generados por IA.
• 950 están escritos por humanos.
• El detector capta el 90 % de los artículos generados por IA.
• Marca incorrectamente el 2 % de los artículos escritos por humanos.

Esto es lo que ocurre:

El detector marca 64 artículos en total. Diecinueve están escritos por humanos, por lo que casi el 30 % de sus marcas son erróneas.

Las cifras del 2 % y del 30 % miden cosas diferentes. El detector marca incorrectamente el 2 % de todos los artículos escritos por humanos. Esos errores representan casi el 30 % de todo lo que marca.

Los números suman de esta manera porque el detector revisó muchos más artículos escritos por humanos que generados por IA. Incluso una tasa de error pequeña puede producir un número significativo de marcas incorrectas cuando se aplica a un grupo mucho mayor.

El término tasa base describe qué tan común es la escritura generada por IA en el material que se está comprobando. A medida que cambia esa proporción, también lo hace el significado de un resultado positivo. Si las tasas de verdaderos positivos y falsos positivos del detector se mantienen iguales, una marca será generalmente más confiable cuando la escritura generada por IA sea común en la colección y menos confiable cuando sea escasa.

Estos números son hipotéticos y no describen un detector en particular. En una revisión real, la proporción de escritura generada por IA suele ser desconocida. Esa incertidumbre es otra razón para tratar una marca como una razón para mirar más de cerca, en lugar de como una prueba de cómo se escribió un documento.

La precisión depende de aquello en lo que se probó el detector

Una tasa de precisión describe el rendimiento bajo un conjunto particular de condiciones. Antes de aplicar esa tasa a otro escrito, compruebe:

• La versión del detector
• La longitud, el idioma, el tema y el formato del texto
• El modelo de IA y la configuración utilizados para generar el material de prueba
• Si el texto fue editado o modificado deliberadamente
• Los escritores representados en las muestras escritas por humanos

Comience con las entradas compatibles de la herramienta

Turnitin, por ejemplo, requiere al menos 300 palabras de prosa de formato largo. Afirma que su modelo no detecta de forma fiable poesía, guiones, código u otros formatos que no sean prosa generados por IA. Por lo tanto, un fuerte rendimiento en ensayos nos dice poco sobre cómo manejará el mismo detector un poema o un correo electrónico corto.

Compare la prueba con la escritura del mundo real

En 2024, los investigadores probaron 12 detectores utilizando RAID, una prueba de rendimiento (benchmark) que contiene más de 6 millones de pasajes generados por IA en 11 modelos y ocho áreas temáticas. El rendimiento disminuyó cuando los detectores se encontraron con modelos desconocidos, diferentes configuraciones de generación o texto modificado deliberadamente.

Un desafío de 2025 que utilizó RAID produjo resultados más sólidos en condiciones más familiares. Varios participantes detectaron más del 99 % del texto generado por máquinas mientras mantenían una tasa de falsos positivos del 5 %. Las áreas temáticas y los modelos de IA utilizados en la prueba también estaban representados en los datos de entrenamiento.

En conjunto, los resultados muestran que los detectores pueden funcionar bien en material variado que fueron entrenados para reconocer, mientras que el material desconocido sigue siendo más difícil de evaluar.

Observe quién estaba representado

En un estudio de 2023, siete detectores clasificaron incorrectamente un promedio del 61,3 % de 91 ensayos del TOEFL escritos por hablantes no nativos de inglés como generados por IA. Ese resultado se aplica a las herramientas y muestras probadas en ese momento. También muestra por qué una tasa de precisión general puede no describir el rendimiento de igual manera para todos los grupos de escritores.

Cómo interpretar una afirmación de precisión: Cuanto más se parezca el texto enviado al material utilizado en las pruebas, más relevante será el resultado informado.

El documento final muestra solo una parte de cómo fue escrito

La IA puede desempeñar muchos papeles en el proceso de escritura. Alguien podría usarla para investigar un tema, organizar notas, traducir un pasaje, pulir una frase o producir un primer borrador.

Esos flujos de trabajo pueden dar lugar a documentos muy diferentes. Un escritor puede usar la IA para investigar y redactar cada frase de forma independiente. Otro puede reescribir sustancialmente un borrador generado por IA. Un tercero puede añadir un párrafo generado a un artículo por lo demás escrito por un humano.

Un detector de textos ve las palabras que se enviaron. No tiene acceso a las indicaciones, ediciones o decisiones que las precedieron. Su puntuación no puede reconstruir todo el proceso de escritura ni determinar si el autor siguió una política particular. Por ejemplo,

• Una escuela puede permitir la lluvia de ideas mientras exige que los estudiantes escriban la tarea por sí mismos.
• Un editor puede permitir la edición asistida por IA cuando se divulga.
• A un lugar de trabajo le puede importar más la precisión de los hechos, la confidencialidad o la atribución de fuentes que si la IA contribuyó a la redacción.

La aplicación de esas reglas requiere pruebas sobre el proceso, así como sobre el texto final. El historial de borradores, las notas de investigación y la explicación de un escritor pueden proporcionar un contexto que un detector no puede. Turnitin aconseja explícitamente a los educadores que no utilicen su puntuación de escritura de IA como única base para tomar medidas desfavorables contra un estudiante.

Un detector puede identificar un lenguaje que se asemeja a los patrones que asocia con la IA. Decidir qué sucedió y si estaba permitido requiere una revisión más amplia.

Las marcas de agua añaden un tipo diferente de señal

Algunos sistemas de IA pueden añadir un patrón detectable a medida que generan texto. Este proceso se llama inserción de marcas de agua (watermarking).

Cómo funciona una marca de agua de texto

SynthID de Google DeepMind ofrece un ejemplo:

1. El sistema ajusta las probabilidades de los tokens. Cambia ligeramente la probabilidad de que el modelo seleccione ciertas palabras o partes de palabras.
2. Esas elecciones crean un patrón. La marca de agua está diseñada para permanecer invisible para el lector.
3. Un detector compatible lo comprueba. El detector analiza el texto en busca de la señal estadística esperada.

Debido a que el patrón se añade durante la generación, puede proporcionar información vinculada al sistema que produjo el texto.

Qué limita la detección de marcas de agua

• El generador debe añadirla. El sistema de IA necesita admitir y aplicar la marca de agua (watermark). La ausencia de una marca de agua no establece que una persona haya escrito el texto.
• Debe quedar suficiente parte del patrón. Google informa que SynthID puede soportar cierto recorte, cambios de palabras y un ligero parafraseo. Una reescritura o traducción extensas pueden reducir su confianza.

Las marcas de agua pueden reforzar las pruebas cuando un sistema compatible ha generado el texto y queda suficiente parte de la señal. No pueden identificar todos los textos escritos por IA.

Otros registros pueden completar el panorama

• El historial de borradores muestra cómo cambió un documento a lo largo del tiempo.
• Las notas de investigación conectan sus afirmaciones con las fuentes.
• Las interacciones con IA divulgadas muestran dónde contribuyó una herramienta.

Estos registros proporcionan un contexto más directo sobre el proceso de escritura que una puntuación basada en patrones por sí sola.

Trate una marca como el inicio de una revisión

El resultado de un detector se vuelve más útil cuando tiene un papel definido. Antes de actuar basándose en una marca, los revisores deben comprender qué midió la herramienta, confirmar que el texto se encuentra dentro de su ámbito y examinar las demás pruebas disponibles.

Cinco comprobaciones pueden ayudar:

1. Lea la definición de la puntuación. Determine si el porcentaje representa una probabilidad a nivel de documento o la proporción de texto marcado.
2. Compruebe el ámbito de la herramienta. Confirme que el idioma, la longitud y el formato del documento coinciden con lo que admite el detector.
3. Revise las pruebas. Examine los pasajes resaltados junto con los borradores, las notas de las fuentes y la explicación del autor.
4. Aplique la política pertinente. Identifique qué usos de la IA están permitidos y qué pruebas demostrarían una infracción.
5. Evalúe el trabajo en sí mismo. Revise la precisión de los hechos, la atribución de fuentes, la originalidad y la calidad por derecho propio.

Lo que está en juego debe determinar la profundidad de la revisión. Un editor puede usar una marca para decidir qué artículo necesita otra revisión. Una decisión que afecte a una calificación, un empleo o un acuerdo de publicación exige pruebas más sólidas y una oportunidad para que el autor explique su proceso.

Un detector de IA comprime un juicio complejo en una puntuación. La interpretación de esa puntuación requiere información que el número no contiene: qué midió la herramienta, qué umbral utilizó, cómo se desempeñó en textos comparables y qué tan común es el texto generado por IA en el material que se está revisando. La puntuación puede orientar la atención. La puntuación de un detector puede contribuir a dicha revisión, pero cualquier conclusión sobre la autoría también requiere pruebas sobre el proceso de escritura.

Preguntas frecuentes

¿Pueden equivocarse los detectores de IA?

Sí. Un falso positivo ocurre cuando un detector marca un texto escrito por humanos como generado por IA. Un falso negativo ocurre cuando un texto generado por IA pasa desapercibido. La frecuencia de cada error depende del detector, de su umbral y de cuánto se parezca el texto enviado al material utilizado para probarlo.

¿Qué tan precisos son los detectores de IA?

No existe una tasa de precisión única para los detectores de IA. El rendimiento puede variar según el idioma, la longitud, el tema, el estilo de escritura, el modelo generador y la cantidad de edición. Una afirmación de precisión es más útil cuando las condiciones de prueba se asemejan al texto que se está revisando y el resultado informa tanto de los falsos positivos como de las detecciones exitosas.

¿Qué significa un porcentaje de detección de IA?

La definición depende de la herramienta. Puede representar la probabilidad estimada de que un documento sea generado por IA, el porcentaje de texto calificado marcado o una forma de confianza en el resultado. La documentación del detector debe explicar qué medida informa.

¿Puede un detector de IA demostrar que alguien usó IA?

La puntuación de un detector por sí sola no puede demostrar cómo se creó un documento. Analiza el texto enviado sin ver las indicaciones (prompts), los borradores, las ediciones o la investigación que hay detrás. Una revisión confiable considera la puntuación junto con las pruebas del proceso y la política que rige el uso aceptable de la IA.

¿Por qué la escritura humana a veces es marcada como IA?

La escritura humana y la generada por IA pueden compartir los mismos patrones estadísticos. Un lenguaje formulario, una fraseología predecible, un vocabulario limitado o un estilo que difiera de los datos de entrenamiento del detector pueden contribuir a un falso positivo. Las investigaciones también han descubierto que algunos detectores probados en 2023 marcaron desproporcionadamente ensayos escritos por hablantes no nativos de inglés.