Como antídoto contra la inteligencia artificial generativa, existe el detector de inteligencia artificial, que puede decirle si un contenido Fue creado por inteligencia artificial en mayor o menor medida.
De la ai de Boom, las herramientas como Gpzero, Writsonic, CopyLeaks o Sappeing fueron los Apoyo para maestros Y otros profesionales para evitar ser engañados.
Obviamente porque Use inteligencia artificial para escribir pruebas O los trabajos escritos es una tentación en la que muchos estudiantes o abogados han caído, algo que se considera directamente una trampa.
Loss Detectores de inteligencia artificial Son una necesidad y se usan tanto como el IA generativo en sí, lo que nos hace preguntar: ¿Qué tan confiables son realmente?
Muchos investigadores profesionales han estudiado esta pregunta, Prueba de las habilidades de los detectores de inteligencia artificialEntonces tenemos una respuesta concreta.
Si eres maestro o confía en tu Detector de IALamentamos decepcionarlo, porque este tipo de herramienta no es tan preciso como debería y, por supuesto, está lleno de errores.
La respuesta corta es que no, Un detector de inteligencia artificial no funciona. No es confiable respaldar ninguna decisión utilizando el resultado de su análisis, ya que existe la posibilidad de que proporcione falsos positivos en el detector.
Ahora, para comprender la razón de esto, es necesario saber Cómo funcionan los detectores de IA En este momento. Te lo explicaremos lo más simple posible.
La clave es comprender cómo funciona el detector para
Dado que el IA generativo tiene un método completo para ser exactamente el tipo de inteligencia que es, el Detector de IA Siga un esquema similar.
Mientras cuentan ARS TechnicaTodos los detectores buscan la misma receta, con el cambio ocasional para diferenciar: son Entrenado con millones de ejemplos de escrituraY con esto, pueden identificar ciertos patrones para determinar si el texto fue creado por una IA o por un ser humano.
Basado en esto, hay Técnicas utilizadas por la IA del detector Para hacer tu trabajo. Los dos principales son:
- Análisis de la perplejidad: Proporciona una medida de cuánto difiere un fragmento de texto del contenido utilizado por la IA para ser entrenado.
- El análisis «sin bolsas»: que evalúa la variabilidad en la dinámica del texto escrito, incluida la longitud de las oraciones, las estructuras del párrafo, etc.
Análisis de la perplejidad
La perplejidad proviene del momento en que la inteligencia artificial escribe un texto. Por supuesto, esto utilizará el contenido proporcionado Aprender a generar cosas similares.
Esto significa que si un texto es Deja los patrones habituales a su comprensiónTendrá una tasa de perplejidad más alta e indicará que el texto ha sido escrito por un ser humano.
Esto se basa en el caótico que una persona puede escribir, siguiendo su propio estilo, agregado a la tendencia de generar frases que generalmente no son demasiado comunesEspecialmente cuando está en un proceso creativo.
Lás frases predecibles y frecuentes En el discurso humano o la escritura, siempre se leerán como contenido generado por la inteligencia artificial, sin embargo, sabemos También pueden hacer genteSobre todo porque son textos formales en los que se requiere lenguaje técnico.
Para mostrar un botón: en el ejemplo de ARS Technica es evidente El IA confundió al escritor de la Constitución de los Estados Unidos Con un robot e incluso la Biblia.
Análisis sin bolsas
El «Buresass», por otro lado, se centra en aspectos más técnicos del texto para establecer si fue generado o no por la IA. Tu enfoque es apuntar Cuánto es variable el estilo de escritura que analiza.
Normalmente, la escritura de las personas es muy volátil y espontánea: podemos tener frases largas y cortas en el mismo párrafo. Más adjetivos en la primera oración y menos en el segundo.
Mientras Más variable es un textoEl detector de inteligencia artificial considera más «explosivo» y, por lo tanto, parecerá más humano.
Sin embargo, también sabemos Nuestra escritura no es solo de esta manera. Volviendo al tema del estilo técnico o formal, una persona puede escribir con un estilo coherente y perfectamente predecible.
La ciencia aún no era: muchos estudios revelan la falta de detectores de inteligencia artificial
Así como el Generativo Fue el centro de estudio de muchos académicos curiosos, también tienen muchos detectores de inteligencia artificial. Investigación científica Intentan determinar si son efectivos o no.
Por ejemplo, un Estudio publicado en el BMC En 2023, decidió La efectividad de los detectores de IA es variablesiendo un poco más preciso que otros. Ha habido una insencia general para determinar si las personas han generado un contenido o no, dando muchos falsos positivos.
Otro estudio de la Universidad de Cornell En 2023 Errores en la clasificación de detectores de inteligencia artificialAl igual que otros tipos de vulnerabilidad a nivel de código que podrían confundir estos programas y hacer que indiquen un texto realizado por los humanos cuando fueron generados por la inteligencia artificial.
El panorama es aún más preocupante cuando se trata Contenido hecho en idiomas distintos del inglés. Esto es lo que indica Este estudio de 2023, en el que los investigadores sintieron el detector de OpenII contra los textos hechos por escritores ingleses y otras nacionalidades. Al final, concluyeron que con los escritores no nativos había un mayor margen de error.
En breve…
Todavía hay mucho trabajo de antemano para los detectores de inteligencia artificial. Actualmente, está claro que No son confiables. Y aunque intentan llevarse bien con el progreso de la inteligencia artificial, continúan presentando un margen de error que cuesta la nota o la reputación a un estudiante/académico por haber pensado mal, cuando su trabajo era realmente legítimo.
Y, si pensamos un poco fuera de la caja, al final, El contenido utilizado por una inteligencia artificial para ser entrenado fue hecho por humanos. Es imposible que no haya rasgos confundidos con lo que crea una inteligencia generativa artificial que una persona puede generar, especialmente en las áreas donde prevalece el técnico.
¿Qué puedes hacer para no confiar en la IA del detector?
Antes de un mundo que progresa y no será el mismo después del IA, el Técnicas de evaluadores Para verificar que sus alumnos realmente hayan aprendido lo que enseñan, deben ser obligatorios.
Sí mismo MITY en su lugar, recomienda varios Estrategias para maestros Para evitar accidentes en los que dañen a sus alumnos o los benefician durante la trampa.
Lo que muchos piensan es Métodos clásicos Como exámenes escritos en tiempo real, pruebas orales o tareas escritas en el aula, pero el instituto sugiere que estos son métodos estresantes y que limitan la capacidad del estudiante real.
En cambio, sugieren:
- Ayuda entender mejor cómo hacer un trabajo de acuerdo con las habilidades de uno.
- Dar más flexibilidad a los estudiantespara que incluyan sus intereses y su estilo de hacer cosas en cualquier tarea o trabajo.
- Profundizar la comprensión e Invita tu reflejo Para garantizar la comprensión.
- Usar Casos o ejemplos de la vida real Esto motiva al estudiante a pasar la prueba con sus propias habilidades para medirse de manera realista.
También el MIT Desalienta las prácticas que incluyen satanizar el uso de la IADebido a que es mejor concentrarse en lo que es realmente: una herramienta que debe usarse responsable y la que tiene su ayuda, es posible mejorar la comprensión y el aprendizaje de la clase.
