Qué sucedió: un nuevo método podría ayudarnos a detectar textos generados por IA. La marca de agua entierra patrones ocultos en el texto que son invisibles para el ojo humano, pero permite que las computadoras detecten que el texto probablemente proviene de un sistema de inteligencia artificial o de un ser humano.
Por qué es importante: ChatGPT es uno de una nueva generación de modelos de lenguaje grande que generan texto fluido que se lee como si lo hubiera escrito un ser humano. Estos modelos de IA regurgitan hechos con confianza, pero son conocidos por arrojar falsedades, lo que hace que sea preocupante que ya se estén adoptando para todo, desde ensayos hasta planes de entrenamiento . Para el ojo inexperto, es casi imposible detectar si un pasaje está escrito por un modelo de IA o por un ser humano.
¿Y funciona? En estudios, estas marcas de agua ya han demostrado que pueden identificar texto generado por IA con casi certeza. Si están incrustados en modelos de lenguaje grandes, podrían ayudar a prevenir algunos de los problemas que estos modelos ya han causado.