OpenAI añadirá marcas de agua invisibles a los textos de ChatGPT en la UE para cumplir la Ley de IA
La marca de agua, llamada textGrain, oculta un patrón estadístico en la elección de palabras del modelo. Se desplegará para los usuarios de ChatGPT y Codex en la Unión Europea en las próximas semanas; los desarrolladores de la API de todo el mundo pueden activarla, pero está desactivada por defecto.
El anuncio: OpenAI dijo el lunes que empezará a añadir una marca de agua invisible a los textos generados por ChatGPT y Codex en la Unión Europea para cumplir la Ley de IA de la UE, informó TechCrunch. Las normas de transparencia de la ley, que entraron en vigor el 2 de agosto, exigen a las empresas de IA marcar el contenido generado por IA de forma que otros sistemas puedan identificarlo. El despliegue abarca a los usuarios elegibles de todos los planes solo en la UE; OpenAI dijo que no va a convertir la marca de agua en los textos en una opción predeterminada global.
Cómo funciona: No hay ningún símbolo visible. El sistema influye en las palabras que elige el modelo y deja un patrón que las personas no pueden ver, pero que un detector con una clave secreta sí puede encontrar, según un informe técnico de OpenAI escrito junto con investigadores de la Universidad de Pensilvania y Yale. Como la señal está en las propias palabras, sobrevive a copiar y pegar. OpenAI dijo que la marca de agua no identifica al usuario y que no observó cambios significativos en el rendimiento del modelo con ella activada.
Sus límites: La edición la debilita. En las pruebas de OpenAI, sustituir el 10 % de las palabras por sinónimos redujo la detección en pasajes de 400 tokens de alrededor del 92 % al 66 %, y reemplazar una cuarta parte de las palabras la llevó por debajo del 20 %, informó The Decoder. Los pasajes cortos, las respuestas matemáticas y los textos traducidos también son más difíciles de detectar. OpenAI advirtió de que la ausencia de marca de agua “no prueba la autoría humana”, y de que una marca detectada no dice nada sobre cuánta edición o criterio humano hubo en un pasaje.
Quién puede comprobarlo: Por ahora, el acceso al detector solo se concede a investigadores y organizaciones expertas aprobados, que OpenAI dijo que autorizará caso por caso. La herramienta solo indicará si se encontró una marca de agua de OpenAI, informó The Decoder.
Contexto: Anthropic dijo hace dos meses que aplicaría marcas de agua a los textos generados por Claude en todo el mundo, una medida que suscitó rechazo entre algunos usuarios, señaló TechCrunch. A diferencia del enfoque obligatorio de Anthropic, la marca de agua de la API de OpenAI es opcional, informó The Decoder.