OpenAI anunció que incorporará marcas de agua invisibles en algunos textos generados por ChatGPT y Codex como parte de sus medidas para cumplir con la Ley de Inteligencia Artificial de la Unión Europea. La implementación comenzará durante las próximas semanas para usuarios elegibles de todos los planes dentro de la UE.
La tecnología, denominada textGrain, introduce una señal estadística imperceptible mediante las elecciones de palabras realizadas por el modelo. Posteriormente, un detector puede analizar esa señal para determinar si existe una marca de agua asociada a contenido generado por OpenAI.
La compañía reconoció que el sistema tiene limitaciones: puede producir falsos positivos o negativos, pierde efectividad con textos cortos y la señal puede debilitarse cuando el contenido es editado, reescrito o traducido. Por ello, inicialmente el detector estará disponible únicamente para investigadores y organizaciones expertas aprobadas.
Los clientes de la API también podrán activar voluntariamente estas marcas para determinados modelos, aunque estarán deshabilitadas por defecto. OpenAI aclaró que la herramienta busca identificar contenido generado por sus modelos, pero no determinar quién escribió originalmente el texto ni quién es su propietario.
TE PUEDE INTERESAR: Sheinbaum evalúa viaje a China para cumbre APEC
FFO
