OpenAI implementa marcas de agua débiles en textos generados

OpenAI ha comenzado a ofrecer a sus clientes de API la opción de aplicar marcas de agua a la salida de ciertos modelos, como parte de su esfuerzo por alinearse con la normativa del AI Act de Europa. En las próximas semanas, la compañía implementará un tipo de marca de agua digital en los textos generados por ChatGPT y Codex dentro de la Unión Europea. A diferencia de su competidor Anthropic, OpenAI no aplicará esta técnica a contenido generado fuera de Europa, aunque los usuarios de la API podrán optar por incluir estas marcas en textos de cualquier ubicación.

## Por qué importa La introducción de marcas de agua en los textos generados por IA es un paso significativo hacia la regulación del uso de inteligencia artificial en Europa. Esto no solo busca mejorar la transparencia, sino que también plantea preguntas sobre la efectividad de estas marcas en la identificación de contenido generado por IA.

## Lo que sabemos La marca de agua de OpenAI está diseñada para cumplir con los requisitos del AI Act, que demanda que los proveedores de servicios de IA generativa identifiquen su contenido de manera que sea legible por máquinas. Sin embargo, la tecnología utilizada por OpenAI presenta limitaciones, ya que puede pasar por alto una cantidad considerable de textos generados por IA y es susceptible a ser engañada.

## Lo que aún no está claro Aún no se ha confirmado cuán efectiva será esta solución en la práctica, especialmente dado que OpenAI solo aplicará el sistema de marcas de agua en Europa y dejará a los clientes de la API la decisión de aplicarlo globalmente. Esto plantea dudas sobre la consistencia y la fiabilidad de la identificación de textos generados por IA en diferentes contextos.