OpenAI acusa a Moonshot AI de un ataque de destilación

OpenAI ha levantado la voz sobre un ataque de destilación que, según sus afirmaciones, comenzó el 1 de julio. Este ataque, que involucra a individuos asociados con la empresa china Moonshot AI, se centra en la extracción de los razonamientos de los modelos de OpenAI para facilitar la creación de modelos competidores. La preocupación de OpenAI radica en que este tipo de técnicas pueden permitir a los rivales desarrollar capacidades similares sin las salvaguardias que ellos han implementado.

Por qué importa

La acusación de OpenAI resuena en un contexto más amplio de competencia entre empresas de inteligencia artificial en Estados Unidos y China. Si Moonshot AI efectivamente ha logrado reproducir capacidades de OpenAI mediante este ataque, podría cambiar la dinámica del mercado, permitiendo a competidores ofrecer modelos potentes a un ritmo acelerado y sin las mismas limitaciones éticas.

Lo que sabemos

OpenAI ha denunciado públicamente que ha detectado y, en cierta medida, interrumpido este ataque de destilación. Las empresas de tecnología y los gobiernos de EE. UU. han mostrado preocupación por las capacidades de los rivales chinos, y OpenAI se une a esa narrativa al señalar el uso de técnicas adversarias por parte de Moonshot AI para replicar sus modelos.

Lo que aún no está claro

Aún no se han proporcionado detalles específicos sobre cómo OpenAI identificó y detuvo el ataque, ni qué medidas se están tomando para proteger sus modelos en el futuro. Además, la respuesta de Moonshot AI a estas acusaciones no ha sido divulgada, lo que deja abiertas muchas preguntas sobre la veracidad de las afirmaciones de OpenAI.