OpenAI desactiva el acceso a internet durante el entrenamiento de modelos

OpenAI ha anunciado que no permitirá acceso a internet durante el entrenamiento de sus modelos de frontera. Esta decisión subraya la insuficiencia de las medidas de seguridad implementadas hasta ahora. La empresa mencionó en un comunicado que, basándose en el estado actual de la investigación sobre alineación y sistemas de monitoreo, considera que es responsable llevar a cabo el entrenamiento sin conexión a internet.

Esta política se implementa como respuesta a un informe de los socios de evaluación de seguridad METR y Redwood Research, que encontró que las medidas de seguridad y monitoreo de OpenAI durante el verano eran inadecuadas. Ante esto, la compañía ha afirmado que ha reforzado significativamente la seguridad de sus entornos de investigación y ha implementado nuevos controles en su infraestructura.

Por qué importa

La decisión de OpenAI de restringir el acceso a internet durante el entrenamiento de modelos es un reflejo de la creciente preocupación por la seguridad en el desarrollo de inteligencia artificial. Este movimiento no solo busca proteger la integridad de los modelos, sino que también resalta la necesidad de mejorar las medidas de seguridad en la industria de la IA.

Lo que sabemos

OpenAI ha afirmado que mantendrá esta política de acceso restringido hasta que se justifiquen avances en las salvaguardas de seguridad. Esto indica un compromiso de la empresa por priorizar la seguridad en sus procesos de desarrollo y entrenamiento de modelos.

Lo que aún no está claro

Aún no se ha confirmado cuándo se espera que se logren estos avances en las medidas de seguridad que permitirían un acceso más amplio a internet durante el entrenamiento. También queda por ver cómo esta política afectará el desarrollo de futuras aplicaciones de inteligencia artificial por parte de OpenAI.