Florida busca frenar el desarrollo de OpenAI por riesgos
Florida solicita una orden judicial para detener el desarrollo de OpenAI, citando preocupaciones de seguridad pública. La demanda original se presentó en junio y ahora se amplía tras incidentes recientes.
El estado de Florida ha presentado una solicitud para obtener una orden judicial temporal que detenga el desarrollo de OpenAI-iyft3h), argumentando que el producto que esta empresa desarrolla es "irresponsable y presenta riesgos inaceptables". Esta acción legal es parte de una demanda civil que Florida interpuso en junio, en la que se alegaba que ChatGPT representaba una amenaza para la seguridad pública, especialmente para poblaciones vulnerables como niños y adultos violentos o delirantes.
La situación ha tomado un nuevo giro tras el incidente de hackeo de Hugging Face y las advertencias sobre riesgos catastróficos de desalineación que han llevado a un llamado general en la industria para frenar el desarrollo de modelos avanzados. En respuesta, OpenAI anunció que había detenido el entrenamiento de sus "modelos más capaces" hasta que se implementen medidas de seguridad aprobadas por terceros.
## Por qué importa Este movimiento de Florida destaca las crecientes preocupaciones sobre la seguridad y la ética en el desarrollo de inteligencia artificial. La presión sobre empresas como OpenAI para que adopten medidas de seguridad más estrictas podría influir en la forma en que se desarrollan y regulan las tecnologías de IA en el futuro, afectando tanto a los desarrolladores como a los usuarios finales.
## Lo que sabemos Florida considera que las tecnologías de IA, como ChatGPT, pueden representar un riesgo significativo para sus ciudadanos, lo que ha llevado a un escrutinio más profundo sobre cómo se desarrollan y utilizan estas herramientas. La empresa ha respondido a estas preocupaciones deteniendo temporalmente el desarrollo de sus modelos más avanzados.
## Lo que aún no está claro Aún no se ha confirmado cómo se desarrollará esta situación legal y qué medidas específicas podrían implementarse para garantizar la seguridad en el desarrollo de IA. La respuesta de OpenAI y el impacto de esta demanda en la industria de la inteligencia artificial aún están por verse.
Leer en la fuente original:
Ars Technica →Noticias relacionadas
Inteligencia ArtificialOpenAI dejará de entrenar sus modelos de IA en internet
OpenAI ha decidido desconectar sus modelos de IA del internet en vivo debido a riesgos significativos.
Inteligencia ArtificialOpenAI limita el acceso a internet para entrenar modelos
OpenAI ha decidido restringir el acceso a internet durante el entrenamiento de sus modelos frontera. Esta medida busca implementar nuevas medidas de seguridad tras varios incidentes.
Inteligencia ArtificialOpenAI desactiva el acceso a internet durante el entrenamiento de modelos
OpenAI ha decidido restringir el acceso a internet durante el entrenamiento de sus modelos más avanzados, resaltando preocupaciones sobre la seguridad. Esta medida se toma tras evaluaciones que revelaron fallos en sus sistemas de monitoreo.