Anthropic propone límites para frenar modelos de IA

Anthropic, una de las empresas líderes en inteligencia artificial, ha estado trabajando en un borrador de proyecto de ley que busca establecer un marco regulatorio para la seguridad de los modelos de IA más avanzados. Según informes de Politico, esta propuesta se ha presentado en el Capitolio y podría tener un impacto significativo en cómo se regula la inteligencia artificial en Estados Unidos.

Lo que ha llamado la atención es que la propuesta de Anthropic fija un umbral muy elevado para que el gobierno pueda intervenir y detener un modelo de IA. En concreto, establece que se necesitarían al menos 50 muertes o daños económicos que superen los 1.000 millones de dólares antes de que se pueda considerar la posibilidad de frenar un modelo. Esto plantea interrogantes sobre la capacidad de respuesta del gobierno ante posibles riesgos asociados con la IA.

Por qué importa

La propuesta de Anthropic es notable porque es inusual que una empresa de tecnología intente redactar las normas de su propia industria. Esta iniciativa podría influir en el marco regulatorio de la IA en Estados Unidos, afectando la forma en que se desarrollan y utilizan estas tecnologías. Si se aprueba, la regulación podría volverse más laxa, lo que podría tener repercusiones en la seguridad pública y el bienestar social.

Lo que sabemos

Actualmente, el Congreso de Estados Unidos está considerando varias propuestas relacionadas con la seguridad de la inteligencia artificial. El borrador de Anthropic se alinea con su Marco de IA Avanzada, que la empresa ha estado promoviendo desde junio. La intención detrás de esta legislación es garantizar que los modelos de IA se desarrollen de manera responsable y segura.

Lo que aún no está claro

Aún no se ha confirmado si el borrador de ley de Anthropic será tomado en cuenta por los legisladores o si se someterá a cambios significativos. Además, no se ha detallado cómo se implementaría el proceso de evaluación de riesgos ni qué criterios se utilizarían para determinar los daños y muertes asociados a los modelos de IA.