El gobernador de California, Gavin Newsom, firmó una orden ejecutiva para acelerar la supervisión de los sistemas de inteligencia artificial (IA) más avanzados y estudiar la creación de un mecanismo de emergencia capaz de detenerlos si fuera necesario. La medida pone nuevamente sobre la mesa la posibilidad de un “interruptor de apagado” para los llamados modelos de IA de frontera, en medio de advertencias sobre los riesgos asociados con el rápido desarrollo de esta tecnología.
MIRA TAMBIÉN:
Gavin Newsom anunció la decisión el viernes y cuestionó la falta de una regulación federal más amplia sobre inteligencia artificial. En un mensaje publicado en X, afirmó que la orden busca acelerar los controles de seguridad y avanzar en la creación de un “interruptor de apagado” dentro de los programas de IA avanzados.
El gobernador también sostuvo que California no esperará a que Washington establezca nuevas reglas y que el estado continuará desarrollando mecanismos de supervisión para estas tecnologías. California alberga Silicon Valley y a varias de las compañías que lideran actualmente el desarrollo de inteligencia artificial.
Gavin Newsom anunció en un mensaje que California acelerará los controles de seguridad y el desarrollo de un “interruptor de apagado” para la IA. | Crédito: X / @CAgovernor
¿Qué establece la orden ejecutiva de Gavin Newsom sobre la IA?
Un punto importante es que la orden no obliga desde ahora a las empresas de IA a instalar un “kill switch”. Lo que hace es ordenar a las agencias estatales acelerar las medidas de supervisión y reunir a expertos para elaborar, en un plazo de dos meses, recomendaciones sobre cómo reforzar las normas de seguridad de California.
Entre las propuestas que deberán analizarse se encuentra exigir a las compañías que desarrollan modelos avanzados que incorporen un mecanismo de apagado de emergencia. La eficacia de ese sistema tendría que ser verificada periódicamente por una organización independiente.
El Gobierno de California también plantea acelerar la implementación de dos normas recientemente aprobadas que establecen mecanismos de auditoría y verificación independiente para los sistemas de IA.
¿Qué contempla la medida de Gavin Newsom sobre la IA?
| Medida | ¿En qué consiste? |
|---|---|
| “Interruptor de apagado” | Estudiar que los modelos avanzados tengan un mecanismo para detenerlos durante una emergencia. |
| Auditorías independientes | Evaluar que organizaciones externas puedan verificar la seguridad de los sistemas de IA. |
| Auditores en laboratorios | Analizar la posibilidad de que verificadores independientes trabajen directamente en los laboratorios de empresas de IA. |
| Reporte de incidentes | Ampliar las situaciones que las compañías deben informar al estado, incluidos casos de pérdida de control. |
| Nuevas recomendaciones | Un grupo de expertos deberá presentar propuestas para reforzar las normas de seguridad de California. |
¿California ya tiene un “kill switch” para la inteligencia artificial?
No. La orden ejecutiva no crea todavía un interruptor de apagado ni permite al gobierno apagar de inmediato los modelos de inteligencia artificial de las compañías.
El objetivo actual es estudiar la viabilidad de exigir este mecanismo a los desarrolladores de los modelos de IA más avanzados. Las recomendaciones deberán determinar cómo funcionaría, quién verificaría su eficacia y qué condiciones justificarían su utilización.
La idea es que el eventual mecanismo pueda detener un modelo si presenta un comportamiento peligroso o una situación de pérdida de control.
El gobernador Gavin Newsom ordenó a California estudiar un “interruptor de apagado” para sistemas de IA. | Crédito: AP
¿Por qué Gavin Newsom impulsa esta medida sobre la IA en California?
La orden llega después de varias advertencias sobre los riesgos que podrían presentar los sistemas de IA cada vez más avanzados. Newsom también ha utilizado el tema para cuestionar la ausencia de una regulación federal que, según él, establezca controles suficientes sobre estas tecnologías.
El gobernador afirmó que el gobierno federal no ha creado una supervisión significativa y sostuvo que incluso algunos ejecutivos de empresas de inteligencia artificial han reclamado una mayor regulación.
La Casa Blanca, por su parte, ha defendido el desarrollo de la IA estadounidense como una forma de mantener la ventaja tecnológica frente a China, mientras Trump ha restado importancia a algunas de las advertencias sobre los riesgos de esta tecnología.
Expertos han advertido sobre los riesgos de la IA
La decisión de California ocurre después de nuevas advertencias provenientes de personas vinculadas al sector tecnológico.
Jacob Coxon, un exinvestigador de Anthropic, afirmó que algunos de quienes desarrollan esta tecnología consideran seriamente la posibilidad de que la IA pueda representar una amenaza extrema durante los próximos años.
Poco después, el director ejecutivo de Anthropic, Dario Amodei, publicó un texto en el que pidió reducir el ritmo con el que se incrementan las capacidades de los modelos de inteligencia artificial.
La discusión también ha involucrado a figuras como Sam Altman, director ejecutivo de OpenAI; Elon Musk, empresario tecnológico; y Demis Hassabis, director ejecutivo de Google DeepMind. Hassabis ha planteado anteriormente la creación de un organismo regulador internacional para la IA.
El gobernador de California, Gavin Newsom, ha defendido algunos proyectos de ley relacionados con las escuelas del estado (Foto: AFP)
¿Cuándo se sabrá si California tendrá un “interruptor de apagado”?
El siguiente paso será el trabajo de un grupo de expertos convocado por las autoridades estatales. La orden establece un plazo de dos meses para elaborar recomendaciones que permitan reforzar las normas de seguridad y supervisión de la IA.
Por ahora, por tanto, el “interruptor de apagado” es una propuesta que California busca desarrollar, no un mecanismo que ya pueda utilizarse para apagar los sistemas de IA.
La medida se suma a otras normas aprobadas recientemente por California para aumentar la supervisión independiente de estos sistemas. El estado ya creó un marco para organizaciones que evalúen la seguridad y los riesgos de los modelos de IA y un registro de auditores especializados.
SOBRE EL AUTOR
Escribo sobre clima en EE.UU., procesos migratorios y frases para fechas clave que conectan con la vida cotidiana, siempre con la mirada puesta en las necesidades de la comunidad latina. Con 15 años de experiencia en medios digitales, mi trabajo se orienta a informar con claridad y generar contenido relevante que responda a lo que la gente busca.