El gobernador Gavin Newsom vetó el domingo la SB 1047, un proyecto de ley de seguridad de inteligencia artificial que habría requerido que los desarrolladores de modelos avanzados de IA crearan protocolos para prevenir accidentes.
El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), habría requerido que los desarrolladores presentaran sus planes de seguridad a los fiscales generales estatales, quienes podrían responsabilizarlos si los modelos de IA que controlan directamente les causan daño o amenaza inminente. seguridad pública.
Además, la legislación habría exigido a las empresas de tecnología cerrar los modelos de IA que controlan directamente si no funcionan correctamente.
En su mensaje de veto, Newsom dijo que la legislación podría dar a la gente una “falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento” porque sólo apunta a modelos de IA costosos y a gran escala y no a sistemas especializados más pequeños.
“Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica una toma de decisiones críticas o utiliza datos confidenciales”, decía el mensaje de veto de Newsom. “En cambio, el proyecto de ley aplica estándares más estrictos incluso a las funciones básicas, hasta que un sistema grande pueda acomodarlas. No creo que ese sea el mejor enfoque para proteger al público de amenazas tecnológicas reales”.
El gobernador también anunció el domingo que su administración ha involucrado a líderes de la industria para ayudar al estado a construir defensas viables para los despliegues de IA, enfocándose en analizar sus capacidades y riesgos. Newsom prometió seguir trabajando con la legislatura sobre el tema en la próxima sesión.
El proyecto de ley ha sido debatido acaloradamente en Silicon Valley, con el apoyo del Centro de Seguridad Artificial, el director ejecutivo de SpaceX, Elon Musk, el consejo editorial del LA Times y destacados investigadores de inteligencia artificial, pero con la oposición de la empresa matriz de Facebook, Meta, el fabricante de ChatGPT, OpenAI, y varios demócratas del Congreso. . incluida Nancy Pelosi (D-San Francisco).
Sus defensores han dicho que levantar muros para la tecnología de inteligencia artificial de rápido crecimiento es esencial para evitar daños catastróficos en el futuro, mientras que sus oponentes dicen que tales medidas podrían sofocar la innovación.
Aunque es posible que el proyecto de ley supere el veto del gobernador con dos tercios de los votos en ambas cámaras, es un obstáculo importante que sería inusual superar.
En una charla informal en Dreamforce, una conferencia tecnológica en San Francisco, Newsom dijo a principios de este mes que la SB 1047 ha provocado un debate público masivo y agregó que ha “creado su propio sistema meteorológico”.
También habló sobre los desafíos que plantea la regulación de la IA.
“Hemos estado trabajando durante los últimos dos años para desarrollar una regulación inteligente que respalde el riesgo pero no la imprudencia…”, dijo Newsom.
Tanto los partidarios como los opositores de la SB 1047 aunaron recursos para presentar sus argumentos. Más de 125 actores, productores, directores, artistas musicales y otros líderes de la industria del entretenimiento, incluidos destacados demócratas, firmaron una carta instando a Newsom a firmar el proyecto de ley. Los firmantes de la carta incluyen a los actores Pedro Pascal y Alec Baldwin, así como a la productora ejecutiva de “Bridgerton” Shonda Rhimes.
“Queremos creer que usted es un líder que defenderá no sólo a unos pocos gigantes de Silicon Valley, sino también el bien de todos”, dice la carta.
Mientras tanto, la Cámara del Progreso, que se opone al proyecto de ley, emitió un comunicado. Canción de rock generada por IA con letras que incluyen “Veto las cadenas que nos sujetan”.
“Este es uno de esos proyectos de ley que rara vez llega a su escritorio, donde depende de quién fue la última persona en hablar por teléfono en términos de su credibilidad”, dijo Newsom en una entrevista con el Times a principios de este mes. “Esto ha dividido a mucha gente”.
