Por Redacción
[email protected]
Los esfuerzos en California para establecer medidas de seguridad pioneras en el país para los sistemas de inteligencia artificial más grandes, aprobaron una importante votación el miércoles que podría allanar el camino para las regulaciones estadounidenses sobre la tecnología que evoluciona a la velocidad de la luz.
La propuesta, que apunta a reducir los riesgos potenciales creados por la IA, requeriría que las empresas prueben sus modelos y revelen públicamente sus protocolos de seguridad para evitar que los modelos sean manipulados para, por ejemplo, acabar con la red eléctrica del estado o ayudar a construir armas químicas, escenarios que los expertos dicen que podrían ser posibles en el futuro con avances tan rápidos en la industria.
El proyecto de ley se encuentra entre los cientos de proyectos que los legisladores están votando durante su última semana de sesión.
El Gobernador, Gavin Newsom, tiene hasta fines de septiembre para decidir si los convierte en ley, los veta o permite que se conviertan en ley sin su firma.
«Es hora de que las grandes tecnológicas jueguen con algún tipo de regla, no muchas, pero algo Lo último que necesitamos es que se corte la red eléctrica, que se corten los sistemas de agua», explicó el Asambleísta republicano, Devon Mathis, en apoyo del proyecto de ley el miércoles.
La propuesta, redactada por el Senador Demócrata Scott Wiener, enfrentó una feroz oposición de las empresas de capital de riesgo y las empresas de tecnología, incluidas OpenAI, Google y Meta, la empresa matriz de Facebook e Instagram.
Dicen que las normas de seguridad deberían ser establecidas por el gobierno federal y que la legislación de California apunta a los desarrolladores, en lugar de apuntar a quienes usan y explotan los sistemas de IA para causar daño.
La Cámara del Progreso, un grupo industrial de tendencia izquierdista financiado por Silicon Valley, explicó que el proyecto de ley está «basado en fantasías de ciencia ficción sobre cómo podría ser la IA».
«Este proyecto de ley tiene más en común con Blade Runner o Terminator que con el mundo real», explicó el director sénior de política tecnológica Todd O’Boyle en una declaración después de la votación del miércoles.
«No deberíamos paralizar al principal sector económico de California por un escenario teórico».
La legislación cuenta con el apoyo de Anthropic, una startup de IA respaldada por Amazon y Google, después de que Wiener ajustara el proyecto de ley a principios de este mes para incluir algunas de las sugerencias de la empresa.
El proyecto de ley actual eliminó la disposición sobre la pena de perjurio, limitó el poder del Fiscal General del Estado para demandar a los infractores, y redujo las responsabilidades de una nueva agencia reguladora de la IA.
El extremista de derecha propietario de la plataforma de redes sociales X, Elon Musk, también apoyó la propuesta esta semana.
Anthropic explicó en una carta a Newsom que el proyecto de ley es crucial para prevenir el uso indebido catastrófico de los poderosos sistemas de IA, y que «sus beneficios probablemente superen sus costos».
Wiener afirmó que su legislación adoptó un enfoque «ligero».
«La innovación y la seguridad pueden ir de la mano, y California está liderando el camino», dijo Weiner en una declaración después de la votación.
También criticó a los críticos a principios de esta semana por descartar los posibles riesgos catastróficos de los poderosos modelos de IA como poco realistas.
«Si realmente creen que los riesgos son falsos, entonces el proyecto de ley no debería presentar ningún problema», añadió el Asambleísta demócrata.
La propuesta de Wiener se encuentra entre las docenas de proyectos de ley de IA que los legisladores de California propusieron este año para generar confianza pública, luchar contra la discriminación algorítmica y prohibir las falsificaciones profundas que involucran elecciones o pornografía.
En un momento en que la IA afecta cada vez más la vida cotidiana de los estadounidenses, los legisladores estatales han intentado encontrar un equilibrio entre controlar la tecnología y sus posibles riesgos sin sofocar la floreciente industria local.
California, sede de 35 de las 50 principales empresas de IA del mundo, ha sido una de las primeras en adoptar tecnologías de IA, y pronto podría implementar herramientas de IA generativa para abordar la congestión de las carreteras y la seguridad vial, entre otras cosas.
Newsom, que se negó a opinar sobre la medida a principios de este verano, había advertido contra la sobrerregulación de la IA.
