Por El Latino Newsroom
La empresa de inteligencia artificial Anthropic reveló este jueves que bloqueó múltiples cuentas que intentaban utilizar sus modelos lingüísticos para investigaciones con potencial de contribuir al desarrollo de armas biológicas.
En un informe detallado, la compañía creadora del modelo Claude calificó el uso indebido de la biología como uno de los riesgos más críticos y apremiantes que enfrentan las tecnologías de última generación en la actualidad.
El documento expone cinco casos de estudio en los que usuarios que se identificaron como científicos evadieron restricciones geográficas y ocultaron los fines de sus consultas para burlar los sistemas de seguridad de la plataforma. La actividad detectada durante un periodo de 30 días abarcó investigaciones sobre toxinas, venenos y experimentos de «ganancia de función» vinculados a enfermedades infecciosas como la gripe aviar, aunque la empresa aclaró que no es posible determinar con certeza si existía una intención dañina o si se trataba de investigación científica legítima.
El desafío ético del «uso dual» en el avance de la medicina y la tecnología
El descubrimiento de nuevos fármacos representa una de las promesas más optimistas de la inteligencia artificial para la salud global; sin embargo, las mismas capacidades que aceleran la ciencia biomédica pueden ser explotadas por actores malintencionados. Anthropic advirtió que la sofisticación de sus modelos más recientes, como Claude Fable 5, exige barreras de protección más rigurosas para restringir el acceso a consultas de investigación biológica de «uso dual», donde los avances científicos legítimos pueden ser desviados hacia fines bélicos bajo una aparente denegación plausible.
»A medida que nuestros modelos se vuelven cada vez más capaces, acercándose o superando el desempeño de expertos en tareas científicas complejas, esperamos que su impacto aumente, tanto en contextos beneficiosos como potencialmente dañinos», señaló la firma de inteligencia artificial en su reporte. La compañía confirmó haber interrumpido además otros intentos de uso de su tecnología dirigidos a la supervisión masiva, fraudes y el diseño de armamento convencional como misiles y drones.
Crecen las alertas internas y los llamados a una regulación internacional efectiva
La revelación de Anthropic coincide con una ola de advertencias emitidas por científicos e investigadores que han dimitido de las principales firmas tecnológicas citando serias preocupaciones sobre la seguridad. Exempleados de la industria han manifestado su inquietud ante el ritmo acelerado de desarrollo, advirtiendo sobre los riesgos de que las capacidades del software superen la capacidad humana de control, lo que ha llevado a miles de trabajadores a solicitar una intervención gubernamental para supervisar la tecnología.
Frente a un panorama de autorregulación empresarial y lentitud legislativa a nivel federal en Estados Unidos, la industria tecnológica comienza a demandar marcos regulatorios estandarizados para mitigar riesgos sistémicos. «Creemos que el mundo se beneficiaría de que la industria adoptara una manera legal y verificable de trabajar conjuntamente para establecer el ritmo al que lanzamos modelos potentes de inteligencia artificial», concluyó Anthropic en su comunicado oficial.
