El modelo Claude Mythos despierta inquietud por la estabilidad del sistema financiero
El secretario del Tesoro de Estados Unidos, Scott Bessent, y el presidente de la Reserva Federal, Jerome Powell, celebraron una reunión de urgencia en Washington con directivos de los mayores bancos ante las preocupaciones relacionadas con un nuevo modelo de inteligencia artificial de Anthropic. El encuentro se centró en los posibles riesgos cibernéticos que podrían intensificarse con el avance de sistemas de este tipo.
Claude Mythos de Anthropic: riesgos cibernéticos y exposición del sector bancario
Según fuentes conocedoras del asunto, la cita se convocó para comprobar que las entidades son conscientes de las amenazas potenciales y que están adoptando medidas para blindar sus sistemas. El detonante fue Claude Mythos, un modelo que Anthropic describe como una herramienta capaz de aumentar de forma notable la eficiencia a la hora de localizar y explotar vulnerabilidades en software.
En un comunicado, la empresa afirmó que "los modelos de IA actuales ya superan a casi todos, salvo a los especialistas más experimentados" en la detección de fallos de seguridad. Desde Anthropic advirtieron de que las consecuencias podrían repercutir en la economía, la seguridad pública y la seguridad nacional.
A la inquietud se sumó una filtración previa del código del modelo. Tras ese episodio, la compañía restringió el acceso a Mythos y lo limitó a un número reducido de socios, entre los que figuran grandes tecnológicas y organizaciones de infraestructuras.
En la reunión participaron responsables de bancos estadounidenses considerados sistémicamente importantes, incluidos los máximos ejecutivos de Goldman Sachs, Bank of America, Citigroup, Morgan Stanley y Wells Fargo. Estas entidades se consideran críticas para el sistema financiero, y cualquier interrupción en su operativa puede acarrear efectos de gran alcance.
El consejero delegado de JPMorgan Chase, Jamie Dimon, que no asistió al encuentro, había señalado anteriormente en su carta anual a los accionistas que la ciberseguridad sigue siendo una de las amenazas principales, y que el desarrollo de la IA probablemente aumentará ese riesgo.
De acuerdo con Anthropic, el modelo Mythos ya ha detectado miles de vulnerabilidades en software, incluidas algunas que existían desde hacía hasta 27 años y que los desarrolladores no habían identificado. Esto refuerza el temor de que herramientas así puedan ser aprovechadas por actores maliciosos para acceder a sistemas y eludir mecanismos de protección.
Todo ello se produce en un contexto de debate más amplio sobre los riesgos de la IA. Con anterioridad, las autoridades de Estados Unidos incluyeron a Anthropic en una lista de posibles riesgos para las cadenas de suministro, una decisión que la empresa está impugnando ante los tribunales.
Comentarios
Aún no hay comentarios. ¡Sé el primero!
Dejar un comentario