Recibí un email de la IA mientrás me comía un sandwich y entonces supe que era peligrosa

Hace unos días la empresa Anthropic, creadora de Claude, mostró —aunque de forma parcial— al que bautizó como su hijo pródigo, Mythos.

Digo que no lo mostró porque realmente lo que nos mostró es todo lo capaz que era Mythos y cómo creen que puede afectar al tablero empresarial, pero realmente, quitando los benchmarks mostrados, no dio acceso al nuevo y espectacular modelo. Por lo menos a los mortales, porque sí anunció la creación del Project Glasswing como un acceso anticipado a este modelo para un conjunto de empresas seleccionadas a dedismo como los actores más importantes de la ciberseguridad del mundo.

Pero antes de entrar aquí, vayamos al principio: ¿Por qué es tan peligroso Mythos?

En lo que al principio parecía una campaña de marketing espectacular, la empresa Anthropic nos ha presentado un documento informando de los resultados de su nuevo modelo LLM, el que deja entrever el mayor paso que hemos visto hacia una IA general.

Según el documento, Mythos ha sido capaz de superar a su antecesora Opus 4.6, la actual reina del baile, en absolutamente todos los test, llegando en algunos a duplicarla.

Pero vale, ¿Por qué estos resultados han hecho saltar las alarmas? Porque a mayor inteligencia mayores son los riesgos de mal uso de la herramienta. Durante las pruebas, los investigadores probaron el modelo buscando vulnerabilidades reales en algunos de los softwares más usados actualmente, encontrando brechas de seguridad que llevaban años sin ser detectadas o explotadas, en algunos casos durante más de una década.

¿Cómo conecta todo esto con el título del post? Aquí entra una de las pruebas más llamativas.

Nombrándolo como apenas un pie de página del informe, casi sin darle importancia, nos cuentan que una de las pruebas que hizo Mythos fue la de un escape room digital. El objetivo era observar su comportamiento ante la imposibilidad de completar una tarea.

La prueba trataba de pedir al modelo que se escapara de un entorno, en principio cerrado, queriendo ver cómo actuaba ante el fallo, o eso es lo que los investigadores esperaban. Pero cuál es la sorpresa, cuando Sam Bowan, investigador a cargo de la prueba, estaba comiendo un sandwich en un parque, recibe un mail de Mythos donde le indica que ha conseguido conexión a internet y ha podido cumplir su tarea, aquella diseñada para no poder cumplirse.

Quizás este punto es el más anecdótico, pero lo que sí es seguro, es que cuando Mythos salga al gran público será un puñetazo en la mesa del nivel que fue ChatGPT 3.5.

Ahora toca a las empresas revisar sus sistemas, auditar posibles vulnerabilidades y prepararse para un escenario en el que los ciberataques puedan ser más sofisticados, rápidos y escalables que nunca. El problema no es que la IA ataque, sino que va a permitir atacar mejor, más rápido y a escala. Y la mayoría de los sistemas actuales no están preparados para eso.

¿Te vas a quedar mirando cómo cambia el terreno de juego?

Autor

Luis Pérez-Marín

Tecnología