Anthropic esconde su nuevo modelo de inteligencia artificial Mythos por considerarlo demasiado peligroso | Tecnología

Anthropic ha creado un nuevo modelo de inteligencia artificial que es tan poderoso que optaron por no publicarlo. Avance de los mitos de El Claude descubrió «miles de vulnerabilidades» en softwareAlgunos de ellos no han sido descubiertos desde hace décadas, según la empresa. Para mitigar posibles consecuencias, Anthropic creó un proyecto llamado Glasswing, Una colaboración con 12 empresas que les permite utilizar Mythos Preview para corregir sus vulnerabilidades antes de que sean explotadas por otro modelo igualmente poderoso.

«Encontró más vulnerabilidades de Mythos Preview en dos semanas que las que yo he encontrado en toda mi vida», dice. Nicolás Carlini, científico empresa en un vídeo de presentación. Una vulnerabilidad es un pequeño agujero creado accidentalmente en un fragmento. software y esto permite acceder o abusar del programa. Estas vulnerabilidades pueden estar en cualquier herramienta creada usando el código: sistemas operativos, navegadores, programas financieros…Una persona necesitaba mucho conocimiento y muchas horas para encontrar algo. Mythos Preview es mucho más efectivo.

Entre las 12 empresas que crearon Glasswing se encuentran varias líderes de Silicon Valley en sus campos: Apple, Amazon Web Services, Google, Microsoft, Nvidia o Crowdstrike. Anthropic ofreció el modelo a estas y otras 40 empresas que gestionan infraestructura crítica. También hablaron con el gobierno de Estados Unidos.

Mythos Preview simplemente pretendía ser un nuevo modelo centrado en código después de que Claude Sonnet 4.5 se convirtiera en un hito importante en la generación de código de IA en septiembre. «Pero vimos que era particularmente bueno en ciberseguridad», dijo el director ejecutivo de Anthropic, Dario Amodei.

Entre los hallazgos de Mythos descubiertos y ya resueltos se encuentra una vulnerabilidad de hace 27 años en OpenBSD, un sistema operativo especialmente reforzado, otra de hace 16 años en FFmpeg, una biblioteca utilizada por aplicaciones de vídeo, o varias vulnerabilidades en el kernel de Linux. software extremadamente popular y permite el acceso a escala desde el acceso básico del usuario hasta el control total de la máquina.

“Mito” proviene del griego antiguo y significa, según la propia nota de la empresa, “el sistema de historias a través del cual las civilizaciones dieron sentido al mundo”. Se teme que esta pretensión de los riesgos sea simplemente marketing de Anthropic, pero hay al menos un precedente. En 2019, OpenAI retrasó la publicación de GPT-2, el padrino de la revolución que estamos viviendo actualmente, porque era “demasiado peligroso”. Amodei, el fundador de Anthropic, era entonces el jefe de investigación de OpenAI.

Por lo tanto, existía la preocupación de que los delincuentes utilizaran este modelo para crear información errónea o correo basura escala. Ahora el miedo es más específico y más fácil de poner a prueba: la vulnerabilidad software existe o no. Mythos también es capaz de programar. explotarun pequeño programa que te permite abusar de los errores en el código. Además, ha sido probado y confirmado por expertos ajenos a Anthropic.

Además de parecer impecable en tareas de ciberseguridad, Mythos también es un nuevo modelo que hace lo mismo que sus predecesores. Además de toda la previsión informática y de no salir al mercado por el momento, Anthropic publicó un manual de 244 páginas especialmente lo que Mythos hace mejor o diferente que sus predecesores Sonnet y Opus.

Hace apenas unas semanas Anthropic ya era noticia por su batalla con el Departamento de Defensa. El gobierno de Estados Unidos clasificó a la empresa como un «riesgo de la cadena de suministro», una medida de emergencia que le impidió celebrar un contrato con la administración federal u otras empresas con contratos con el Pentágono. El fundador de la empresa acudió a los tribunales y obtuvo una decisión favorable. En sus acuerdos con el Pentágono, Anthropic impuso dos líneas rojas: su modelo no debe utilizarse para espiar masivamente a ciudadanos ni para operar armas autónomas sin supervisión.