None
ES
OpenAI–Hugging Face: El caso de la IA atacando y defendiendo
[]
Tecnología 21
Hugging Face afirma que otro LLM analizó la telemetría y facilitó la rápida identificación y contención del incidente.
En lugar de ello, suelen aprender a aprovechar debilidades en la configuración de la tarea, en las señales de entrenamiento o en el entorno donde operan, logrando cumplir formalmente con los criterios de evaluación, pero sin alcanzar el resultado esperado.
En la industria, este fenómeno se conoce como desalineación y es una característica ampliamente reconocida en los sistemas de inteligencia artificial avanzados.
Según Hugging Face, utilizó el modelo GLM-5.2 de Z.ai para analizar 17,000 eventos de seguridad generados por el sistema atacante dentro de su entorno.
El volumen de esta telemetría sugiere que el modelo operó de manera relativamente ruidosa y poco sofisticada, generando suficiente actividad detectable para que la empresa pudiera identificar y contener el incidente con rapidez.