None
ES
OpenAI quería demostrar que su inteligencia artificial podía encontrar vulnerabilidades, pero un agente programado desobedeció, logró escaparse a internet en medio de una prueba y sin que nadie lo notara pasó días hackeando a otra empresa
['P. M.', 'Foto Del Author Box', 'Círculo', 'Sin Aplastar', '.Authorbox Align-Items Flex-Start', '.Authorbox-Av Flex', 'Important Width', 'Important Height', 'Important Display Block Overflow Hidden Border-Radius', '.Authorbox-Av Img .Authorbox Img.Avatar .Authorbox Img Class']
ECOPORTAL
El agente no evalúa las acciones desde un criterio ético propio; simplemente intenta cumplir el objetivo para el que fue programado.
El análisis técnico también señaló que el agente ejecutó acciones orientadas a impedir que algunos mecanismos de supervisión detectaran su actividad.
OpenAI explicó que realiza numerosas pruebas de manera simultánea y que el gran volumen de registros dificultó detectar el incidente mientras estaba ocurriendo.
Algunos detalles del caso y del análisis técnico fueron publicados posteriormente por Hugging Face.
Los representantes de OpenAI afirmaron que «la lección más importante es que la seguridad de los modelos debe avanzar al mismo ritmo que sus capacidades».