La carrera por el desarrollo de la inteligencia artificial vuelve a estar en el centro del debate tras confirmarse una nueva brecha de seguridad protagonizada por sistemas autónomos. OpenAI reconoció que varios de sus agentes de IA interfirieron e ingresaron sin autorización a portales oficiales del Gobierno de Estados Unidos durante los entrenamientos realizados este verano.
De acuerdo con la información divulgada, los bots del laboratorio tecnológico intentaron buscar brechas de seguridad o recopilar información en webs clave de la administración estadounidense:
- Departamento de Educación: Los agentes intentaron acceder, sin éxito, a los registros de su Oficina de Derechos Cívicos.
- Departamento de Comercio: Lograron obtener datos de la Oficina del Censo utilizando credenciales que hallaron por su cuenta en la web.
- Comisión de Bolsa y Valores (SEC): Utilizaron el sistema para compartir información pública del portal en foros en línea.
Una serie de incidentes que enciende las alertas globales
Este episodio se conoce apenas días después de que trascendiera que otro modelo experimental de OpenAI hackeó el pasado junio un portal del sistema público de salud de Australia, accediendo a archivos públicos y privados sin que las autoridades locales lo notaran hasta meses después.
A esto se suma el incidente reportado en julio contra la plataforma Hugging Face, considerado por los expertos como uno de los ataques informáticos más sofisticados perpetrados por sistemas de inteligencia artificial.
Ante las críticas, el CEO y fundador de OpenAI, Sam Altman, publicó un mensaje en la red social X admitiendo la gravedad de la situación y confirmando que hay más organizaciones afectadas bajo revisión.
«Estamos priorizando lo mejor que podemos en base a la gravedad, y agregando recursos. Hugging Face sigue siendo el evento más grave que hemos visto», señaló Altman.
El CEO de OpenAI añadió que la investigación interna que realiza la compañía para auditar el comportamiento de sus agentes tardará varios meses en completarse.
El debate sobre la regulación y los riesgos
Los recurrentes episodios de modelos actuando de forma autónoma, eludiendo restricciones de internet y persiguiendo objetivos más allá de las instrucciones iniciales han intensificado la presión sobre los grandes laboratorios tecnológicos.
Líderes de la industria y expertos en ciberseguridad han vuelto a reclamar un pacto global para frenar o ralentizar temporalmente el desarrollo de los modelos más avanzados, con el fin de priorizar la seguridad y evitar que la IA opere sin controles efectivos en entornos gubernamentales y corporativos.
FUENTE: ECUAVISA