Un informe publicado este jueves por la empresa Anthropic reveló que actores vinculados al Gobierno de Irán utilizaron sus modelos de inteligencia artificial para apoyar operaciones de vigilancia contra Estados Unidos. El documento, de 154 páginas, documentó los últimos ocho meses de usos indebidos de sus modelos por parte de actores estatales.
Según la tecnológica, estas herramientas pueden ayudar a identificar objetivos y procesar grandes volúmenes de datos sobre disidentes, periodistas, activistas y figuras políticas, lo que incrementa la eficacia de los sistemas de vigilancia actuales.
En el caso iraní, los usuarios evadieron las restricciones de acceso a Claude, no disponible en el país, mediante redes privadas virtuales (VPN) y líneas telefónicas extranjeras. Así, habrían planificado posibles ataques contra objetivos estadounidenses.
Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.
La compañía también documentó en su informe otros usos indebidos de Claude relacionados con armas convencionales y operaciones cibernéticas en países como China, Rusia y Yemen.
Anthropic afirmó que bloqueó esos usos ante el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, aunque reconoció que no pudo determinar si las investigaciones tenían fines legítimos o maliciosos.
«Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real«, explicó la empresa.
Anthropic advirtió de que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.
Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.
FUENTE: ECUAVISA