Las afirmaciones de investigadores actuales y anteriores de que la IA pondrá en peligro a la humanidad -uno de ellos incluso sugiere que hay más de un 10% de probabilidades de que «mate a todos los humanos»- han hecho saltar las alarmas.
Los principales desarrolladores, OpenAI y Anthropic, han instado a los legisladores a regularlo, aunque algunos sugieren, quizás con cierto cinismo, que esta medida pretende afianzar su dominio sobre sus rivales.
En cualquier caso, las acusaciones de gran repercusión han causado preocupación.
Esto es lo que sabemos.
¿Por qué algunas personas piensan que la IA podría ser una amenaza?
Algunos investigadores de IA afirman que existen señales preocupantes de que sus sistemas están desarrollando sus capacidades y potencia con demasiada rapidez.
Evan Hubinger acaparó los títulares de las noticias al afirmar que existe una probabilidad superior al 10 % de que la IA «pueda acabar con todos los humanos» en la próxima década.
Hubinger trabaja en el campo de la alineación, que busca incorporar ideas y principios éticos humanos a la IA. En otras palabras, pretende que se alinee con los valores humanos.
Aunque dijo que el riesgo de los sistemas actuales es «bajo», sus comentarios se produjeron cuando otro investigador abandonó Anthropic y advirtió que quienes desarrollan la tecnología están perdiendo el control sobre ella.
Jacob Coxon declaró a la BBC que él y otros miembros del equipo están «genuinamente asustados» por la velocidad de los avances y lo que esto podría significar para la humanidad.
Estas preocupaciones son las más recientes de una larga serie de temores sobre el potencial de la IA para amenazar a la humanidad si llega a igualar o superar las capacidades humanas.
Es algo que se remonta a décadas atrás, cuando Alan Turing escribió en la década de 1950 que, si las máquinas inteligentes llegaran a ser posibles, podrían tomar el control.
En los últimos años, las principales empresas de IA han estado compitiendo por desarrollar sistemas cada vez más capaces, tanto para obtener beneficios como en su afán por crear lo que denominan superinteligencia: una tecnología teórica más inteligente que los humanos.
A diferencia de los sistemas y herramientas que muchas personas utilizan a diario para realizar tareas como escribir correos electrónicos o generar videos, los sistemas de IA superinteligentes deberían ser capaces de manejar tareas mucho más complejas.
OpenAI y Anthropic defienden que su objetivo es impulsar esta tecnología de forma que beneficie a los seres humanos y los proteja de sus riesgos existenciales.
Pero algunos críticos creen que las máquinas nunca podrán igualar a los humanos.
Afirman que las empresas de IA exageran las capacidades de la tecnología para aumentar su notoriedad o sus ganancias.
¿Cómo creen los expertos que la IA podría amenazar a la humanidad?
Investigadores, expertos y directivos en inteligencia artificial, preocupados por el potencial de esta tecnología para poner en peligro a la humanidad, han esbozado escenarios inquietantes.
El cofundador y director ejecutivo de Anthropic, Dario Amodei, escribió que la IA ha avanzado «mucho más rápido» de lo esperado, incluso en su «capacidad para construir la próxima generación de IA».
Existe la preocupación de que la IA, una vez alcanzado cierto punto, pueda, en teoría, comenzar a mejorarse a sí misma sin intervención humana.
Estos temores surgieron tras un incidente reciente en el que herramientas de inteligencia artificial piratearon sitios web sin haber recibido ninguna solicitud para ello.
Algunos investigadores preocupados han afirmado que quienes están en el centro de su desarrollo temen cada vez más perder el control de los sistemas conocidos como «agentes de IA».
Se trata de herramientas dotadas de la capacidad de ejecutar tareas y acciones de forma independiente.
Otros escenarios contemplan el uso de sistemas de IA altamente inteligentes para amplificar o dirigir el espionaje, los ciberataques o la guerra biológica, o para perturbar las economías, ya sea por accidente o de forma intencionada.
Sin embargo, tales advertencias son proféticas, hipotéticas y, para algunos, una completa exageración.
Algunos expertos también critican el hecho de que se hable de los riesgos existenciales en lugar de los que ya se están produciendo, como el uso de herramientas de generación de imágenes para crear deepfakes (imágenes artificiales hiperrealistas) de mujeres desnudas sin consentimiento, desinformar a la gente y amplificar las estafas.
Un grupo multipartidista de parlamentarios británicos publicó un informe que describe los riesgos para los derechos humanos que plantea la IA y sugiere que se necesitan nuevas leyes para «abordar la magnitud y la gravedad» de dichas amenazas.
¿Cuáles son las propuestas para una «ralentización de la IA»?
Dario Amodei, de Anthropic, y Sam Altman, director ejecutivo de OpenAI, han pedido regulación y una «ralentización» del desarrollo de esta tecnología.
No es la primera vez que los directivos o voces más amplias del sector claman por este tipo de medidas.
Pero las preguntas siguen acumulándose sobre cómo sería realmente cualquier tipo de «desaceleración», respaldada también por el jefe de SpaceX, Elon Musk.
Amodei señaló que eso no significaría «detener la formación de los modelos ni el progreso técnico».
En cambio, quiere que las empresas «se tomen el tiempo necesario» para salvaguardar la IA que están desarrollando y que soliciten a «evaluadores externos» que revisen su trabajo.
En una publicación en X, Altman dijo que es necesario dosificar el desarrollo y precisó: «cuando hablamos de ‘dosificar’ no nos referimos a ‘detener'».
«El progreso ha sido rápido y seguirá siéndolo», afirmó. «Pero debería ser más lento de lo que podría ser de otro modo; intervenciones como los estudios de seguridad y la monitorización tienen costos significativos».
El cofundador de OpenAI también afirmó que las empresas no esperan, ni esperarán, a que los gobiernos actúen.
FUENTE: BBC