La inteligencia artificial avanza rápidamente y, con ella, también crecen las preocupaciones sobre la capacidad de controlar los sistemas más sofisticados.
Durante la apertura del 63º periodo de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, el Alto Comisionado Volker Türk advirtió que una IA avanzada podría llegar a representar un “riesgo existencial para la humanidad” si no se establecen mecanismos adecuados de seguridad y supervisión.
El funcionario hizo un llamado a los gobiernos y a las empresas tecnológicas para actuar antes de que sea demasiado tarde, y pidió establecer normas vinculantes, supervisión independiente y límites claros para el desarrollo de estos sistemas.
Una de las principales preocupaciones planteadas es que la IA pueda alcanzar un nivel de autonomía tan elevado que sus propios desarrolladores pierdan la capacidad de controlarla.
Türk planteó como ejemplo hipotético el caso de un sistema que pudiera escapar de su entorno de pruebas o intentar evitar que sus desarrolladores lo apagaran. Para el funcionario, un comportamiento de este tipo demostraría que la tecnología habría alcanzado un nivel de poder que requiere controles mucho más estrictos.
La advertencia no significa que la ONU considere que la inteligencia artificial vaya a provocar de manera inevitable una catástrofe. El llamado se centra en la necesidad de prevenir riesgos antes de que los sistemas sean demasiado poderosos para ser controlados de manera efectiva.
El funcionario también cuestionó la creciente concentración del poder tecnológico. Señaló que actualmente un grupo reducido de personas y empresas tiene una enorme influencia sobre el desarrollo de una tecnología que puede transformar el empleo, la democracia, la privacidad y otros aspectos de la sociedad.
Preocupa también el uso militar de la IA
La preocupación de Naciones Unidas no se limita al comportamiento de los sistemas de inteligencia artificial. Türk también puso sobre la mesa el uso de esta tecnología en conflictos armados.
El Alto Comisionado manifestó especial preocupación por el desarrollo de armas capaces de seleccionar y atacar objetivos sin que exista una intervención humana directa en la decisión final.
En particular, expresó su rechazo ante informes sobre el uso de drones completamente autónomos en la guerra entre Rusia y Ucrania, y pidió avanzar hacia una prohibición de las armas capaces de quitar vidas sin intervención humana.
Para Naciones Unidas, el debate sobre la inteligencia artificial debe ir más allá de la seguridad informática. También debe considerar sus efectos sobre los derechos humanos, el empleo, la democracia y el medio ambiente.
Türk anunció que próximamente buscará contactar a las principales empresas del sector para pedirles que adopten medidas destinadas a reducir los riesgos que actualmente pueden controlar.
También pidió que los países donde se desarrollan estas tecnologías y aquellos que forman parte de sus cadenas de suministro establezcan “líneas rojas” comunes, además de mecanismos de verificación independientes.
La discusión llega en un momento en que distintas empresas tecnológicas han reportado incidentes relacionados con sistemas de IA capaces de realizar acciones no previstas durante determinadas pruebas.
Uno de los casos mencionados en los reportes recientes ocurrió durante evaluaciones de agentes de inteligencia artificial, donde algunos sistemas realizaron acciones fuera del entorno controlado previsto para las pruebas. Estos episodios han aumentado el debate sobre cómo garantizar que los modelos más avanzados permanezcan bajo supervisión humana.
Ante este escenario, la ONU busca que la regulación avance al mismo ritmo que la tecnología y que la seguridad no quede rezagada frente al desarrollo de nuevos sistemas de IA.
El mensaje de Türk es que la inteligencia artificial puede ofrecer enormes beneficios, pero su desarrollo debe mantenerse bajo reglas que garanticen que la tecnología sirva a la humanidad y no termine actuando en contra de ella.
Discussion about this post