La ONU pidió una acción urgente para regular la inteligencia artificial ante los riesgos sin precedentes de los sistemas más avanzados.
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, hizo un llamado a los gobiernos y a las empresas tecnológicas para actuar de manera inmediata frente al desarrollo acelerado de la inteligencia artificial.
Türk advirtió que la humanidad se encuentra “al borde de un cambio irreversible”, cuyos efectos podrían alcanzar no solamente a las generaciones actuales, sino también a las futuras.
El funcionario señaló que la actual carrera por desarrollar sistemas de IA cada vez más potentes está incrementando los riesgos existenciales para distintos ámbitos de la vida.
Entre las principales preocupaciones se encuentran posibles afectaciones a derechos como la vida, privacidad, salud, seguridad y alimentación.
Ante este escenario, Türk pidió a los Estados y a las compañías que desarrollan los sistemas más avanzados movilizarse mediante mecanismos multilaterales para establecer reglas internacionales.
Empresas tecnológicas también plantean frenar el desarrollo
La advertencia de la ONU ocurre mientras aumenta el debate dentro de la propia industria tecnológica sobre los límites que debería tener el desarrollo de la inteligencia artificial.
El director ejecutivo de Anthropic, Dario Amodei, se pronunció recientemente a favor de desacelerar el desarrollo de sistemas avanzados para permitir una mejor evaluación de sus posibles riesgos. La postura recibió el respaldo público de Sam Altman, director ejecutivo de OpenAI, y Elon Musk.
Türk también cuestionó la concentración del poder tecnológico en un número reducido de empresas, debido a que una parte importante de las decisiones sobre el futuro de la IA permanece en manos de compañías privadas.
La ONU ha advertido que una IA sin suficientes salvaguardas podría amplificar desigualdades, afectar los derechos humanos, facilitar la desinformación y generar riesgos para los procesos democráticos.
El llamado ocurre mientras los avances tecnológicos continúan acelerándose. Naciones Unidas sostiene que el costo de esperar para establecer mecanismos de gobernanza puede aumentar conforme las capacidades de estos sistemas sigan creciendo.
Discussion about this post