La preocupación por el avance de la inteligencia artificial volvió a crecer después de que investigadores vinculados con Anthropic y Google DeepMind decidieran alejarse de sus puestos y expresar públicamente sus inquietudes.
Uno de los casos más recientes es el de Jacob Coxon, investigador que trabajó en OpenAI y posteriormente en Anthropic. Coxon dejó la compañía y cuestionó la carrera de los grandes laboratorios por desarrollar sistemas cada vez más avanzados.
El investigador sostiene que la industria avanza hacia sistemas con capacidades que podrían superar las herramientas disponibles actualmente para garantizar su control.
Las advertencias no se limitan a Coxon. Evan Hubinger, investigador de Anthropic especializado en seguridad y alineamiento de inteligencia artificial, también ha señalado los riesgos asociados con el desarrollo de sistemas cada vez más capaces.
Hubinger incluso estimó que existe más de un 10% de probabilidad de una catástrofe existencial provocada por una futura IA durante la próxima década, aunque se trata de una estimación personal y no de una predicción sobre los sistemas que actualmente utilizan los usuarios.
La carrera por la superinteligencia genera preocupación
Uno de los principales cuestionamientos es que las empresas compiten por desarrollar sistemas cada vez más avanzados, mientras las herramientas de seguridad y control todavía presentan importantes limitaciones.
Los investigadores han advertido sobre posibles escenarios relacionados con sistemas autónomos, comportamientos difíciles de predecir y el uso de la inteligencia artificial para facilitar actividades peligrosas.
La situación también plantea un dilema para las compañías: reducir el ritmo de desarrollo de manera unilateral podría significar quedar atrás frente a competidores que continúen avanzando.
La preocupación ha trascendido a la industria tecnológica y ya genera llamados para establecer mayor supervisión, transparencia y mecanismos de seguridad en el desarrollo de modelos avanzados de inteligencia artificial.
El debate ocurre mientras empresas como Anthropic, Google y otros gigantes tecnológicos incrementan sus inversiones para desarrollar sistemas con mayores capacidades, en una carrera que podría definir el futuro de la tecnología.
Discussion about this post