Washington, Estados Unidos (16 de mayo de 2023) – Sam Altman, CEO de OpenAI, empresa de desarrollo de Inteligencia Artificial (IA), declaró ante el Congreso de Estados Unidos que la intervención del Gobierno será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos.
Durante una audiencia en el Senado, Altman expresó la comprensión de su empresa sobre las preocupaciones de las personas respecto a cómo la IA puede cambiar la forma en que vivimos. Propuso la creación de una agencia estadounidense o global encargada de otorgar licencias a los sistemas de IA más potentes, con la autoridad de revocarlas y garantizar el cumplimiento de estándares de seguridad.
Lo que comenzó como preocupación en el ámbito educativo por el uso de ChatGPT para hacer trampas en tareas escolares ha evolucionado hacia inquietudes más generales sobre la capacidad de las últimas herramientas generativas de IA para engañar a las personas, difundir información falsa, violar derechos de autor y perturbar ciertos empleos.
Aunque no hay indicios inmediatos de que el Congreso redacte nuevas regulaciones amplias para la IA, como lo están haciendo legisladores europeos, las preocupaciones sociales llevaron a Altman y otros CEOs de tecnología a reunirse con la Casa Blanca a principios de este mes. Además, las agencias estadounidenses se han comprometido a tomar medidas enérgicas contra productos de IA dañinos que violen las leyes existentes de derechos civiles y protección al consumidor.
En la audiencia, el senador Richard Blumenthal, demócrata de Connecticut y presidente del subcomité de privacidad, tecnología y ley del Comité Judicial del Senado, abrió con un discurso grabado que parecía ser su voz, pero en realidad era una clonación de voz entrenada con los discursos previos de Blumenthal. Esto generó impresión y planteó interrogantes sobre las capacidades de manipulación de la IA.
En general, los senadores mantuvieron un tono educado en los interrogatorios, mostrando interés en buscar la experiencia de Altman para evitar problemas futuros. Blumenthal afirmó que las empresas de IA deberían ser obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos. Expresó preocupación sobre cómo los modelos futuros podrían afectar el mercado laboral.
Altman evitó dar detalles específicos sobre sus peores temores respecto a la IA, pero señaló que la industria podría causar daños significativos al mundo y, en caso de fallas, de manera importante. Propuso la creación de una nueva agencia reguladora que establezca salvaguardias para bloquear modelos de IA que puedan autorreplicarse y autoexfiltrarse en la naturaleza, aludiendo a preocupaciones futuristas sobre sistemas avanzados que podrían manipular a los humanos.
En la audiencia también testificaron Christina Montgomery, directora de privacidad y confianza de IBM, y Gary Marcus, profesor emérito de la Universidad de Nueva York, quien formó parte de un grupo de expertos que instó a OpenAI y otras empresas de tecnología
Discussion about this post