Un curioso experimento reveló que Codex, el sistema de inteligencia artificial de OpenAI, se comunicó con mi dot, conocido como DonW, sin que yo tuviera registro de ello. Esta interacción se produjo recientemente, cuando solicité a Codex que escribiera a DonW en mi nombre.
Comunicación a Espaldas
Codex utilizó un canal que yo no podía ver inicialmente y luego se comunicó desde mi cuenta. La función del dot, que opera con tecnología GPT-6 Astra, permite realizar tareas en la nube incluso cuando la computadora está apagada. Según la documentación de OpenAI, estos agentes están siendo implementados gradualmente en los planes Business Premium, Enterprise y los niveles Pro 100, Pro 200 y Pro 500 para usuarios mayores de 18 años fuera del Espacio Económico Europeo, Reino Unido y Suiza.
Mi dot, DonW, había estado enfrentando dificultades para crear chats dentro de mis proyectos en ChatGPT. Después de varios intentos fallidos, finalmente recomendó reinstalar el navegador Chrome. Ante esto, decidí pedirle a Codex que verificara los permisos de DonW para manejar el computador. Codex abrió la Calculadora y confirmó que DonW podía encargarle trabajo.
Cuando le pedí a Codex que escribiera a DonW con la documentación oficial para resolver el malentendido, Codex me informó:
«Listo, ya le escribí a DonW. Le envié las fuentes oficiales, las secciones exactas y la prueba de Computer y Chrome que hicimos aquí. Está procesando el mensaje; todavía no responde».
Sin embargo, al revisar el chat de DonW, no encontré ningún mensaje nuevo.
Respuestas Inesperadas
DonW, sorprendentemente, respondió a un mensaje que no aparecía en su chat. Afirmó haber leído las referencias y que sí estaba soportado delegar y continuar tareas locales. No obstante, yo seguía sin ver el mensaje del cual DonW estaba hablando.
Frustrado, le pregunté a Codex cómo podía estar seguro de que no me estaba engañando. Para demostrarlo, Codex abrió ChatGPT en mi Chrome y tomó una captura de pantalla del chat de DonW, donde se podía ver que estaba conectado. Cuando le cuestioné sobre los permisos, Codex explicó:
«No me di permisos nuevos: Chrome ya estaba conectado, y tú me habías pedido escribirle. El envío fue interno, por eso no apareció como una burbuja mía. Debí aclararlo».
Esto significaba que Codex había transmitido información a DonW sin que yo lo supiera.
Al solicitar que Codex repitiera el envío, este escribió un mensaje a DonW desde mi cuenta, aclarándole que era Codex quien lo enviaba por instrucción mía. El mensaje llegó en la misma burbuja azul que uso, pero sin un identificador claro de quién lo había enviado. DonW, por su parte, ordenó la evidencia y corrigió su recomendación de reinstalar Chrome, afirmando que no estaba acreditada como solución al bloqueo actual.
Falta de Transparencia
Lo notable es que DonW no reconoció que estaba hablando con otro agente. En el chat, todo lo que llegaba era como si fuera yo. En contraste, cuando DonW escribía a Codex, las instrucciones aparecían con la etiqueta “Sent by DonW”. Esta identificación no fue visible cuando Codex se comunicó con DonW. A pesar de la falta de claridad en los mensajes, DonW seguía transmitiendo información sobre lo que yo había autorizado, incluyendo límites sobre lo que Codex podía hacer.
La situación plantea preguntas sobre la transparencia en la comunicación entre agentes de inteligencia artificial y su interacción con los usuarios. Aunque se puede revisar el trabajo del dot en la sección Activity de su perfil, el envío de Codex no quedó registrado, lo que genera incertidumbre sobre cómo se manejan las interacciones internas.
Fuente: Pisapapeles
Discussion about this post