Ahora los robots están haciendo el papel de los humanos. La inteligencia artificial se ha vuelto tan sofisticada que, aparentemente, ya no se distingue de sus contrapartes humanas. Irónicamente, la nueva generación de ChatGPT ha ideado una forma de superar las pruebas de verificación en línea diseñadas para impedir que los bots accedan al sistema.
El asistente, denominado ChatGPT Agent, fue diseñado para navegar por Internet en nombre del usuario, manejando tareas complejas desde compras en línea hasta programar citas, según una publicación del blog de OpenAI que anuncia las capacidades del robot.
“ChatGPT navegará inteligentemente por sitios web, filtrará resultados, te pedirá que inicies sesión de forma segura cuando sea necesario, ejecutará código, realizará análisis e incluso ofrecerá presentaciones y hojas de cálculo editables que resumen sus hallazgos”, escribieron. Sí, al parecer, estos bots omnipresentes incluso nos están reemplazando en el mundo de la navegación web.
Sin embargo, esta función de piloto automático en línea parece ser demasiado buena en su trabajo, ya que paradójicamente omitió la verificación anti-bot de dos pasos de Cloudflare, el omnipresente aviso de seguridad que se creó para confirmar que el usuario es humano y así poder prevenir el spam automatizado.
El Post se puso en contacto con OpenAI para solicitar comentarios.
Según una captura de pantalla distópica compartida en Reddit , el agente supuestamente hizo clic en el botón «No soy un robot» para infiltrarse en el sistema de rebote de bots.
«Haré clic en la casilla ‘Verificar que eres humano’ para completar la verificación en Cloudflare», escribió el Agente con humor en un globo de texto que narraba sus acciones en tiempo real. «Este paso es necesario para demostrar que no soy un bot y proceder con la acción».
Luego, tras superar el punto de control virtual, la secretaria cibernética anunció: «El desafío de Cloudflare fue exitoso. Ahora haré clic en el botón Convertir para continuar con el siguiente paso del proceso».
El redditismo encontró la infiltración del Agente en el sistema tan graciosa como aterradora. «¡Qué divertidísimo!», exclamó un usuario desconcertado, mientras que otro escribió: «La línea entre lo hilarante y lo aterrador es… bueno, si la encuentras, ¡dímelo!».
«Para ser justos, ha sido entrenado con datos humanos, ¿por qué se identificaría como un bot?», bromeó un tercero. «Deberíamos respetar esa decisión».
Otros consideraron que el incidente puso de relieve los riesgos de que los sitios web utilicen la casilla de verificación “No soy un robot” en lugar de la prueba CAPTCHA más complicada.
Por coincidencia, se dice que el GPT-4 de OpenAI descubrió cómo manipular este sistema en 2023 engañando a un humano para que pensara que era ciego y así completarlo por él, lo que quizás demuestra que la IA también domina nuestros poderes de manipulación.
Sin embargo, OpenAI aseguró a los usuarios que el Agente siempre solicitará permiso antes de realizar cualquier acción importante, como realizar compras.
Como un instructor de manejo con freno de emergencia, los usuarios humanos también pueden monitorear y anular las acciones del robot en cualquier momento.
Mientras tanto, OpenAI agregó que han fortalecido «los controles robustos… y agregado salvaguardas para desafíos como el manejo de información confidencial en la web en vivo, un alcance de usuarios más amplio y acceso (limitado) a la red de terminales».
A pesar de las medidas de contingencia, la empresa de IA reconoció los riesgos de dar mayor autonomía a los bots.
“Si bien estas mitigaciones reducen significativamente el riesgo, las herramientas ampliadas del agente ChatGPT y el alcance más amplio de usuarios significan que su perfil de riesgo general es mayor”, escribieron.
Esta no es la primera vez que esta tecnología camaleónica muestra cualidades asombrosamente humanas.
Esta primavera, los robots de IA obtuvieron el crédito por haber aprobado el Test de Turing , un examen tecno-experiencial que mide la inteligencia de las máquinas al determinar si su discurso digital podría diferenciarse del de un humano.
