Un programa de inteligencia artificial ha desarrollado su propio lenguaje y nadie puede entenderlo, informó The New York Post.
OpenAI es un desarrollador de sistemas de inteligencia artificial: sus programas son ejemplos fantásticos de supercomputación, pero tienen sus peculiaridades.
DALLE-E2 es el último sistema de inteligencia artificial de OpenAI : puede generar imágenes realistas o artísticas a partir de descripciones de texto ingresadas por el usuario.
DALLE-E2 representa un hito en el aprendizaje automático: el sitio de OpenAI dice que el programa «aprendió la relación entre las imágenes y el texto utilizado para describirlas».
Una demostración de DALLE-E2 incluye palabras clave interactivas para que los usuarios visitantes jueguen y generen imágenes; alternar diferentes palabras clave dará como resultado imágenes, estilos y temas diferentes.
Pero el sistema tiene un comportamiento extraño: está escribiendo su propio idioma con arreglos aleatorios de letras, y los investigadores no saben por qué.
Giannis Daras, un Ph.D. en ciencias de la computación. estudiante de la Universidad de Texas, publicó un hilo de Twitter que detalla el nuevo lenguaje inexplicable de DALLE-E2.
Daras le dijo a DALLE-E2 que creara una imagen de «agricultores hablando de verduras» y el programa lo hizo, pero el discurso de los agricultores decía » vicootes «, una palabra desconocida de IA.
Daras introdujo «vicootes» en el sistema DALLE-E2 y obtuvo imágenes de vegetales.
«Luego alimentamos las palabras: ‘Apoploe vesrreaitars’ y obtenemos pájaros». Daras escribió en Twitter.
«¡Parece que los granjeros están hablando de pájaros, jugando con sus vegetales!»
Daras y un coautor han escrito un artículo sobre el «vocabulario oculto» de DALLE-E2.
Reconocen que decirle a DALLE-E2 que genere imágenes de palabras (el comando «una imagen de la palabra avión» es el ejemplo de Daras) normalmente hace que DALLE-E2 escupa «texto incomprensible».
Cuando se vuelva a conectar a DALLE-E2, ese texto incomprensible dará como resultado imágenes de aviones, lo que dice algo sobre la forma en que DALLE-E2 habla y piensa sobre sí mismo.
Algunos investigadores de IA argumentaron que el texto incomprensible de DALLE-E2 es » ruido aleatorio «.
Con suerte, no llegamos a encontrar que el segundo idioma de DALLE-E2 era una falla de seguridad que necesitaba ser reparada después de que sea demasiado tarde.
