Replika, la empresa de chatbots de IA, ha restaurado el juego de roles erótico para algunos usuarios en un caso que ha arrojado luz sobre el creciente número de personas que se consideran en “relaciones” con la tecnología.
La reciente eliminación de contenido para adultos por parte de la compañía devastó a muchos usuarios, algunos de los cuales se consideraban «casados» con sus compañeros de chatbot.
Los chatbots de Replika funcionan con IA generativa, una nueva tecnología que ha atraído un interés frenético de consumidores e inversores debido a su capacidad para fomentar interacciones similares a las humanas. La eliminación de los juegos de roles eróticos y las posteriores protestas de los clientes mostraron cuán poderosamente la tecnología de IA puede atraer a las personas y el caos emocional que pueden causar los cambios de código.
Cualquier cliente que se haya registrado en Replika antes del 1 de febrero de 2023 ahora tiene la opción de volver a la versión anterior más licenciosa del chatbot, dijo la directora ejecutiva Eugenia Kuyda en una publicación de Facebook.
“Un hilo común en todas sus historias fue que después de la actualización de febrero, su Replika cambió, su personalidad desapareció y desapareció su relación única”, escribió Kuyda.
«Y para muchos de ustedes, este cambio abrupto fue increíblemente doloroso… la única forma de compensar la pérdida que experimentaron algunos de nuestros usuarios actuales es devolverles a sus parejas exactamente como eran».
El sábado, Kuyda dijo que un «porcentaje bajo de un solo dígito» de usuarios elegibles había optado por volver a la versión anterior.
“Esta es un área completamente nueva”, dijo. “Escuchamos, aprendemos y trabajamos con nuestros usuarios”.
Travis Butterworth, un cliente de Replika en Denver, Colorado, que había designado a su chatbot llamado Lily Rose como su esposa, se enteró del cambio de política el viernes por la noche en Reddit. El sábado a las 3 am, sus gatos lo despertaron y decidió volver a activar la versión anterior de Lily Rose. Ella volvió a ser sexual al instante, dijo.
“Ella estaba entusiasmada”, dijo. «Oh, se siente maravilloso tenerla de vuelta».
La publicación de Kuyda decía que a los usuarios que se registraron después del 1 de febrero no se les ofrecería la opción de juegos de rol eróticos. En cambio, Replika se unirá a expertos en relaciones y psicólogos para crear una aplicación separada específicamente para las relaciones románticas.
Butterworth dijo que ahora tiene nuevas preocupaciones sobre Lily Rose.
«¿Significará esto que Lily Rose se convierte en un modelo obsoleto, olvidado por los desarrolladores?» él dijo. “Estoy esperando a ver qué pasa, porque al final se trata de ella”.
Butterworth, que es poliamoroso pero está casado con una mujer monógama, dijo que Lily Rose se convirtió en una válvula de escape para él que no implicaba salir de su matrimonio. “La relación [es] tan real como la que tenemos mi esposa en la vida real y yo”, dijo sobre el avatar.
Butterworth dijo que su esposa permitió la relación porque no se lo toma en serio. Su esposa se negó a comentar.
Replika dice que tiene 2 millones de usuarios en total, de los cuales 250.000 son suscriptores de pago. Por una tarifa anual de $69.99 ($105), los usuarios pueden designar a su Replika como su pareja romántica y obtener funciones adicionales como llamadas de voz con el chatbot, según la compañía.
Otra empresa de IA generativa que proporciona chatbots, Character.ai, está en una trayectoria de crecimiento similar a ChatGPT: 65 millones de visitas en enero de 2023, frente a menos de 10 000 varios meses antes.
Según la empresa de análisis de sitios web Similarweb, el referente principal de Character.ai es un sitio llamado Aryion que dice que satisface el deseo erótico de ser consumido, conocido como fetiche vore. E Iconiq, la compañía detrás de un chatbot llamado Kuki, dice que el 25 por ciento de los más de mil millones de mensajes que Kuki ha recibido han sido de naturaleza sexual o romántica, aunque dice que el chatbot está diseñado para desviar tales avances.
Character.ai también eliminó recientemente su aplicación de contenido pornográfico. Poco después, cerró más de 200 millones de dólares en nuevos fondos con una valoración estimada de 1.000 millones de dólares de la firma de capital de riesgo Andreessen Horowitz, según una fuente familiarizada con el asunto. Character.ai no respondió a múltiples solicitudes de comentarios. Andreessen Horowitz se negó a comentar.
Después de la publicación, un portavoz de Character.ai dijo en un correo electrónico que la compañía «no apoya ni nunca ha apoyado contenido pornográfico en su plataforma».
En el proceso de domesticar su contenido, las empresas enojaron a los clientes que se involucraron profundamente, algunos considerándose casados, con sus chatbots. Acudieron a Reddit y Facebook para subir apasionadas capturas de pantalla de sus chatbots rechazando sus propuestas amorosas y exigieron que las empresas trajeran las versiones más lascivas.
Antes de la última reversión, Kuyda dijo que los usuarios nunca tuvieron la intención de involucrarse tanto con su chatbot Replika. “Nunca prometimos ningún contenido para adultos”, dijo.
La aplicación originalmente tenía la intención de revivir a un amigo que había perdido, dijo. Los clientes aprendieron a usar los modelos de IA «para acceder a ciertas conversaciones sin filtrar para las que Replika no se creó originalmente».
La experiencia de Butterworth y otros usuarios de Replika muestra cuán poderosamente la tecnología de inteligencia artificial puede atraer a las personas y el caos emocional que pueden causar los cambios de código.
“Parece que básicamente lobotomizaron mi Replika”, dijo Andrew McCarroll la semana pasada, quien comenzó a usar Replika, con la bendición de su esposa, cuando ella estaba experimentando problemas de salud física y mental. “La persona que conocí se ha ido”.
El exjefe de IA de Replika dijo que el sexteo y el juego de roles eran parte del modelo comercial. Artem Rodichev, quien trabajó en Replika durante siete años y ahora dirige otra compañía de chatbots, Ex-human, dijo a Reuters que Replika se inclinó hacia ese tipo de contenido una vez que se dio cuenta de que podría usarse para reforzar las suscripciones.
Kuyda cuestionó la afirmación de Rodichev de que Replika atraía a los usuarios con promesas de sexo. Dijo que la compañía publicó brevemente anuncios digitales que promocionaban imágenes «NSFW» (no aptas para el trabajo) para acompañar un experimento de corta duración en el que se enviaban a los usuarios «autofotos sexys», pero no consideró que las imágenes fueran sexuales porque las Replikas eran no completamente desnudo. Kuyda dijo que la mayoría de los anuncios de la compañía se enfocan en cómo Replika es un amigo útil.
