En TikTok, es posible que hayas visto a Tom Cruise tocando la guitarra acústica con una camiseta blanca y una gorra de béisbol verde. Es posible que hayas visto a Tom Cruise mirarse sin camisa en el espejo del baño. O jugando al golf con un polo blanco y un sombrero de fieltro.
Pero Tom Cruise no está en TikTok.
Todas estas apariciones de Tom Cruise fueron videos falsos, videos generados por computadora que trasplantan la cara, la voz y la apariencia general de una persona a otro cuerpo (en este caso, el actor Miles Fisher).
Casi todo lo relacionado con las falsificaciones profundas es controvertido. El término, una mezcla de «aprendizaje profundo» y «falso», se originó en una comunidad de Reddit en 2017 que actualizó videos pornográficos con rostros de celebridades, lo que provocó una disputa ética en torno a la tecnología. Si bien los videos manipulados no se originaron en un subreddit ni la pornografía falsa de celebridades, la terrible experiencia llevó a las falsificaciones profundas, tanto el término como el concepto, al frente de los debates tecnológicos éticos.
En una era de creciente desinformación y ciberataques, el riesgo más preocupante en torno a la tecnología deepfake es la propaganda política hostil, que puede desencadenar protestas o violencia. Un estudio reciente de investigadores de Harvard, Penn State y la Universidad de Washington en St. Louis muestra que las falsificaciones profundas pueden convencer a aproximadamente la mitad de los que ven el material de escándalos políticos falsos.
Las plataformas de redes sociales ya se están preparando para otra poderosa herramienta para manipular el ecosistema de información. Desde el video falso de Jordan Peele de Barack Obama en 2018, Twitter y otros sitios de redes sociales han introducido el etiquetado obligatorio para los medios sintéticos. Eso no ha hecho mella en su popularidad. La cuenta Deep Tom Cruise acumuló 3,3 millones de seguidores en TikTok.
Es algo convincente: Tom parece pasar por alto el inquietante punto medio entre los rostros humanos y humanoides. La firma detrás de Deep Tom Cruise se llama Metaphysic, dirigida por los cofundadores Tom Graham y Chris Ume, y acaba de recaudar $ 7.5 millones en una ronda inicial dirigida por la Sección 32 e incluye a los gemelos Winklevoss y al YouTuber Logan Paul. Quartz habló con Graham sobre la empresa, el caso de la tecnología deepfake, el metaverso, web3 y, por supuesto, Tom Cruise.
¿Qué es Deep Tom Cruise?
DeepTom Cruise Stuff es un proyecto de arte: una colaboración con el artista Miles Fisher para crear conciencia sobre las falsificaciones profundas hiperreales que podrían generar información errónea o algún tipo de daño para los usuarios. Deep Tom Cruise se convirtió en el punto de inflexión icónico de los medios hiperrealistas. Realmente fue la primera vez que la gente se confundió genuinamente y millones de personas se preguntaron a primera vista: «¿Ese es Tom Cruise?» La intención nunca fue engañarlos, y estaba claramente etiquetado como debería ser el metraje manipulado de los medios, pero el impacto fue realmente bastante profundo. Mucha gente ha creado connotaciones negativas en torno al término deepfakes, que en realidad es una especie de subconjunto muy pequeño de medios sintéticos. Los filtros de Instagram dependen en gran medida de la IA para cambiar las caras. Eso es medios sintéticos. Los grandes creadores de contenido como Disney usan este tipo de tecnología: South Park la usa. Una gran cantidad de medios sintéticos en el frente de audio se implementan en podcasts sin que nadie lo sepa realmente.
¿Cómo piensa implementar deepfakes de manera ética?
Los deepfakes se han caracterizado como potencialmente negativos, principalmente debido al potencial de desinformación política. Hay vulnerabilidades particulares para países pequeños con democracias frágiles donde un líder particularmente mal intencionado podría tratar de controlar el flujo de información o denunciar a su oponente o algo por el estilo.
El otro problema es la violencia sexual digital, predominantemente contra las mujeres, en algún tipo de pornografía de venganza o pornografía de intercambio de rostros falsos, que es profundamente inquietante. Creo que todos en la industria que desarrollan la tecnología son bastante diligentes, piensan de manera activa y responsable sobre cómo implementan y desarrollan la tecnología y quiénes la ponen a disposición para combatir exactamente esos tipos de daños.
¿Cómo llegamos a un lugar donde podamos usar esta tecnología de manera responsable?
El punto más destacado es en torno al consentimiento. Solo trabajaremos con el consentimiento para cosas comerciales (proyectos de medios sintéticos con fines comerciales) donde haya consentimiento de la persona cuya imagen sintética se está creando, y eso está generalizado en toda la industria. Y luego está la idea de tener una capa web3 donde tú o yo poseemos nuestros propios datos y esos datos se usan para crear una imagen sintética de nosotros. Proporciona una especie de mecanismo transparente y auditable para que podamos dar nuestro consentimiento a un tercero como Zoom, Microsoft o Activision, cualquiera que vaya a crear el contenido o nos ponga dentro de la experiencia del contenido en el futuro.
Nos gustaría imaginar un mundo en el que a las personas les resulte difícil utilizar este tipo de datos biométricos realmente importantes. Creemos que las tecnologías de cadena de bloques son bastante buenas para hacer eso y lo combinan con incentivos económicos. Si tiene una buena manera de pagar a decenas de millones de personas, tal vez pequeñas microtransacciones, pequeñas cantidades se acumulan con el tiempo. Creo que eso es una bendición para las personas que crean productos en el futuro, especialmente cuando estos productos dependen de una gran cantidad de datos.
¿Quién debe dar su consentimiento en estas circunstancias? ¿La gente que está siendo imitada?
Sí, el consentimiento de una persona cuya imagen sintética se está recreando. Si pones eso en el contexto de un actor famoso, si no quiere estar en una película, simplemente no aparece. Entonces, ¿cómo niega ese consentimiento en un entorno virtual donde de repente alguien tiene sus datos y no se necesita una gran cantidad de datos para crear una representación sintética de usted?
Es una tecnología relativamente difícil pero cada vez es más fácil como todas las tecnologías. Hay cuellos de botella de hardware en términos de lo que puede hacer, problemas de ancho de banda, se necesita una gran cantidad de datos y mucho dinero. Hay barreras de entrada que se irán reduciendo con el tiempo. Entonces, tenemos un cierto período para configurar como un conjunto de normas y estándares donde el usuario y el consentimiento están realmente en primer plano. Las personas que crean productos, las empresas de tecnología, los desarrolladores de código abierto, los aficionados, las personas que crean cosas, todos necesitan pensar realmente en la experiencia humana del contenido en el metaverso.
¿Tuviste el consentimiento de Tom Cruise para hacer Deepfake Tom?
De hecho, comenzó como una especie de proyecto artístico colaborativo entre Chris Ume, mi cofundador, y Miles, el actor. Nos comunicamos con el equipo de Tom Cruise muchas veces y finalmente escuchamos de ellos, pero no tenían ningún comentario específico de ninguna manera. Entonces les ofrecimos darles propiedad, aportes, la oportunidad de decir que no les gustaba y, finalmente, regresaron y no hicieron ningún comentario específico, lo cual es justo.
También están sucediendo muchas cosas en torno al consentimiento, lo que creo que requiere una discusión matizada porque en el mundo de la tecnología, estás hablando de actores relativamente poderosos que crean productos que tratan con usuarios regulares en un entorno comercial. Pero hay muchísimos casos en los que las personas crean contenido donde, desde el punto de vista de la libertad de expresión, desde el punto de vista de la democracia liberal occidental, es muy importante que las personas puedan decir la verdad al poder para crear comentarios, parodias y sátira. No creo que Deep Tom Cruise sea una parodia política, pero creo que es un elemento importante de nuestra sociedad que seamos capaces de crear cosas así. Eso juega con el uso justo y la libertad de expresión.
¿Cuál es tu negocio en este momento? ¿A quién le estás vendiendo?
Somos líderes en el espacio de la creación de medios sintéticos hiperrealistas. ¿Dónde encuentras ese tipo de medios hoy en día? En general, debido a que es relativamente difícil, es contenido de alto valor: películas, anuncios, comerciales, contenido social inspirado en TikTok en nombre de alguien con una propiedad intelectual muy valiosa o alguien con muchos seguidores.
También usamos esos proyectos comerciales para alimentar nuestra canalización de desarrollo de tecnología para que, relativamente pronto, podamos escalar la creación ética de experiencias de contenido hiperreal para los usuarios a escala de Internet. Podríamos estar haciendo esta llamada telefónica como nosotros mismos hiperreales. Podrías imaginarte yendo al cine del metaverso para ver Misión Imposible 7 o 12 de Tom Cruise y es un tipo de juego totalmente inmersivo, una experiencia hiperreal. Y de repente estás interpretando a uno de los personajes, o en cambio, das un paso atrás y te conviertes en uno de los extras.
Su visión del metaverso parece basarse en cadenas de bloques que rastrean la propiedad y el consentimiento. ¿Es esto posible sin cadenas de bloques?
Creo que, en un nivel, su pregunta se basa en una visión del metaverso que, lamentablemente, ha sido cooptada por los jugadores y la tecnología monocultural como Ready Player One . Cuando las personas piensan en el metaverso, piensan en avatares similares a juegos que se ejecutan en este mundo de juegos y puedes hacer lo que quieras. Cuando lo pienso, es un metaverso multiplataforma en el que no se trata de la vida real, sino de experiencias profundamente atractivas y gratificantes entre las comunidades en línea.
Miro TikTok. Ves personas interpretando todo tipo de personajes y luego personas haciendo duetos y luego creando su propio contenido además de eso [nota del editor: un dueto en TikTok es una respuesta en video a otro video]. Hay un ecosistema real en torno al contenido y la conexión humana y el entretenimiento y el compromiso allí, que no tiene ningún tipo de capa criptográfica ni nada por el estilo. Eso, para mí, crea como mini pequeños metaversos. Puedes pensar en DeepTom Cruise en Tik Tok como su propio tipo de universo paralelo por lo que Tom Cruise podría ser si tuviera treinta y tantos años y TikTok apareciera y decidiera hacer mucho contenido irreverente.
Ready Player One no se basó en ningún fondo criptográfico: era una gran empresa centralizada. Entonces, en ese tipo de dicotomía entre metaverso cerrado y abierto, creo que, en última instancia, los metaversos web3 abiertos ganarán el mismo tipo de tracción que los metaversos de sistema cerrado. Tal vez Facebook es un sistema cerrado y luego permiten la interoperabilidad con sistemas abiertos. Pero debido a la capacidad de atraer desarrolladores, crear contenido interesante y participar más directamente en la economía, como la conexión directa de los usuarios y su dinero a través de la atención y el creador de contenido sin intermediarios, sin ningún tipo de empresa Big Tech en el medio, eso crea tanto incentivo económico que creo que es imposible que esas plataformas abiertas realmente no exploten y florezcan.
Alejándonos, ¿por qué deberíamos querer versiones falsas de nosotros mismos? ¿Por qué no podemos parecer robots o avatares de dibujos animados sin piernas en el metaverso?
Tenemos el potencial de ser quienes queramos en el metaverso en cualquier momento en el futuro. Pero si observa los tropos estándar del comportamiento humano, tome las citas en línea, por ejemplo. Pasamos mucho tiempo maquillándonos, acicalándonos, haciéndonos lucir bien a través de fotos en un perfil de Tinder, o algo por el estilo. Y hacemos todo ese esfuerzo para modificar y manipular la forma en que aparecemos en línea para otra persona. Pero no nos convertimos en robots o no nos ponemos cuernos. Probablemente tome mucho tiempo, pero tampoco es como un comportamiento humano estándar. Si usamos ese tipo de lógica para decir, compras en línea, si te estás probando una chaqueta o un vestido dentro de la tienda Gucci del metaverso en línea, no querrás probártelo como un dragón o una vaca espacial loca.
