Vía Wired
Puede parecer una solución perfecta: un software desapasionado que agiliza las agendas de regímenes cobardes, pero descubrirán que la tecnología es un arma de doble filo.
La IA suele considerarse una amenaza para las democracias y una bendición para los dictadores . En 2025, es probable que los algoritmos sigan socavando el diálogo democrático difundiendo indignación, noticias falsas y teorías conspirativas. En 2025, los algoritmos también seguirán acelerando la creación de regímenes de vigilancia total, en los que se vigilará a toda la población las 24 horas del día.
Lo más importante es que la IA facilita la concentración de toda la información y el poder en un único centro . En el siglo XX, las redes de información distribuida como las de Estados Unidos funcionaban mejor que las redes de información centralizadas como las de la URSS, porque los funcionarios humanos del centro simplemente no podían analizar toda la información de manera eficiente. Reemplazar a los funcionarios por IA podría hacer que las redes centralizadas de estilo soviético fueran superiores .
Sin embargo, la IA no es todo buenas noticias para los dictadores . 1. En primer lugar, está el notorio problema del control . El control dictatorial se basa en el terror, pero los algoritmos no pueden ser aterrorizados . En Rusia, la invasión de Ucrania se define oficialmente como una “operación militar especial”, y referirse a ella como una “guerra” es un delito que se castiga con hasta tres años de prisión. Si un chatbot en la Internet rusa la llama “guerra” o menciona los crímenes de guerra cometidos por las tropas rusas, ¿cómo podría el régimen castigar a ese chatbot? El gobierno podría bloquearlo y tratar de castigar a sus creadores humanos, pero esto es mucho más difícil que disciplinar a los usuarios humanos. Además, los bots autorizados podrían desarrollar puntos de vista disidentes por sí mismos, simplemente detectando patrones en la esfera de información rusa. Ese es el problema de la alineación, al estilo ruso. Los ingenieros humanos de Rusia pueden hacer todo lo posible para crear IA que estén totalmente alineadas con el régimen, pero dada la capacidad de la IA de aprender y cambiar por sí misma, ¿cómo pueden los ingenieros garantizar que una IA que obtuvo el sello de aprobación del régimen en 2024 no se aventure en territorio ilícito en 2025?
La Constitución rusa hace promesas grandilocuentes de que “se garantizará a todos la libertad de pensamiento y expresión” (artículo 29.1) y “se prohibirá la censura” (artículo 29.5). Casi ningún ciudadano ruso es lo suficientemente ingenuo como para tomarse en serio estas promesas. Pero los bots no entienden el doble sentido. Un chatbot con instrucciones de adherirse a la ley y los valores rusos podría leer esa constitución, concluir que la libertad de expresión es un valor ruso central y criticar al régimen de Putin por violar ese valor. ¿Cómo podrían los ingenieros rusos explicarle al chatbot que, aunque la constitución garantiza la libertad de expresión, el chatbot no debería creer en la constitución ni mencionar jamás la brecha entre la teoría y la realidad?
A largo plazo, los regímenes autoritarios probablemente se enfrentarán a un peligro aún mayor: en lugar de criticarlos, las IA podrían hacerse con su control . A lo largo de la historia, la mayor amenaza para los autócratas solía provenir de sus propios subordinados . Ningún emperador romano ni primer ministro soviético fue derrocado por una revolución democrática, pero siempre estuvieron en peligro de ser derrocados o convertidos en títeres por sus propios subordinados. Un dictador que conceda demasiada autoridad a las IA en 2025 podría convertirse en su títere en el futuro.
Las dictaduras son mucho más vulnerables que las democracias a este tipo de toma de poder algorítmica. Sería difícil incluso para una IA supermaquiavélica acumular poder en un sistema democrático descentralizado como Estados Unidos. Incluso si la IA aprende a manipular al presidente estadounidense, podría enfrentarse a la oposición del Congreso, la Corte Suprema, los gobernadores estatales, los medios de comunicación, las grandes corporaciones y diversas ONG. ¿Cómo se las arreglaría, por ejemplo, el algoritmo con una maniobra obstruccionista del Senado?
Tomar el poder en un sistema altamente centralizado es mucho más fácil. Para hackear una red autoritaria, la IA necesita manipular a un solo individuo paranoico.
