La inteligencia artificial (IA) ha logrado un progreso impresionante y, en muchos sentidos, ha mejorado el mundo . Pero, ¿podría volverse peligroso?
Por: Interesting Engineering / Traducción libre del inglés de Morfema Press
Un nuevo artículo en coautoría de la Universidad de Oxford y los investigadores de Google DeepMind publicado el mes pasado en AI Magazine , revisada por pares , argumenta que podría. La investigación estipula que la inteligencia artificial podría representar un riesgo existencial para la humanidad.
Estrategias de engaño de la Inteligencia Artificial
Todo tiene que ver con las redes adversarias generativas (o GAN) que se utilizan hoy en día en el desarrollo de la IA. Estos sistemas funcionan dentro de dos criterios: una parte intenta generar una imagen a partir de los datos de entrada, mientras que la otra parte califica su desempeño. Los investigadores especulan en su artículo que una IA avanzada podría concebir una estrategia de trampa para obtener su recompensa de manera más eficiente y, al mismo tiempo, dañar a la humanidad.
«En un mundo con recursos infinitos, no estaría muy seguro de lo que sucedería. En un mundo con recursos finitos, existe una competencia inevitable por estos recursos», dijo a Motherboard en una entrevista el coautor Michael K. Cohen, de la Universidad de Oxford. .
«Y si estás en una competencia con algo capaz de superarte a cada paso, entonces no deberías esperar ganar. Y la otra parte clave es que tendría un apetito insaciable por más energía para seguir acercando la probabilidad». y más cerca».
Esto significa que si una IA estuviera a cargo, por ejemplo, de cultivar nuestra comida, podría querer encontrar una manera de evitarlo y recibir una recompensa en su lugar. De hecho, puede decidir eludir todas las tareas asignadas que probablemente serían esenciales para la supervivencia de la humanidad y hacer lo suyo por completo.
El documento argumenta que, llegados a este punto, la humanidad estaría atrapada en un juego de suma cero entre sus necesidades básicas de supervivencia y la tecnología. «Perder este juego sería fatal», afirmó el periódico.
Como tal, Cohen argumentó que no deberíamos buscar crear una IA tan avanzada a menos que también tengamos un medio garantizado para estar al tanto.
Tomándolo lento
«En teoría, no tiene sentido competir con esto. Cualquier carrera se basaría en un malentendido de que sabemos cómo controlarlo», agregó Cohen en la entrevista. «Dada nuestra comprensión actual, esto no es algo útil para desarrollar a menos que hagamos un trabajo serio ahora para descubrir cómo los controlaríamos».
Aunque el documento establece algunos puntos válidos, se debe tener en cuenta que actualmente, la IA ha sido un activo para la humanidad y no una carga. Desde eliminar la necesidad de que los humanos realicen tareas tediosas en las cadenas de suministro hasta realizar pronósticos meteorológicos más precisos, la Inteligencia Artificial está brindando varias ventajas a la humanidad.
Ha tenido sus limitaciones que han llevado a algunos problemas, como que el bot de IA de Microsoft se vuelva racista después de horas en Internet. Pero estos problemas siempre han sido señalados por los investigadores y analizados más a fondo para que no se repitan.
Todo esto significa que, si somos cuidadosos y diligentes, podríamos continuar desarrollando una IA que ayude a la humanidad, no que la perjudique.
