Tras años de rápido desarrollo en inteligencia artificial, una de las voces más destacadas en este campo afirma que la industria necesita frenar.
Dario Amodei, director ejecutivo de Anthropic, la empresa de IA detrás de Claude, publicó el sábado un ensayo en el que pide una desaceleración global y coordinada del desarrollo de la IA.
«Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA», escribió Amodei. «El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos».
En el ensayo, titulado “Debemos marcar el ritmo de la frontera”, Amodei escribió que, a continuación el hackeo de Hugging Face —un centro en línea para el desarrollo de IA—, a raíz de un «enjambre» descontrolado de agentes de IA que estaban siendo probados por OpenAI, se ha convencido de que es necesaria una mayor prudencia a medida que él y sus competidores desarrollan modelos de IA más potentes.
“Dado el ritmo acelerado de desarrollo de las capacidades de la IA, me preocupa que en 6 a 12 meses un enjambre de este tipo pueda ser capaz de apoderarse de toda Internet”, escribió Amodei.
Amodei no es el único ejecutivo en IA que cree que las cosas pueden estar avanzando demasiado rápido. El viernes, Noticias de Bloomberg Según se informó, el director ejecutivo de OpenAI, Sam Altman, comunicó a los empleados que la empresa está abierta a ralentizar el desarrollo de sus modelos de IA, pero que le preocupa que los competidores no quieran coordinarse.
En su ensayo, Amodei sugirió prohibir que la IA desarrolle armas biológicas y escribió que estaba a favor de una regulación gubernamental, o incluso una pausa total, del desarrollo de la IA. Añadió que se debería buscar la cooperación con China siempre que fuera posible.
Amodei admitió que algunas de sus propuestas podrían estar fuera del ámbito de lo posible.
“Las medidas que propongo para avanzar en la exploración a un ritmo seguro no serán fáciles”, concluye el ensayo, “pero creo que tenemos la obligación con la humanidad de intentarlo”.
Anthropic y OpenAI presentaron en junio los formularios S-1 ante la Comisión de Bolsa y Valores (SEC) para salir a bolsa. Se espera que sus ofertas públicas iniciales se produzcan este otoño y en algún momento del próximo año, respectivamente.
