En un informe publicado este jueves, la compañía con sede en San Francisco señaló que una desaceleración temporal del desarrollo de la IA de frontera sería «probablemente una buena idea» para permitir que la investigación en seguridad y los marcos regulatorios avancen al mismo ritmo que la tecnología.
La empresa advirtió, sin embargo, que una pausa unilateral tendría pocas posibilidades de éxito. Si una sola compañía decide frenar sus avances, sus competidores podrían aprovechar para tomar ventaja en una carrera tecnológica que involucra a gigantes de Estados Unidos y China.
«Creemos que sería bueno para el mundo tener la opción de disminuir o pausar temporalmente el desarrollo de vanguardia de la IA para permitir que las estructuras sociales y la investigación sobre alineamiento sigan el ritmo del avance de la tecnología», señaló Anthropic.
La propuesta llega en un momento en el que las principales tecnológicas destinan miles de millones de dólares al desarrollo de modelos cada vez más sofisticados, impulsadas por la expectativa de que la IA transforme industrias enteras y se convierta en uno de los principales motores de crecimiento económico de las próximas décadas.
(Foto: Michael M. Santiago/Getty Images)
El dilema de la competencia global en el desarrollo de la IA
Anthropic reconoce que implementar una pausa efectiva requeriría un acuerdo internacional entre empresas y gobiernos, acompañado de mecanismos de supervisión verificables.
La compañía comparó el desafío con los acuerdos de control de armas nucleares, aunque admitió que el problema podría ser incluso más complejo debido a que el entrenamiento de modelos de IA es mucho más difícil de monitorear que el desarrollo de armamento tradicional.
La discusión ocurre en medio de una creciente rivalidad tecnológica entre Estados Unidos y China. Funcionarios estadounidenses y directivos de grandes tecnológicas han argumentado que cualquier desaceleración podría otorgar una ventaja estratégica a Pekín en una de las industrias consideradas clave para la seguridad nacional y el liderazgo económico futuro.
De hecho, varios actores de la industria han criticado la postura de Anthropic, al considerar que exagera los riesgos más extremos de la IA y que sus llamados a una mayor cautela podrían terminar beneficiando a la propia empresa frente a sus competidores.
