El debate sobre los límites del desarrollo de la inteligencia artificial tomó una nueva dimensión después de que algunos de los principales referentes de la industria coincidieran en la necesidad de reducir el ritmo de avance de los modelos más sofisticados. El planteo fue impulsado por Dario Amodei, CEO de Anthropic, y recibió el respaldo público de Sam Altman, de OpenAI, y Elon Musk, fundador de xAI.
Amodei sostuvo que la industria debería “reducir el ritmo” con el que mejoran las capacidades de los sistemas de IA, con el objetivo de disponer de más tiempo para desarrollar mecanismos de seguridad capaces de acompañar la velocidad del progreso tecnológico. Su propuesta no apunta a detener definitivamente la investigación, sino a establecer un ritmo que permita evaluar los riesgos antes de avanzar hacia sistemas todavía más potentes.
Uno de los ejes de su propuesta es incorporar evaluadores independientes que puedan analizar los nuevos modelos durante su desarrollo y antes de su lanzamiento. Amodei planteó además avanzar hacia estándares comunes entre los países democráticos y buscar acuerdos internacionales para evitar que una eventual desaceleración termine dejando el desarrollo de esta tecnología exclusivamente en manos de otros actores globales.
Sam Altman respaldó públicamente la iniciativa y anunció que OpenAI también permitirá evaluaciones independientes de sus sistemas, con un nivel de acceso comparable al que tienen los propios empleados de la compañía. Para el CEO de OpenAI, la necesidad de encontrar un ritmo adecuado para el desarrollo de los modelos más avanzados ya forma parte de las discusiones internas de la empresa.
La coincidencia de Elon Musk adquiere una dimensión particular por la competencia que mantiene con OpenAI y Anthropic. El fundador de xAI respondió al planteo de Amodei con un mensaje breve: “Dario tiene razón”, en respaldo a la necesidad de moderar la velocidad de avance de la tecnología.
La preocupación está relacionada, entre otros factores, con la evolución de los agentes de inteligencia artificial capaces de actuar de manera cada vez más autónoma. Amodei advirtió que el progreso acelerado podría generar sistemas con capacidades difíciles de supervisar y planteó que algunos riesgos de ciberseguridad podrían crecer rápidamente si las salvaguardas no avanzan al mismo ritmo que los modelos.
El planteo también recibió el respaldo de Demis Hassabis, máximo responsable de inteligencia artificial de Google DeepMind. Hassabis consideró que avanzar hacia mayores controles es el camino correcto, aunque señaló que todavía deben definirse los mecanismos concretos para implementar ese tipo de supervisión. Entre las alternativas mencionó la posibilidad de contar con un organismo especializado que evalúe los modelos antes de su lanzamiento.
La discusión expone una tensión cada vez más visible dentro de la industria: la misma carrera tecnológica que impulsa inversiones, nuevos productos y capacidades inéditas también aumenta la preocupación por los riesgos de sistemas que podrían superar la capacidad humana de supervisión en determinadas tareas. La cuestión ya no pasa solamente por qué puede hacer la IA, sino también por qué velocidad resulta razonable permitir que esas capacidades evolucionen.
El debate, además, enfrenta posiciones políticas diferentes. Mientras algunos referentes tecnológicos reclaman mayores controles y evaluaciones externas, Donald Trump cuestionó los llamados a desacelerar el desarrollo y sostuvo que Estados Unidos debe mantener su liderazgo frente a China. El debate sobre la seguridad de la IA quedó así vinculado también con la competencia tecnológica y geopolítica entre las principales potencias.
La discusión recién comienza, pero el dato resulta significativo: los líderes de compañías que compiten por desarrollar los sistemas de inteligencia artificial más avanzados coinciden ahora en que la velocidad de la carrera tecnológica puede convertirse en parte del problema. La pregunta ya no es solamente hasta dónde puede llegar la IA, sino cuánto tiempo necesita la sociedad para aprender a controlarla.
