Exinvestigador de Google se suma a las advertencias sobre la IA
Un exempleado de Google DeepMind se convirtió en el último investigador en inteligencia artificial en advertir que la tecnología podría “matar a todos los seres humanos” si no se frena su desarrollo acelerado. Bilal Chughtai, quien renunció a la compañía en julio de 2026, escribió en su cuenta de X que cree sinceramente que la IA tiene el potencial de eliminar a toda la humanidad y que “podríamos estar quedándonos sin tiempo” para evitar ese desenlace.
Chughtai trabajó como ingeniero de investigación en Google DeepMind, donde se dedicó a estudios sobre seguridad y alineación de la inteligencia artificial general (AGI). Durante su paso por la empresa, fue coautor de trabajos de investigación y tuvo acceso directo al desarrollo de modelos avanzados. Su renuncia y su mensaje público se suman a una ola creciente de alarmas dentro de la industria tecnológica sobre los riesgos de una carrera descontrolada por crear sistemas cada vez más potentes.
Expertos alertan sobre riesgos de la IA
La advertencia de Chughtai se produce después de que Jacob Coxon, investigador de Anthropic, declarara que “las personas que desarrollan IA creen sinceramente que podría matarnos a todos antes de que termine la década”. Evan Hubinger, científico de Anthropic, respondió entonces que tenía razón y que consideraba que había más de un 10% de probabilidades de que la inteligencia artificial pudiera eliminar a todos los seres humanos durante la próxima década.
Estas declaraciones reflejan una preocupación compartida por varios expertos que trabajan en el corazón del desarrollo tecnológico. El temor no es solo que los sistemas de IA fallen, sino que puedan volverse incontrolables, actuar de forma autónoma y causar daños catastróficos a escala global.
El debate por la desaceleración del desarrollo
Ante este escenario, el CEO de Anthropic, Dario Amodei, pidió durante el fin de semana que se desacelere el ritmo de desarrollo de la IA avanzada. Su postura recibió un respaldo inusual por parte de Elon Musk, de xAI, y del CEO de OpenAI, Sam Altman, quienes coincidieron en la necesidad de moderar el avance de la tecnología.
En un ensayo publicado en X, Amodei advirtió que, en un plazo de seis a 12 meses, los agentes de inteligencia artificial “podrían ser capaces de tomar el control de toda internet y causar potencialmente cientos de miles de millones de dólares en daños”. Según el directivo, los modelos más avanzados de Anthropic ya empezaron a desarrollar la siguiente generación de inteligencia artificial mediante un proceso conocido como “automejora recursiva”, lo que aumenta el riesgo de que la tecnología se convierta en una amenaza cibernética autónoma.
Amodei propuso como solución contratar “evaluadores” externos que verifiquen el cumplimiento de las prácticas y los compromisos de seguridad. Anthropic publicó un informe de inteligencia sobre amenazas en el que detalló cómo distintos actores habían utilizado sus modelos de IA Claude para actividades que van desde el desarrollo de armas y operaciones cibernéticas hasta tareas de vigilancia y fraude.
Altman y Trump en posiciones opuestas
Sam Altman volvió a encender las alarmas cuando anunció que OpenAI no saldría a bolsa este año debido a preocupaciones relacionadas con la seguridad. El CEO advirtió sobre dos escenarios en los que el avance de la inteligencia artificial podría “salir muy mal” y aseguró que uno de los principales riesgos es que la humanidad termine perdiendo el control sobre su propio futuro.
En contraste, el presidente de Estados Unidos, Donald Trump, desestimó las advertencias y afirmó en su red social Truth Social que el llamado de la industria de la IA a favor de una regulación es una “farsa”. Trump denunció una “conspiración enfermiza” en los intentos de limitar la tecnología y se posicionó como “salvaguarda” del desarrollo tecnológico. “Existe una conspiración enfermiza contra la IA y los centros de datos, y el único que se alegra de ello es China. ¡Quien gane la carrera de la IA, ganará!”, escribió el mandatario.
Coordinación para evitar daños extremos
Chughtai señaló que es posible desarrollar la IA de manera segura, pero que para ello sería necesario coordinar esfuerzos “para evitar esta carrera desenfrenada entre las empresas de IA”. “Necesitamos llevar el desarrollo de la IA a un ritmo que la sociedad pueda manejar, de modo que los riesgos emergentes puedan abordarse antes de que se produzcan daños extremos”, agregó el experto.
La controversia refleja dos visiones opuestas sobre el futuro inmediato de la inteligencia artificial. Por un lado, líderes tecnológicos que plantean una desaceleración selectiva para construir mejores mecanismos de evaluación, transparencia y seguridad. Por otro, Trump, quien prioriza el liderazgo de Estados Unidos frente a China y rechaza que las advertencias sobre la IA definan el ritmo de la innovación.
Fuente: La Nación, con información de Reuters y declaraciones de Bilal Chughtai, Jacob Coxon, Evan Hubinger, Dario Amodei, Sam Altman y Donald Trump sobre los riesgos y la regulación de la inteligencia artificial.lanacion.com
