Expertos en Inteligencia Artificial alertan sobre los riesgos de renunciar a sus empleos en el sector
En medio de la discusión sobre los posibles peligros del avance de la Inteligencia Artificial y las llamadas de Anthropic y OpenAI para establecer regulaciones, dos ex empleados de Google DeepMind han publicado cartas abiertas expresando su preocupación por los riesgos que podrían surgir tras dejar sus puestos de trabajo.
Bilal Chughtai y Josh Engels, antiguos trabajadores de Google DeepMind, área especializada en el desarrollo de IA, han compartido sus opiniones individuales que se suman al debate público sobre esta tecnología.
Chughtai, quien se desempeñaba como ingeniero en Seguridad y Alineamiento de modelos de Inteligencia Artificial General (AGI), expresó en redes sociales su inquietud respecto al avance de la IA y su potencial para acabar con la humanidad si no se toman medidas adecuadas.
Por su parte, Engels también manifestó su preocupación, destacando la necesidad de controlar el desarrollo de la IA para garantizar su seguridad. Ambos técnicos han renunciado a sus empleos en Google DeepMind y se han sumado a la petición de desacelerar el avance de la tecnología para evitar posibles consecuencias catastróficas.
Además, señalan la importancia de comprender y alinear adecuadamente los modelos de IA para garantizar su correcto funcionamiento. Engels enfatiza en el riesgo que representa la Automejora recursiva, donde los sistemas de IA pueden entrenar versiones mejoradas de sí mismos, lo que podría resultar en situaciones peligrosas si no se controla debidamente.
Estas advertencias se suman a la solicitud de desaceleración en el desarrollo de la IA y la implementación de auditorías de terceras partes realizada por el CEO de Anthropic, Dario Amodei, respaldada por destacadas figuras como Sam Altman y Elon Musk. Este llamado pretende prevenir posibles catástrofes en la ciberseguridad a escala global.
Estas medidas propuestas llegan en un momento de disputas con China y en medio de informes que indican pérdidas significativas para empresas como OpenAI. Según informes, OpenAI registró importantes pérdidas operativas en el segundo trimestre de 2026, lo que pone de manifiesto la complejidad y los desafíos económicos que aún enfrenta el sector de la IA.
