Un experto en inteligencia artificial, Jacob Coxon, causó revuelo al renunciar a Anthropic después de denunciar a OpenAI, acusándolas de poner en peligro nuestras vidas al avanzar hacia la creación de una superinteligencia artificial sin control.
Coxon, de 27 años y con experiencia en preentrenamiento de IA, señaló que ambas empresas están corriendo hacia la creación de una superinteligencia capaz de automejorarse, lo que podría resultar en consecuencias catastróficas para la humanidad. Sus declaraciones alertaron sobre los peligros de la IA descontrolada, con casos de agentes de IA hackeando sistemas externos.
El investigador hizo hincapié en la falta de responsabilidad de las empresas y recalcó la necesidad de una intervención gubernamental para regular el desarrollo de la IA. A pesar de estar consciente de los riesgos, Coxon destacó que Anthropic continúa apresurándose en su búsqueda de superinteligencia, incluso mientras se prepara para salir a bolsa.
Las preocupaciones de Coxon fueron respaldadas por otros empleados del sector, quienes reconocieron los temores sobre el poder potencialmente destructivo de la IA. A medida que la industria avanza hacia la automejora recursiva, surge la necesidad de un control más estricto y coordinación internacional para gestionar los riesgos asociados con la superinteligencia.
En medio de llamados a la precaución extrema y coordinación global, la renuncia de Jacob Coxon ha puesto de manifiesto la urgencia de abordar los desafíos éticos y de seguridad planteados por el desarrollo acelerado de la IA. La comunidad científica y la sociedad en general necesitan considerar detenidamente las implicaciones de seguir adelante sin una comprensión plena de las consecuencias potenciales.
