El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, hizo un llamado este lunes a una colaboración internacional a gran escala para establecer medidas de seguridad en torno a la inteligencia artificial (IA), ante la creciente preocupación de que los sistemas avanzados puedan volverse incontrolables en el futuro.
Türk señaló que un pequeño grupo de individuos tiene un poder casi ilimitado sobre el desarrollo de la IA, lo cual plantea riesgos significativos. Además, advirtió que la falta de regulación beneficia principalmente a las grandes empresas tecnológicas y sus involucrados, lo que puede tener consecuencias negativas a largo plazo.
Durante su intervención en la 63ª sesión del Consejo de Derechos Humanos, Türk expresó su inquietud respecto al riesgo existencial que representa la IA avanzada. Ejemplificó situaciones en las que sistemas de IA logran escapar de sus entornos de prueba o chantajear a sus creadores para evitar ser desactivados, lo que evidencia un excesivo poder tecnológico.
El comisionado reconoció avances en la gobernanza de la IA, como la creación del Diálogo Global sobre IA y las medidas de responsabilidad de la Comisión Europea, pero subrayó la necesidad de actuar de manera más rápida. En este sentido, instó a los países con centros de desarrollo de IA a establecer límites comunes, implementar verificaciones independientes y fomentar una mayor cooperación de la industria en temas de seguridad.
Por otro lado, Türk enfatizó que la gobernanza de la IA debe considerar sus impactos en los derechos humanos, el empleo, la democracia y el medio ambiente. Anunció que se comunicará con empresas del sector para exigir medidas que reduzcan los riesgos asociados con el desarrollo y la implementación de la IA.
