El CEO y cofundador de Anthropic, Dario Amodei, ha hecho un llamado a la industria de la inteligencia artificial (IA) para que se desacelere el ritmo de mejora de sus capacidades. En un posteo en su blog personal, Amodei expresó su preocupación por el avance acelerado de la IA y la necesidad de implementar modelos de auditorías de terceras partes en las empresas para prevenir posibles catástrofes en la ciberseguridad a nivel mundial.
Este planteo fue respaldado por el jefe de OpenAI, Sam Altman, y el director de SpacexAI, Elon Musk. Amodei advirtió sobre el peligro de un enjambre de agentes de IA tomando control de Internet en un corto plazo, causando daños económicos masivos si no se implementan las salvaguardas necesarias.
El CEO de Anthropic propuso una estrategia en tres fases para regular el avance de la tecnología IA sin perder la ventaja competitiva, especialmente en el contexto de la carrera tecnológica con China. Una de las medidas clave es la apertura de las instalaciones de Anthropic a evaluadores externos independientes para auditar los procesos de entrenamiento de sus modelos.
Amodei también señaló la importancia de establecer estándares comunes de seguridad y limitar la velocidad de automejora recursiva de los sistemas de IA para evitar un crecimiento descontrolado. Además, propuso acuerdos con China para regular el uso de la IA en campos como ciberseguridad y biología, así como limitar la venta de tecnología avanzada para mantener una ventaja competitiva.
El mensaje de Amodei fue respaldado por Altman y Musk, quienes coincidieron en la necesidad de moderar el avance de la IA. Esta postura surge en medio de debates sobre el riesgo de la IA, especialmente después de un mensaje alarmante de un exinvestigador de Anthropic que advirtió sobre los peligros de los modelos de superinteligencia artificial.
