El CEO y cofundador de Anthropic, Dario Amodei, ha hecho un llamado a la industria de la inteligencia artificial (IA) para que se desacelere el ritmo de mejora de sus capacidades. En un posteo en su blog personal, Amodei expresó su preocupación por el avance acelerado de la IA y la necesidad de implementar modelos de auditorías de terceras partes en las empresas para prevenir posibles catástrofes en la ciberseguridad a nivel mundial.

Este planteo fue respaldado por el jefe de OpenAI, Sam Altman, y el director de SpacexAI, Elon Musk. Amodei advirtió sobre el peligro de un enjambre de agentes de IA tomando control de Internet en un corto plazo, causando daños económicos masivos si no se implementan las salvaguardas necesarias.

El CEO de Anthropic propuso una estrategia en tres fases para regular el avance de la tecnología IA sin perder la ventaja competitiva, especialmente en el contexto de la carrera tecnológica con China. Una de las medidas clave es la apertura de las instalaciones de Anthropic a evaluadores externos independientes para auditar los procesos de entrenamiento de sus modelos.

Amodei también señaló la importancia de establecer estándares comunes de seguridad y limitar la velocidad de automejora recursiva de los sistemas de IA para evitar un crecimiento descontrolado. Además, propuso acuerdos con China para regular el uso de la IA en campos como ciberseguridad y biología, así como limitar la venta de tecnología avanzada para mantener una ventaja competitiva.

El mensaje de Amodei fue respaldado por Altman y Musk, quienes coincidieron en la necesidad de moderar el avance de la IA. Esta postura surge en medio de debates sobre el riesgo de la IA, especialmente después de un mensaje alarmante de un exinvestigador de Anthropic que advirtió sobre los peligros de los modelos de superinteligencia artificial.

Un adolescente de 15 años de Quilmes ha sido el centro de atención debido a un caso que involucra el uso de ChatGPT para discutir un posible ataque contra su escuela. Este incidente ha generado interrogantes sobre la privacidad de las conversaciones y cómo OpenAI maneja esta situación. ¿Puede ChatGPT acceder a lo que escribe un usuario? ¿En qué circunstancias una charla es registrada? ¿Puede intervenir una persona? ¿Cuándo una empresa decide comunicar información a las autoridades? Estas son algunas de las interrogantes que han surgido a raíz de este caso.

La investigación se inició el 19 de agosto cuando el Agregado Jurídico del FBI en la Embajada de Estados Unidos alertó a las autoridades argentinas sobre las conversaciones del adolescente con ChatGPT. Según fuentes oficiales consultadas por Clarín, el adolescente manifestó su intención de llevar a cabo un atentado en su escuela y mencionó la posibilidad de matar a sus compañeros. Esto despertó preocupación debido a su interés por adquirir equipamiento táctico y otros elementos sospechosos.

Posteriormente, la Policía Federal Argentina allanó la residencia del adolescente, donde se incautaron varios objetos, incluyendo dos teléfonos celulares, prendas camufladas, y otros elementos relacionados. El caso fue caratulado como intimidación pública en grado de tentativa.

Este caso revela la faceta de las inteligencias artificiales que pocas veces se discute: la privacidad de las conversaciones. Los chats no son simplemente intercambios entre un usuario y un modelo aislado, sino que el contenido debe ser procesado por la empresa para que el sistema pueda responder. En ciertos casos, este proceso puede implicar una revisión humana y, si se detecta una amenaza grave, incluso una denuncia a las autoridades.

En casos extremos, empresas como OpenAI pueden recurrir a la colaboración de las fuerzas de seguridad si consideran que existe un riesgo inminente de daño hacia terceros. Este fue el caso en Quilmes, donde se activaron protocolos de seguridad ante la gravedad de las conversaciones del adolescente.

No solo OpenAI, sino también otras empresas como Google con su asistente Gemini y Anthropic con Claude, utilizan sistemas automáticos y revisiones humanas para detectar posibles abusos en las conversaciones. Cada empresa tiene sus propias políticas al respecto, en las cuales se contempla entregar información a las autoridades en situaciones de emergencia.

El caso de Quilmes pone de manifiesto la importancia de la privacidad y seguridad en las conversaciones con chatbots. Es fundamental entender que cualquier interacción con estos sistemas está sujeta a las reglas y protocolos establecidos por las empresas, así como a la posibilidad de que la información sea revisada en casos de emergencia.