Un adolescente de 15 años de Quilmes ha sido el centro de atención debido a un caso que involucra el uso de ChatGPT para discutir un posible ataque contra su escuela. Este incidente ha generado interrogantes sobre la privacidad de las conversaciones y cómo OpenAI maneja esta situación. ¿Puede ChatGPT acceder a lo que escribe un usuario? ¿En qué circunstancias una charla es registrada? ¿Puede intervenir una persona? ¿Cuándo una empresa decide comunicar información a las autoridades? Estas son algunas de las interrogantes que han surgido a raíz de este caso.
La investigación se inició el 19 de agosto cuando el Agregado Jurídico del FBI en la Embajada de Estados Unidos alertó a las autoridades argentinas sobre las conversaciones del adolescente con ChatGPT. Según fuentes oficiales consultadas por Clarín, el adolescente manifestó su intención de llevar a cabo un atentado en su escuela y mencionó la posibilidad de matar a sus compañeros. Esto despertó preocupación debido a su interés por adquirir equipamiento táctico y otros elementos sospechosos.
Posteriormente, la Policía Federal Argentina allanó la residencia del adolescente, donde se incautaron varios objetos, incluyendo dos teléfonos celulares, prendas camufladas, y otros elementos relacionados. El caso fue caratulado como intimidación pública en grado de tentativa.
Este caso revela la faceta de las inteligencias artificiales que pocas veces se discute: la privacidad de las conversaciones. Los chats no son simplemente intercambios entre un usuario y un modelo aislado, sino que el contenido debe ser procesado por la empresa para que el sistema pueda responder. En ciertos casos, este proceso puede implicar una revisión humana y, si se detecta una amenaza grave, incluso una denuncia a las autoridades.
En casos extremos, empresas como OpenAI pueden recurrir a la colaboración de las fuerzas de seguridad si consideran que existe un riesgo inminente de daño hacia terceros. Este fue el caso en Quilmes, donde se activaron protocolos de seguridad ante la gravedad de las conversaciones del adolescente.
No solo OpenAI, sino también otras empresas como Google con su asistente Gemini y Anthropic con Claude, utilizan sistemas automáticos y revisiones humanas para detectar posibles abusos en las conversaciones. Cada empresa tiene sus propias políticas al respecto, en las cuales se contempla entregar información a las autoridades en situaciones de emergencia.
El caso de Quilmes pone de manifiesto la importancia de la privacidad y seguridad en las conversaciones con chatbots. Es fundamental entender que cualquier interacción con estos sistemas está sujeta a las reglas y protocolos establecidos por las empresas, así como a la posibilidad de que la información sea revisada en casos de emergencia.
