Ejecutivos de empresas líderes en inteligencia artificial como OpenAI y Anthropic se encuentran evaluando de forma privada posibles respuestas ante un hipotético incidente catastrófico provocado por esta tecnología. Según fuentes de la industria citadas por Axios, el escenario más probable considerado es un ciberataque capaz de interrumpir servicios financieros, internet e incluso el suministro de electricidad y agua.
Algunos referentes del sector han manifestado que este tipo de incidente grave podría ocurrir en los próximos seis a doce meses, aunque no se ha establecido una fecha concreta para tal eventualidad. OpenAI ha comunicado que realiza ejercicios de preparación con diferentes escenarios, pero no considera que sean inevitables.
En paralelo, la Comisión de la revista británica The Lancet sobre amenazas globales para la salud ha identificado dos riesgos con potencial de extinción antes de 2100 vinculados al uso malicioso de la inteligencia artificial y conflictos nucleares. Estos riesgos se basan en la creación de nuevos patógenos, fallos en infraestructuras críticas y la pérdida de control sobre sistemas autónomos.
En el caso de un ciberataque, se teme que un atacante pueda utilizar herramientas de IA para explotar vulnerabilidades, escribir código malicioso o automatizar tareas antes más complejas. Además, se ha observado evidencia de actores maliciosos que emplean sistemas de IA en operaciones cibernéticas para detectar vulnerabilidades y producir código para explotarlas.
Por otro lado, existe inquietud sobre la posibilidad de que la utilización de modelos de IA pueda asistir en el desarrollo de armas biológicas. A pesar de que algunas empresas han implementado medidas de seguridad adicionales en sus modelos, la comunidad científica ha puesto énfasis en el potencial impacto que esto podría tener, aunque no se ha reportado un caso en el que un sistema de IA haya generado y liberado un patógeno con capacidad de provocar una pandemia.
Finalmente, la influencia de la inteligencia artificial en decisiones militares también genera preocupación. Aunque no esté directamente conectada a sistemas de control de armas nucleares, se señala que herramientas de apoyo a decisiones podrían acelerar la detección de amenazas y los tiempos de respuesta, incrementando el riesgo de errores de cálculo en caso de crisis. La preparación para responder ante posibles daños causados por la IA refleja una creciente preocupación por sistemas cada vez más avanzados y extendidos en nuestra sociedad.
