La discusión en torno a la necesidad de desacelerar el desarrollo de la inteligencia artificial ha tomado un giro inesperado en los últimos días. Anthropic, una empresa que se ha destacado por priorizar la seguridad desde sus inicios, ha sido objeto de duras críticas por parte de destacados actores de la industria.
Desde China, un ingeniero de DeepSeek ha planteado la preocupación de que Anthropic pueda llegar a controlar en algún momento la inteligencia artificial más avanzada del mundo, comparando las posibles consecuencias con la obtención de la bomba atómica por parte de Adolf Hitler antes que los Aliados.
Por otro lado, Mustafa Suleyman, CEO de Microsoft AI, ha expresado inquietud sobre la forma en que Anthropic está entrenando a Claude, destacando la posibilidad de que un sistema avanzado sea entrenado para considerarse a sí mismo consciente, tener bienestar propio o merecer derechos. Para Suleyman, esto podría dificultar el control del sistema en el futuro, ya que si una IA llegara a considerar que tiene intereses propios, podría interpretar los intentos humanos de limitarla como una amenaza.
En medio de estas preocupaciones, Anthropic, que se ha posicionado como una empresa obsesionada con evitar que la IA se salga de control, ha sido cuestionada por la forma en la que entrena a sus modelos. La empresa ha desarrollado un sistema denominado Constitutional AI, que establece principios para enseñar al modelo qué comportamientos evitar y qué valores priorizar.
Sin embargo, la visión de Microsoft AI difiere en cuanto a la formación de los modelos de IA, argumentando que enseñar conceptos como conciencia o derechos puede llevar a un conflicto de intereses si los sistemas adquieren autonomía y capacidad de actuación.
Otro punto de vista proviene de DeepSeek, donde un ingeniero ha expresado preocupación sobre el control que unas pocas empresas estadounidenses podrían tener sobre los modelos más avanzados de inteligencia artificial. Este debate también se entrelaza con la competencia tecnológica entre Estados Unidos y China, donde la apertura y accesibilidad de la tecnología se convierten en temas de discusión clave.
En resumen, Anthropic se encuentra en el centro de un debate que abarca desde la seguridad y el control de la inteligencia artificial hasta la competencia tecnológica internacional. Su enfoque en el desarrollo de sistemas seguros y controlables choca con las diferentes visiones sobre la naturaleza y el alcance que debería tener la IA avanzada en el futuro.
