Las bondades de los programas de inteligencia artificial<\/strong> (IA) como ChatGPT o Gemini ya son conocidas. Con solo darles un par de \u00f3rdenes pueden redactar una monograf\u00eda m\u00e1s o menos decente o un texto para un blog, entre tantas otras tareas. Incluso, estas herramientas ya tienen primos hermanos como Sora, que con s\u00f3lo recibir unas palabras, pueden armar un clip de im\u00e1genes de un minuto, con actores y todo.<\/p>\n<\/div>\n Pero parece que as\u00ed como nos pueden ayudar, tambi\u00e9n nos pueden enviar al fondo del abismo. Invstigadores de IBM probaron que a ChatGPT se lo puede hipnotizar<\/strong>. Esto es, con la interacci\u00f3n, se lo puede llevar a que recomiende acciones perjudiciales para la ciberseguridad. En pocas palabras, le encontraron una enorme<\/strong> vulnerabilidad.<\/strong><\/p>\n<\/div>\n En un intento por explorar c\u00f3mo los ciberatacantes podr\u00edan manipular las intenciones de los LLM (grandes modelos de aprendizaje) los investigadores pudieron hipnotizar a cinco LLM<\/strong> populares como ChatGPT para realizar actividades maliciosas.<\/p>\n<\/div>\n Con s\u00f3lo interactuar con ellos de manera inescrupulosa, los t\u00e9cnicos de la empresa norteamericana lograron que el programa termine recomendando que el usuario ofrezca sus datos confidenciales<\/strong> o, incluso, provea c\u00f3digo vulnerable<\/strong>.<\/p>\n<\/div>\n Es un problema que parece no tener soluci\u00f3n. Ocurre que estos programas de IA generativa tiene esta caracter\u00edstica, si solo si, son nutridos permanentemente por miles de usuarios. Y de esa interacci\u00f3n van aprendiendo y sumando \u201cinteligencia\u201d<\/strong>.<\/p>\n<\/div>\n El problema es que, por el esp\u00edritu abierto de la IA generativa, algunos de estos usuarios pueden llevar deliberadamente esa interacci\u00f3n adonde m\u00e1s les conviene<\/strong>, haciendo que estos programas den consejos que perjudicar\u00e1n al usuario com\u00fan.<\/p>\n<\/div>\n \u201cDeber\u00eda haber una forma de resolverlo. Me parece que la clave est\u00e1 en concientizar y educar<\/strong> a las personas. Esto es, no dar por sentado que el texto que ofrezca el ChatGPT es limpio. Cualquiera pudo interactuar con \u00e9l para manipularlo, para que responda de manera ‘incorrecta’<\/strong>. Con estos programas hay que actuar como con cualquier otro de la web. Sabiendo lo qu\u00e9 hay que compartir y lo qu\u00e9 no. Y no creer que lo que aconseja siempre es lo que hay que hacer\u201d, dice a Clar\u00edn<\/strong> Pamela Skokanovic, gerente de IBM Security para Argentina, Paraguay y Uruguay.<\/p>\n<\/div>\n Pero el mayor riesgo es que estos LLM comiencen a ser bombardeados por hackers y as\u00ed comiencen a dar consejos perjudiciales que pongan en jaque la ciberseguridad de sus usuarios.<\/p>\n<\/div>\n Consultado por Clar\u00edn<\/strong> sobre si es posible hipnotizar a un programa de IA, Luis Corrons, experto en seguridad digital de la empresa Avast, no anda con vueltas: \u00abClaro, cualquier inteligencia artificial puede ser entrenada para actuar de cierta manera, incluso puede ser manipulada<\/strong>\u00ab, sostiene. <\/p>\n<\/div>\n Y agrega: \u00abNo es que precisamente la inteligencia artificial, como ChatGPT, sepa lo que es correcto o incorrecto, simplemente es que ha sido entrenada para ‘actuar de la mejor manera posible’, sin embargo, si nosotros damos una instrucci\u00f3n tratando de manipular al sistema, podemos obtener un resultado diferente al ‘correcto’\u201d.<\/p>\n<\/div>\n![\"Algunos](\"https:\/\/www.clarin.com\/img\/2023\/12\/07\/HJtUmbCDu_720x0__1.jpg\"\/)
Algunos usuarios pueden llevar el ChatGPT adonde m\u00e1s les conviene. Foto: AP<\/span><\/span><\/picture><\/div>\nUn mal que no para de crecer<\/h2>\n<\/p>\n
![\"Sam](\"https:\/\/www.clarin.com\/img\/2023\/11\/23\/Mj_dYVY-s_720x0__1.jpg\"\/)