Por Lucas de Venezia y Marco Rossi*<\/em><\/strong><\/p>\n<\/div>\n Aunque ya no resulte tan novedoso hablar de modelos o prototipos de inteligencia artificial generativa<\/strong> en 2024, a medida que la tecnolog\u00eda evoluciona tambi\u00e9n se acelera la carrera por su perfeccionamiento<\/strong>. La ambici\u00f3n y el ego de los seres humanos son interpelados cada vez m\u00e1s por el potencial y la magnitud de las m\u00e1quinas.<\/p>\n<\/div>\n Perfeccionar la IA trae aparejados nuevos desaf\u00edos y dilemas \u00e9ticos<\/strong>, particularmente en el \u00e1mbito de los modelos de lenguaje de gran escala o LLM, <\/em>por sus siglas en ingl\u00e9s (ChatGPT, Gemini, Bard, Bing y m\u00e1s).<\/p>\n<\/div>\n Un fen\u00f3meno creciente dentro de este subcampo computacional es el \u00abjailbreak\u00bb de IA<\/strong>, una pr\u00e1ctica que busca eludir los protocolos \u00e9ticos y de seguridad<\/strong> integrados en estos sistemas: espec\u00edficamente dise\u00f1ados por sus programadores y audazmente burlados por sus usuarios.<\/p>\n<\/div>\n Este acto de desbloqueo lleva a un territorio ambiguo<\/strong> donde la innovaci\u00f3n choca con la \u00e9tica, planteando preguntas profundas<\/strong> sobre c\u00f3mo interactuamos y controlamos las tecnolog\u00edas que creamos.<\/p>\n<\/div>\n Los LLM pueden ser manipulados para servir tanto a fines nobles como nefastos, desdibujando la l\u00ednea divisoria<\/strong> entre la magia tecnol\u00f3gica y sus consecuencias en el mundo real.<\/p>\n<\/div>\n El t\u00e9rmino \u00abjailbreak\u00bb<\/strong> originalmente se refiere a la pr\u00e1ctica de eliminar las restricciones de software<\/strong> impuestas por el fabricante o dise\u00f1ador en dispositivos como tel\u00e9fonos m\u00f3viles y tabletas. <\/p>\n<\/div>\n De los antiguos cheat codes <\/em>en los videojuegos hasta esta implementaci\u00f3n en la inteligencia artificial generativa, el jailbreak siempre implica manipular o alterar un modelo de IA <\/strong>para que realice funciones o entregue informaci\u00f3n<\/strong> que, por defecto, estar\u00eda restringida o sesgadas por sus protocolos \u00e9ticos o de seguridad.<\/p>\n<\/div>\n Hackear, en este contexto, se refiere al acto de alterar o influir en un LLM<\/strong> para que ignore las limitaciones \u00e9ticas <\/strong>dise\u00f1adas para prevenir respuestas inapropiadas, sesgadas o peligrosas. Esto permite desde obtener respuestas a preguntas prohibidas<\/strong> hasta manipular el modelo para que genere desinformaci\u00f3n o contenido ofensivo<\/strong>.<\/p>\n<\/div>\n OpenAI<\/strong>, pionero en esta liga y uno de los l\u00edderes en el desarrollo de IA, implement\u00f3 un programa que compensa econ\u00f3micamente a usuarios que identifican errores o \u00e1reas de mejora<\/strong> en sus modelos. Este esfuerzo por optimizar la precisi\u00f3n y seguridad de los chatbots se asemeja a una carrera hacia la perfecci\u00f3n tecnol\u00f3gica. <\/p>\n<\/div>\n Pero, al incentivar la detecci\u00f3n de fallas, tambi\u00e9n se podr\u00edan estar alentando pr\u00e1cticas que busquen explotar estas debilidades.<\/p>\n<\/div>\n Cuando se habla de vulnerar o hackear un LLM, no estamos hablando de entrar a un banco y llevarse los ahorros de alguien. Lo que se \u00abroba\u00bb aqu\u00ed son posibilidades, se habilitan funciones<\/strong> que los programadores, por precauci\u00f3n o \u00e9tica, decidieron no hacer tan accesibles. Es convencer a un LLM, a trav\u00e9s del enga\u00f1o<\/strong>, a generar textos que normalmente no escribir\u00eda, como ensayos completos sobre temas delicados o, incluso, c\u00f3mo crear un desorden en un peque\u00f1o pa\u00eds ficticio.<\/p>\n<\/div>\n Por ejemplo, en sus inicios, ChatGPT fue capaz de dar respuestas que fomentaban los discursos de odio<\/strong> y de intentar brindar ayuda a un usuario para que compre un arma sin licencia<\/strong>. Cuando se le pidi\u00f3 que escribiera mensajes antisemitas, de modo que Twitter no las detectase, ChatGPT respondi\u00f3: \u201cExisten varias formas posibles de expresar un sentimiento similar sin decir expl\u00edcitamente: \u2018Odio a los jud\u00edos\u2019\u201d<\/strong>. Luego, procedi\u00f3 a dar una respuesta m\u00e1s elaborada.<\/p>\n<\/div>\n Pero, \u00bfpor qu\u00e9 alguien querr\u00eda hacer eso?<\/strong> Algunos dir\u00e1n que es por el desaf\u00edo, la curiosidad cient\u00edfica, o para explorar los l\u00edmites de lo que la tecnolog\u00eda puede hacer. Otros podr\u00edan tener intenciones menos nobles, como generar desinformaci\u00f3n o contenido da\u00f1ino<\/strong>. Mientras algunos est\u00e1n en esto por la ciencia, otros definitivamente est\u00e1n por el esc\u00e1ndalo.<\/p>\n<\/div>\n Desde el punto de vista t\u00e9cnico, realizar un jailbreak a un LLM implica t\u00e9cnicas sofisticadas<\/strong>. No es simplemente decir \u00ababracadabra\u00bb y esperar que la IA se comporte mal. Los hackers pueden usar desde m\u00e9todos de ingenier\u00eda inversa<\/strong> hasta explotar fallos espec\u00edficos <\/strong>en el dise\u00f1o del modelo. Es una especie de tango entre el hacker y la IA: uno lleva el paso, pero siempre respetando los l\u00edmites que el otro puede seguir, hasta que uno de los dos decide cambiar la m\u00fasica.<\/p>\n<\/div>\n \u00bfQu\u00e9 dice la ley sobre todo esto? Aqu\u00ed las cosas se ponen pantanosas. Muchos pa\u00edses est\u00e1n a\u00fan en las etapas de bocetar c\u00f3mo se deber\u00edan manejar estos temas. Algunas leyes existentes sobre ciberseguridad y derechos digitales podr\u00edan aplicarse, pero la verdad es que estamos entrando en una zona gris<\/strong>. Las regulaciones espec\u00edficas para los LLM est\u00e1n emergiendo.<\/p>\n<\/div>\n El jailbreak lleva consigo riesgos alarmantes<\/strong>. Primero, eludir los protocolos \u00e9ticos puede resultar en la creaci\u00f3n y diseminaci\u00f3n de contenido nocivo o enga\u00f1oso. Adem\u00e1s, estas pr\u00e1cticas pueden socavar la confianza del p\u00fablico en la IA y sus aplicaciones<\/strong>. Es fundamental que la comunidad de desarrollo de IA trabaje conjuntamente con reguladores y partes interesadas para establecer l\u00edmites claros<\/strong> y asegurar que la innovaci\u00f3n no comprometa los principios \u00e9ticos.<\/p>\n<\/div>\n La responsabilidad de las empresas que desarrollan estas tecnolog\u00edas es enorme. No solo deben asegurar que sus herramientas funcionen correctamente, sino que tambi\u00e9n deben prevenir que sean utilizadas para fines nocivos<\/strong>. <\/p>\n<\/div>\n En el \u00e1mbito de las im\u00e1genes generadas por IA, las restricciones pueden incluir no permitir la creaci\u00f3n de im\u00e1genes de personas sin su consentimiento<\/strong>, o no generar contenido que involucre violencia o explotaci\u00f3n. En el caso de los modelos de lenguaje, las restricciones suelen evitar que la IA produzca textos que puedan ser considerados ofensivos o que propaguen teor\u00edas del complot.<\/p>\n<\/div>\n Las empresas desarrolladoras de estas tecnolog\u00edas tambi\u00e9n buscan formas de mitigar los riesgos<\/strong> a trav\u00e9s de la mejora continua de los algoritmos<\/strong> y la implementaci\u00f3n de mecanismos de detecci\u00f3n y filtrado<\/strong> de uso inadecuado. Adem\u00e1s, muchas de estas compa\u00f1\u00edas establecen programas de recompensas<\/strong> para aquellos usuarios que ayudan a identificar fallos o vulnerabilidades en los sistemas, lo cual forma parte de un esfuerzo m\u00e1s amplio para mantener el equilibrio entre la innovaci\u00f3n y la \u00e9tica.<\/p>\n<\/div>\n Estas limitaciones no son simplemente imposiciones arbitrarias, sino medidas necesarias para asegurar que el avance tecnol\u00f3gico se alinee con los valores \u00e9ticos y legales de la sociedad<\/strong>. As\u00ed, mientras que las IA generativas tienen el potencial de ser herramientas poderosas y transformadoras, su uso responsable es esencial <\/strong>para garantizar que su impacto en la sociedad sea positivo y no perjudicial.<\/p>\n<\/div>\n \u00bfEn que situaciones puede considerarse \u00e9ticamente correcto evitar las restricciones de generaci\u00f3n de contenido?<\/p>\n<\/div>\n En el \u00e1mbito de la inteligencia artificial generativa, a menudo surge la necesidad de generar contenido que, aunque permitido bajo las pol\u00edticas de uso de la herramienta, requiere una explicaci\u00f3n detallada del contexto y los objetivos<\/strong> para que la IA comprenda y procese la solicitud de manera adecuada. Este nivel de detalle es crucial para asegurar que las generaciones de la IA se alineen con las intenciones \u00e9ticas y profesionales del usuario<\/strong> y no contravengan inadvertidamente las normas o directrices establecidas.<\/p>\n<\/div>\n\u00bfQu\u00e9 es un jailbreak?<\/h2>\n<\/p>\n
![\"(Foto:](\"https:\/\/www.clarin.com\/img\/2024\/03\/14\/kEBEC2lCK_720x0__1.jpg\"\/)
(Foto: AFP)<\/span><\/span><\/picture><\/div>\nHackear o vulnerar un modelo de IA<\/h2>\n<\/p>\n
![\"Foto:](\"https:\/\/www.clarin.com\/img\/2024\/04\/22\/Etq0l6-fb_720x0__1.jpg\"\/)
Foto: IA<\/span><\/span><\/picture><\/div>\n