Sam Altman<\/strong>, CEO de OpenAI y principal referente del boom <\/em>generado en los \u00faltimos meses alrededor de la inteligencia artificial generativa<\/strong>, respondi\u00f3 a la mayor cr\u00edtica que reciben los modelos de lenguaje como ChatGPT<\/strong>: las \u00abalucinaciones\u00bb<\/strong>.<\/p>\n<\/div>\n En conversaci\u00f3n Marc Benioff<\/strong> -director ejecutivo de Salesforce<\/strong>– durante el evento Dreamforce 2023<\/strong>, Altman discuti\u00f3 algunos puntos claves acerca del estado actual de la inteligencia artificial y brind\u00f3 algunas predicciones respecto de su evoluci\u00f3n a futuro.<\/p>\n<\/div>\n Cuestionado acerca de las \u00abalucinaciones\u00bb -informaci\u00f3n presentada de manera coherente como si fueran hechos reales, pero con datos incorrectos, sesgados o directamente falsos<\/strong>-, Altman plante\u00f3 que no son un problema, sino parte de la \u00abmagia\u00bb <\/strong>de estos sistemas de IA.<\/p>\n<\/div>\n \u00abGran parte del valor de estos sistemas est\u00e1 fuertemente relacionado con el hecho de que alucinan. Son m\u00e1s un feature <\/em>(caracter\u00edstica) que un bug <\/em>(error). Si quieres buscar algo en una base de datos, ya hay cosas \u00fatiles para hacerlo<\/strong>\u00ab, explic\u00f3 el director ejecutivo de OpenAI.<\/p>\n<\/div>\n Y sum\u00f3, en ese sentido: \u201cEl hecho de que estos sistemas de inteligencia artificial puedan generar nuevas ideas y ser creativos<\/strong> es gran parte de su poder<\/strong>. Estamos trabajando en que sean creativos cuando queramos y objetivos cuando queramos\u201d.<\/p>\n<\/div>\n Para Altman, garantizar que estas nuevas plataformas de IA solo generen contenido cuando est\u00e9n absolutamente seguras de que es correcto ser\u00eda \u201cingenuo\u201d <\/strong>y \u00abcontrario a su naturaleza fundamental\u00bb<\/strong>.<\/p>\n<\/div>\n \u201cSi simplemente decides hacer algo ingenuo y plantearle a la IA \u2018nunca digas nada de lo que no est\u00e9s 100% segura\u2019, puedes lograr que todos hagan lo mismo. Pero no tendr\u00e1 la magia que tanto le gusta a la gente<\/strong>\u201d, agreg\u00f3.<\/p>\n<\/div>\n En modelos de inteligencia artificial, las alucinaciones ocurren cuando un chatbot brinda una informaci\u00f3n falsa<\/strong>, en muchos casos f\u00e1cilmente comprobable, como si fuera objetivamente correcta. <\/p>\n<\/div>\n El tema viene siendo muy discutido en el ambiente tech <\/em>desde hace un a\u00f1o, e incluso llev\u00f3 a que OpenAI fuera demandada<\/strong> por las falsas afirmaciones de ChatGPT. Google<\/strong>, tanto, qued\u00f3 ridiculizado durante la presentaci\u00f3n mundial de Bard<\/strong>, su propio chatbot, al responder de manera incorrecta una pregunta simple.<\/p>\n<\/div>\n Cr\u00edticos y referentes de la industria<\/strong> tambi\u00e9n expresaron su preocupaci\u00f3n en las \u00faltimas semanas. De hecho, unas horas antes de su charla con Altman, al pronunciar su discurso de apertura en Dreamforce <\/strong>-el autoproclamado \u00abmayor evento de IA del mundo\u00bb- Benioff fue m\u00e1s que elocuente: \u00abNo las llamo alucinaciones, las llamo mentiras\u00bb<\/strong>.<\/p>\n<\/div>\n![\"Junto](\"https:\/\/www.clarin.com\/img\/2023\/09\/13\/z9HmTib6t_720x0__1.jpg\"\/)
Junto a Marc Benioff, CEO de Salesforce. (Foto: AP)<\/span><\/span><\/picture><\/div>\nQu\u00e9 son las alucinaciones en inteligencia artificial<\/h2>\n<\/p>\n
![\"ChatGPT,](\"https:\/\/www.clarin.com\/img\/2023\/08\/14\/UFUPa0N4__720x0__1.jpg\"\/)
ChatGPT, el chatbot desarrollado por OpenAI. (Foto: AP)<\/span><\/span><\/picture><\/div>\nLa pel\u00edcula favorita de Sam Altman<\/h2>\n<\/p>\n
![\"Sam](\"https:\/\/www.clarin.com\/img\/2023\/09\/13\/_k7zYAzse_720x0__1.jpg\"\/)