{"id":69664,"date":"2022-09-27T12:02:03","date_gmt":"2022-09-27T17:02:03","guid":{"rendered":"https:\/\/joanpa.com\/2022\/09\/cientificos-de-oxford-advierten-sobre-la-principal-amenaza-de-la-inteligencia-artificial-para-la-humanidad\/"},"modified":"2022-09-27T12:02:03","modified_gmt":"2022-09-27T17:02:03","slug":"cientificos-de-oxford-advierten-sobre-la-principal-amenaza-de-la-inteligencia-artificial-para-la-humanidad","status":"publish","type":"post","link":"https:\/\/joanpa.com\/?p=69664","title":{"rendered":"Cient\u00edficos de Oxford advierten sobre la principal amenaza de la inteligencia artificial para la humanidad"},"content":{"rendered":"

<\/p>\n

\n
\n

Piden regular los avances en este campo ya que podr\u00eda salirse de control.<\/h2>\n<\/p>\n<\/div>\n<\/div>\n
\n

La inteligencia artificial es una disciplina que intenta replicar las capacidades cognitivas de los seres humanos a trav\u00e9s de m\u00e1quinas entrenadas mediante algoritmos<\/strong>. El problema es que, seg\u00fan una advertencia reciente del mundo cient\u00edfico,\u00a0este sistema podr\u00eda salirse de control<\/strong>.<\/p>\n

Su desarrollo ha potenciado la investigaci\u00f3n de la medicina y la ciencia evidenciando una mejora en la calidad de vida. No obstante, los continuos avances en este campo podr\u00edan cumplir las profec\u00edas m\u00e1s agoreras.<\/p>\n

De acuerdo a una investigaci\u00f3n de la Universidad de Oxford<\/strong> y Google <\/strong>publicada en AI Magazine la inteligencia artificial podr\u00eda terminar con la humanidad.<\/strong><\/p>\n

El estudio, liderado por los cient\u00edficos Marcus Hutter, s\u00e9nior de DeepMind, Michael Cohen y Michael Osborne de Oxford, concluye que una IA demasiado inteligente \u201cprobablemente\u201d aniquilar\u00eda a los humanos<\/strong>.<\/p>\n

La principal amenaza de la inteligencia artificial
<\/h2>\n
\n
\n

Bostrom, Russell, and others have argued that advanced AI poses a threat to humanity. We reach the same conclusion in a new paper in AI Magazine, but we note a few (very plausible) assumptions on which such arguments depend. https:\/\/t.co\/LQLZcf3P2G ? 1\/15 pic.twitter.com\/QTMlD01IPp<\/a><\/p>\n

\u2014 Michael Cohen (@Michael05156007) September 6, 2022<\/a><\/p><\/blockquote><\/div>\n

El estudio resume la posibilidad que pueden llegar a tener las m\u00e1quinas desarrolladas con IA para aprender a hacer trampas, buscar atajos y as\u00ed obtener recompensas con las que puedan tener acceso a los recursos del planeta<\/strong>.<\/p>\n

Esto puede conducir a un juego en el que humanos e IA terminen en una lucha donde solo uno quede en pie<\/strong>. Y seg\u00fan los expertos -en consonancia con lo que ha imaginado la literatura y reflej\u00f3 el cine- las m\u00e1quinas<\/strong> tienen todas las de ganar.<\/strong><\/p>\n

\u00abBajo las condiciones que hemos identificado, nuestra conclusi\u00f3n es mucho m\u00e1s s\u00f3lida que la de cualquier publicaci\u00f3n anterior: una cat\u00e1strofe existencial no solo es posible, sino probable\u00bb, aseguran los cient\u00edficos.<\/p>\n

La hip\u00f3tesis m\u00e1s factible ser\u00eda que unos \u00abagentes desalineados\u00bb s\u00faper avanzados percibieran que las personas se interponen en su camino por una recompensa.<\/p>\n

Seg\u00fan recogen los cient\u00edficos, \u00abuna buena manera para que un agente mantenga el control a largo plazo de su recompensa es eliminar las amenazas potenciales y usar toda la energ\u00eda disponible para asegurar su conquista\u00bb.<\/p>\n

Inteligencia artificial: cu\u00e1les son los riesgos<\/h2>\n
\n\n\"Miedo
\n
\n\n\n<\/svg>
\n<\/span>\n<\/picture>
Miedo a la inteligencia artificial. Foto; Yo, Robot. <\/figcaption><\/div>\n

La IA del futuro ser\u00eda capaz de adoptar numerosas formas y diferentes dise\u00f1os, por lo que el estudio imagina escenarios con fines ilustrativos en los que un programa avanzado podr\u00eda intervenir para obtener esa recompensa sin alcanzar su objetivo.<\/p>\n

Entre estos destaca que la IA pueda planificar acciones a largo plazo en un entorno desconocido para lograr un fin y que esta termine identificando estas metas tan bien como un ser humano.<\/p>\n

Es por ello que los investigadores concluyen que lo m\u00e1s seguro en esta materia es avanzar lentamente<\/strong>, puesto que en la actualidad la IA se encuentra en crecimiento constante.<\/p>\n

Michael Cohen, de Oxford, explica que en un mundo con recursos infinitos no sabemos lo que suceder\u00eda. Sin embargo, \u00aben un mundo con recursos finitos, existe una competencia inevitable por estos recursos. Perder este juego ser\u00eda fatal\u00bb, a\u00f1ade.<\/p>\n

La humanidad tratar\u00eda de satisfacer sus necesidades, producir alimentos y electricidad, mientras que la inteligencia artificial tratar\u00eda de aprovechar todos los recursos para asegurar su recompensa y protegerse de los intentos de la humanidad por frenar eso.<\/p>\n

La soluci\u00f3n, seg\u00fan los cient\u00edficos, es progresar de manera lenta y precavida en las tecnolog\u00edas de IA.<\/p>\n

SL<\/em><\/p>\n

Mir\u00e1 tambi\u00e9n<\/span><\/p>\n<\/div>\n