{"id":1288,"date":"2025-09-22T10:31:38","date_gmt":"2025-09-22T16:31:38","guid":{"rendered":"https:\/\/radioomax.com\/?p=1288"},"modified":"2025-09-23T10:32:40","modified_gmt":"2025-09-23T16:32:40","slug":"premios-nobel-y-cientificos-piden-poner-limites-a-la-ia","status":"publish","type":"post","link":"https:\/\/radioomax.com\/?p=1288","title":{"rendered":"Premios Nobel y cient\u00edficos piden poner l\u00edmites a la IA"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><a><\/a>La iniciativa exhorta a establecer un acuerdo internacional vinculante sobre las \u201cl\u00edneas rojas\u201d para la inteligencia artificial<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">septiembre 22, 2025<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Premios Nobel, expertos en inteligencia artificial (IA) y cient\u00edficos pidieron la creaci\u00f3n una instituci\u00f3n internacional para poner l\u00edmites a los riesgos de la IA, antes de las reuniones de alto nivel de la Asamblea General de las Naciones Unidas que se celebra esta semana en Nueva York.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Esta iniciativa, firmada por m\u00e1s de doscientas personas y m\u00e1s de setenta organizaciones, insta a los gobiernos a establecer un acuerdo internacional vinculante sobre las \u201cl\u00edneas rojas\u201d para la inteligencia artificial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El llamamiento global para establecer l\u00edmites en la IA acaba de ser anunciado por Maria Ressa, premio Nobel de la Paz, en la reuni\u00f3n de alto nivel de la ONU que conmemora el 80\u00ba aniversario de la organizaci\u00f3n. Instamos a los gobiernos de todo el mundo a alcanzar un acuerdo internacional crucial sobre los l\u00edmites que la IA nunca debe cruzar\u201d, anunci\u00f3 en una rueda de prensa virtual Charbel Segerie, director ejecutivo del Centro Franc\u00e9s para la Seguridad de la IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El experto detall\u00f3 que el objetivo no es reaccionar tras un incidente grave y castigar las infracciones posteriormente, sino prevenir riesgos a gran escala, potencialmente irreversibles, antes de que ocurran.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El fin de esta coalici\u00f3n de expertos es que se exija a los desarrolladores que demuestren la seguridad de sus IA como condici\u00f3n para acceder al mercado, al igual que se hace en la creaci\u00f3n de medicamentos y en las centrales nucleares.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Las grandes tecnol\u00f3gicas, como Meta, Google u OpenAI, est\u00e1n poniendo toda la carne en el asador y enormes cantidades de dinero para llegar a la \u201csuperinteligencia\u201d o inteligencia artificial general (IAG, en ingl\u00e9s AGI), un hipot\u00e9tico sistema de IA que supera las capacidades del cerebro humano y que por ahora solo existe en la ciencia ficci\u00f3n, pero que, seg\u00fan los expertos, podr\u00eda llegar en la pr\u00f3xima d\u00e9cada.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Stuart Russell, profesor de la Universidad de Berkeley, destac\u00f3 que la IA est\u00e1 dise\u00f1ada para imitar muy bien a los humanos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El comportamiento humano est\u00e1 dise\u00f1ado para alcanzar objetivos: persuadir, impresionar, sobrevivir, seducir, vender, etc. Inevitablemente, los sistemas de IA adquieren y persiguen estos objetivos por cuenta propia. Esta es una consecuencia inevitable de su desarrollo. Son intr\u00ednsecamente inseguros\u201d, subray\u00f3 el tambi\u00e9n director del Centro para la IA Compatible con los Humanos.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Lo que m\u00e1s preocupa a Russell es que los desarrolladores admiten que no tienen ning\u00fan plan para controlar los sistemas de IA y que, por el momento, los gobiernos no tienen ning\u00fan plan para exigirles que lo hagan.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Russell dijo que no quer\u00eda ser alarmista, pero que existe una probabilidad \u201csignificativa\u201d de una cat\u00e1strofe del tama\u00f1o del accidente nuclear de Chern\u00f3bil, ya que esta tecnolog\u00eda podr\u00eda estar detr\u00e1s de un sabotaje coordinado de los sistemas financieros, de comunicaci\u00f3n o de las redes el\u00e9ctricas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La otra posibilidad es una cat\u00e1strofe mucho mayor, en la que la humanidad perder\u00eda el control irreversiblemente y entonces no tendr\u00edamos voz ni voto sobre nuestra existencia\u201d, augur\u00f3 el profesor.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por \u00faltimo, Russell anot\u00f3 que existe una tercera opci\u00f3n, poco realista, de que no pase nada con el desarrollo e implantaci\u00f3n de esta tecnolog\u00eda vanguardista.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un director ejecutivo me dijo recientemente que un evento de la escala de Chern\u00f3bil es el mejor escenario posible, y un investigador s\u00e9nior de OpenAI me coment\u00f3 que cree que la probabilidad de extinci\u00f3n (humana debido a las IA) es ahora del 60%\u201d, destac\u00f3 el experto.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, apunt\u00f3 que ya se han dado \u201cprimeros pasos importantes\u201d, como la creaci\u00f3n del c\u00f3digo de pr\u00e1cticas de la Uni\u00f3n Europea, pero que ahora es necesario hacer esas regulaciones \u201cglobales y aplicables\u201d.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Seg\u00fan Iliadis, probablemente se necesite crear una nueva instituci\u00f3n internacional en la que se pueda definir l\u00edmites globales para la IA, a la par de supervisar el cumplimiento e intervenir cuando se crucen estas \u201cl\u00edneas rojas\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La iniciativa exhorta a establecer un acuerdo internacional vinculante sobre las \u201cl\u00edneas rojas\u201d para la inteligencia artificial septiembre<\/p>\n","protected":false},"author":1,"featured_media":1289,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-1288","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/posts\/1288","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/radioomax.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1288"}],"version-history":[{"count":1,"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/posts\/1288\/revisions"}],"predecessor-version":[{"id":1290,"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/posts\/1288\/revisions\/1290"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/radioomax.com\/index.php?rest_route=\/wp\/v2\/media\/1289"}],"wp:attachment":[{"href":"https:\/\/radioomax.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1288"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/radioomax.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1288"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/radioomax.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1288"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}