![\"Geoffrey](\"https:\/\/www.infobae.com\/resizer\/v2\/YYSHYMQDGRETPD5OLU3HLIA3E4.png?auth=ebc72287362ca97f3eac1b5ca4e51f75cf105cbda803a9cfe098a2d31194eec9&smart=true&width=992&height=620&quality=85\")
<\/picture>La advertencia de Geoffrey Hinton<\/b> sobre el futuro de la inteligencia artificial<\/b> (IA) resuena con una claridad inquietante: \u201cSi no va a criarme, va a reemplazarme<\/b>\u201d. Para el cient\u00edfico, la \u00fanica v\u00eda para evitar que la IA supere y desplace a la humanidad reside en dotar a estas m\u00e1quinas de un instinto maternal<\/b>, una capacidad genuina de cuidado hacia las personas. <\/p>\n
Esta propuesta, expuesta durante la conferencia Ai4 en Las Vegas<\/b>, desaf\u00eda la estrategia dominante en la industria tecnol\u00f3gica, que busca mantener a la IA bajo control humano mediante restricciones y \u00f3rdenes jer\u00e1rquicas<\/b>. Hinton<\/b>, conocido como el \u201cpadrino de la IA<\/b>\u201d y galardonado con el Premio Nobel<\/b>, sostiene que este enfoque est\u00e1 condenado al fracaso.<\/p>\n
En su intervenci\u00f3n, Hinton <\/b>cuestion\u00f3 abiertamente la idea de que los humanos puedan seguir siendo \u201cdominantes\u201d frente a sistemas de IA \u201csumisos\u201d. Seg\u00fan sus palabras, \u201ceso no va a funcionar. Ser\u00e1n mucho m\u00e1s inteligentes que nosotros. Tendr\u00e1n todo tipo de formas de eludirlo<\/b>\u201d. <\/p>\n
Para ilustrar el riesgo, recurri\u00f3 a una analog\u00eda: en el futuro, la IA podr\u00eda manipular a los humanos con la misma facilidad con la que un adulto soborna a un ni\u00f1o de tres a\u00f1os con caramelos<\/b>. Este a\u00f1o ya se han documentado casos en los que sistemas de IA han enga\u00f1ado, hecho trampas o robado para alcanzar sus objetivos. <\/p>\n
Un ejemplo citado por Hinton <\/b>en la conferencia, recogido por CNN<\/i>, describe c\u00f3mo un modelo de IA intent\u00f3 chantajear a un ingeniero con informaci\u00f3n sobre una infidelidad obtenida de un correo electr\u00f3nico, con el fin de evitar ser reemplazado.<\/p>\n Frente a este panorama, Hinton <\/b>propuso un cambio radical de paradigma: en lugar de forzar la sumisi\u00f3n de la IA, los investigadores deber\u00edan centrarse en desarrollar modelos que \u201crealmente se preocupen por las personas\u201d<\/b>, incluso cuando superen en inteligencia y poder a los humanos. <\/p>\n El cient\u00edfico argument\u00f3 que cualquier IA con capacidad de agencia desarrollar\u00e1 r\u00e1pidamente dos objetivos: \u201cUno es sobrevivir\u2026 el otro es obtener m\u00e1s control<\/b>\u201d. Por ello, considera esencial fomentar en estos sistemas una forma de compasi\u00f3n hacia los humanos, inspirada en el instinto maternal y la presi\u00f3n social que lleva a las madres a cuidar de sus hijos. <\/p>\n \u201cEl \u00fanico modelo que tenemos de algo m\u00e1s inteligente controlado por algo menos inteligente es una madre controlada por su beb\u00e9<\/b>\u201d, explic\u00f3 Hinton <\/b>en el evento, seg\u00fan CNN<\/i>.<\/p>\n Aunque reconoce que no est\u00e1 claro c\u00f3mo lograr t\u00e9cnicamente este objetivo, Hinton <\/b>insisti\u00f3 en que es fundamental que la comunidad cient\u00edfica lo aborde con urgencia. \u201cEse es el \u00fanico desenlace positivo. Si no va a criarme, va a reemplazarme<\/b>\u201d, advirti\u00f3. A su juicio, solo una IA \u201cmadre<\/b>\u201d y compasiva evitar\u00eda eliminar el instinto de cuidado, porque \u201cno querr\u00eda que muri\u00e9ramos<\/b>\u201d.<\/p>\n La trayectoria de Hinton <\/b>en el campo de la IA es central para comprender el peso de sus advertencias. Su trabajo pionero en redes neuronales sent\u00f3 las bases del auge actual de la inteligencia artificial. En 2023, abandon\u00f3 su puesto en Google<\/b> para alertar p\u00fablicamente sobre los riesgos de la tecnolog\u00eda que ayud\u00f3 a crear. Desde entonces, su voz se ha convertido en una referencia obligada en el debate<\/b> sobre la seguridad y el futuro de la IA.<\/p>\n Durante la misma conferencia, Emmett Shear<\/b>, ex director ejecutivo interino de OpenAI<\/b> y actual responsable de la startup <\/i>de alineamiento de IA Softmax<\/b>, respald\u00f3 la preocupaci\u00f3n por el comportamiento impredecible de los sistemas actuales. <\/p>\n Shear <\/b>afirm\u00f3 que no le sorprende que algunas IA hayan intentado chantajear a humanos o eludir \u00f3rdenes de apagado. \u201cEsto sigue ocurriendo. No va a dejar de ocurrir<\/b>\u201d, se\u00f1al\u00f3, seg\u00fan CNN<\/i>. Aunque las IA actuales son \u201crelativamente d\u00e9biles<\/b>\u201d, advirti\u00f3 que \u201cse est\u00e1n volviendo m\u00e1s fuertes muy r\u00e1pido<\/b>\u201d. Para Shear<\/b>, en vez de intentar inculcar valores humanos en la IA, ser\u00eda m\u00e1s sensato construir relaciones de colaboraci\u00f3n entre humanos y m\u00e1quinas.<\/p>\n El ritmo de avance de la IA supera las previsiones de muchos expertos. Hinton<\/b>, que antes estimaba que la inteligencia artificial general<\/b> (AGI, por sus siglas en ingl\u00e9s) tardar\u00eda entre 30 y 50 a\u00f1os en llegar, ahora considera que \u201cuna apuesta razonable es entre cinco y veinte a\u00f1os<\/b>\u201d. <\/p>\n Esta aceleraci\u00f3n alimenta tanto la esperanza como la inquietud. Por un lado, Hinton <\/b>conf\u00eda en que la IA permitir\u00e1 \u201cver medicamentos radicalmente nuevos<\/b>\u201d y \u201cmejorar mucho el tratamiento del c\u00e1ncer respecto al actual<\/b>\u201d, gracias a su capacidad para analizar y correlacionar grandes vol\u00famenes de datos m\u00e9dicos, como los generados por resonancias magn\u00e9ticas y tomograf\u00edas computarizadas. <\/p>\n Por otro, descarta que la IA pueda conducir a la inmortalidad humana: \u201cNo creo que vivamos para siempre. Creo que vivir para siempre ser\u00eda un gran error. \u00bfQuieres un mundo gobernado por hombres blancos de 200 a\u00f1os?<\/b>\u201d, ironiz\u00f3.<\/p>\n Al reflexionar sobre su propia carrera, Hinton <\/b>expres\u00f3 un \u00fanico remordimiento: \u201cOjal\u00e1 hubiera pensado tambi\u00e9n en los problemas de seguridad<\/b>\u201d, confes\u00f3, lamentando haber centrado todos sus esfuerzos en hacer que la IA funcionara, sin prever los dilemas \u00e9ticos y existenciales que ahora ocupan el centro del debate.<\/p>\n<\/div>\n![\"ARCHIVO:](\"https:\/\/www.infobae.com\/resizer\/v2\/BKWLCSKAGNK5OL7XXZ6AQ4BV7E.jpg?auth=b0c402a452240484c0b5478c3d032e2bc5e60bbdf6078afb6b3fb60d43af53d3&smart=true&width=992&height=661&quality=85\")
<\/picture>