Sus dise\u00f1adores est\u00e1n entusiasmados, luego inquietos y despu\u00e9s aterrorizados.<\/p>\n
Van a desconectarla y descubren que la IA ha copiado su c\u00f3digo en otra parte<\/strong>, quiz\u00e1 en todas partes.<\/p>\n Recuerda esta historia por un momento.<\/p>\n En las \u00faltimas semanas se han producido dos acontecimientos importantes en el \u00e1mbito de la inteligencia artificial. <\/p>\n Uno de ellos ya lo conoces. <\/p>\n La organizaci\u00f3n sin fines de lucro que gobierna OpenAI<\/strong>, fabricante de ChatGPT<\/strong>, despidi\u00f3 a Sam Altman<\/strong>, consejero delegado de la empresa.<\/p>\n La decisi\u00f3n fue inesperada y en gran medida inexplicable. <\/p>\n "La salida del Sr. Altman se produce tras un proceso de revisi\u00f3n deliberativa por parte del consejo, que lleg\u00f3 a la conclusi\u00f3n de que no fue consistentemente sincero en sus comunicaciones con el consejo, obstaculizando su capacidad para ejercer sus responsabilidades", rezaba un cr\u00edptico comunicado.<\/p>\n Muchos supusieron que Altman hab\u00eda mentido<\/strong> al consejo sobre las finanzas o los datos de seguridad de OpenAI. <\/p>\n Pero Brad Lightcap, directivo de OpenAI, dijo a los empleados que no se hab\u00eda producido tal infracci\u00f3n. <\/p>\n "Podemos afirmar con rotundidad que la decisi\u00f3n de la junta no se tom\u00f3 en respuesta a una mala conducta ni a nada relacionado con nuestras pr\u00e1cticas financieras, empresariales, de seguridad o de seguridad\/privacidad", escribi\u00f3. <\/p>\n "Se trat\u00f3 de una ruptura de la comunicaci\u00f3n<\/strong> entre Sam y la junta".<\/p>\n En el coraz\u00f3n de OpenAI hay -o quiz\u00e1 hab\u00eda- una misi\u00f3n. <\/p>\n La IA era una tecnolog\u00eda demasiado poderosa para ser controlada por empresas con fines de lucro o Estados con af\u00e1n de poder. <\/p>\n Ten\u00eda que ser desarrollada por una organizaci\u00f3n que, como dice la carta de Open AI, "actuara en inter\u00e9s de la humanidad<\/strong>". <\/p>\n OpenAI se cre\u00f3 para ser esa organizaci\u00f3n. <\/p>\n Empez\u00f3 siendo una organizaci\u00f3n sin fines de lucro. <\/p>\n Cuando qued\u00f3 claro que el desarrollo de la IA requerir\u00eda decenas o cientos de miles de millones de d\u00f3lares, se cre\u00f3 una estructura dual, en la que la organizaci\u00f3n sin fines de lucro, controlada por un consejo elegido por su compromiso con la misi\u00f3n fundacional de OpenAI, gobernar\u00eda la organizaci\u00f3n con fines de lucro, que recaudar\u00eda el dinero<\/strong> y comercializar\u00eda <\/strong>las aplicaciones de IA necesarias para financiar la misi\u00f3n.<\/p>\n En mi informe, la mejor explicaci\u00f3n que he o\u00eddo para la decisi\u00f3n de la junta, tan mal comunicada como fue, es que despidi\u00f3 a Altman por la raz\u00f3n precisa por la que dijo que despidi\u00f3 a Altman.<\/p>\n Actuaba y se comunicaba con el consejo de una forma que dificultaba el "ejercicio de sus responsabilidades", es decir, el control de la empresa<\/strong> con fines de lucro.<\/p>\n En parte se trataba de la comunicaci\u00f3n; <\/p>\n la implicaci\u00f3n es que la junta sent\u00eda que Altman era lento u opaco o enga\u00f1oso en lo que les dec\u00eda y cu\u00e1ndo. <\/p>\n Pero en parte se deb\u00eda al ritmo de comercializaci\u00f3n, a los contratos que se firmaban con los socios<\/strong>, a las promesas que se hac\u00edan a los empleados y a los productos que se empezaban a desarrollar. <\/p>\n Se supone que OpenAI desarrolla IA para servir a la humanidad, no para ayudar a Microsof<\/strong>t a captar cuota de mercado frente a Google<\/strong>. <\/p>\n As\u00ed que la junta trat\u00f3 de hacer aquello para lo que fue dise\u00f1ada: <\/p>\n frenar el \u00e1nimo de lucro, en este caso despidiendo a Altman. <\/p>\n Advertida de que despedir a Altman podr\u00eda destruir OpenAI, Helen Toner, uno de los miembros de la junta, respondi\u00f3: <\/p>\n "En realidad, eso ser\u00eda coherente con la misi\u00f3n".<\/p>\n OpenAI siempre hab\u00eda dicho a sus inversores que algo as\u00ed podr\u00eda ocurrir. <\/p>\n "Ser\u00eda prudente considerar cualquier inversi\u00f3n en OpenAI Global LLC con el esp\u00edritu de una donaci\u00f3n", advert\u00eda.<\/p>\n La empresa sali\u00f3 entonces y recaud\u00f3 decenas de miles de millones de d\u00f3lares de personas que no ve\u00edan sus inversiones como donaciones. <\/p>\n Eso describe sin duda a Microsoft, que invirti\u00f3 m\u00e1s de 13.000 millones de d\u00f3lares<\/strong> en OpenAI, posee el 49% de la empresa con fines de lucro, situ\u00f3 las tecnolog\u00edas de OpenAI en el centro de su hoja de ruta de productos y nunca ha descrito su estrategia como filantr\u00f3pica.<\/strong><\/p>\n Satya Nadella<\/strong>, consejero delegado de Microsoft, no ten\u00eda poder para impedir que el consejo de OpenAI despidiera a Altman, pero s\u00ed para dejar la acci\u00f3n en papel mojado. <\/p>\n Anunci\u00f3 una nueva divisi\u00f3n de innovaciones avanzadas<\/strong>, dirigida por Altman (y el presidente de OpenAI, Greg Brockman, que dimiti\u00f3 en solidaridad con Altman) e integrada por todos los empleados de OpenAI que quisieran unirse. <\/p>\n M\u00e1s del 90% de los empleados de OpenAI -incluido, curiosamente, Ilya Sutskever, el cofundador de OpenAI que no s\u00f3lo hab\u00eda ayudado a la junta a echar a Altman, sino que tambi\u00e9n le hab\u00eda informado de que estaba despedido- firmaron entonces una carta amenazando con dimitir a menos que Altman fuera readmitido y la junta dimitiera. <\/p>\n El mi\u00e9rcoles, Altman volv\u00eda a ser consejero delegado de OpenAI y todos los miembros del consejo, menos uno, hab\u00edan renunciado.<\/p>\n No s\u00e9 si la junta hizo bien en despedir a Altman. <\/p>\n Desde luego, no ha presentado p\u00fablicamente argumentos que justifiquen la decisi\u00f3n. <\/p>\n Pero la junta sin fines de lucro estaba en el centro de la estructura de OpenAI por una raz\u00f3n. <\/p>\n Se supon\u00eda que pod\u00eda pulsar el bot\u00f3n de apagado. <\/p>\n Pero no hay bot\u00f3n de apagado.<\/p>\n La organizaci\u00f3n con fines de lucro ha demostrado que puede reconstituirse en otro lugar. <\/p>\n Y no lo olvidemos: <\/p>\n Todav\u00eda existe la divisi\u00f3n de IA de Google<\/strong> y la divisi\u00f3n de IA de Meta<\/strong> y Anthropic e Inflection y muchos otros que han construido grandes modelos de lenguaje similares a GPT-4 y los est\u00e1n uniendo a modelos de negocio similares a los de OpenAI. <\/p>\n El capitalismo es en s\u00ed mismo un tipo de IA, y est\u00e1 mucho m\u00e1s avanzado<\/strong> que cualquier cosa que los inform\u00e1ticos hayan codificado todav\u00eda. <\/p>\n En ese sentido, copi\u00f3 el c\u00f3digo de OpenAI hace mucho tiempo.<\/p>\n Garantizar que la IA sirva a la humanidad siempre fue una tarea demasiado importante<\/strong> para dejarla en manos de las corporaciones, independientemente de sus estructuras internas. <\/p>\n Ese es el trabajo de los gobiernos, al menos en teor\u00eda. <\/p>\n Por eso, el segundo acontecimiento importante sobre IA de las \u00faltimas semanas fue menos fascinante, pero quiz\u00e1 m\u00e1s trascendente: <\/p>\n El 30 de octubre, la administraci\u00f3n Biden public\u00f3 una importante orden ejecutiva: <\/p>\n "Sobre el desarrollo y uso seguro y fiable de la Inteligencia Artificial".<\/strong><\/p>\n Se trata de un marco extenso y reflexivo que desaf\u00eda un simple resumen (aunque si quieres profundizar, el an\u00e1lisis del escritor Zvi Mowshowitz y la recopilaci\u00f3n de reacciones son excelentes). <\/p>\n En t\u00e9rminos generales, sin embargo, yo lo describir\u00eda como un esfuerzo no por regular la IA, sino por establecer la infraestructura, las definiciones y las preocupaciones que con el tiempo se utilizar\u00e1n para regular la IA.<\/p>\n Deja claro que el gobierno tendr\u00e1 especial inter\u00e9s en regular y probar<\/strong> los modelos de IA que crucen determinados umbrales de complejidad y potencia de c\u00e1lculo. <\/p>\n Por ahora, la orden pide sobre todo informes, an\u00e1lisis y consultas. <\/p>\n Pero todo ello es necesario para construir una estructura reguladora que funcione. <\/p>\n Aun as\u00ed, esta primera iniciativa, bastante prudente, provoc\u00f3 la indignaci\u00f3n de muchos miembros de la clase empresarial de Silicon Valley,<\/strong> que acusaron al gobierno, entre otras cosas, de intentar "prohibir las matem\u00e1ticas", en referencia al mayor escrutinio de los sistemas m\u00e1s complejos. <\/p>\n Dos semanas m\u00e1s tarde, Gran Breta\u00f1a<\/strong> anunci\u00f3 que no regular\u00eda en absoluto<\/strong> la IA a corto plazo, prefiriendo en su lugar mantener un "enfoque favorable a la innovaci\u00f3n".<\/p>\n La normativa propuesta por la Uni\u00f3n Europea podr\u00eda estancarse ante la preocupaci\u00f3n de Francia, Alemania e Italia, que temen que el escrutinio de sistemas m\u00e1s potentes signifique simplemente que esos sistemas se desarrollen en otros lugares.<\/strong><\/p>\n Supongamos que los reguladores estadounidenses vieran algo, en alg\u00fan momento, que les convenciera de la necesidad de tomar medidas en\u00e9rgicas contra los modelos m\u00e1s grandes. <\/p>\n Eso siempre va a ser una decisi\u00f3n de juicio: <\/p>\n Si est\u00e1s regulando algo que puede causar un da\u00f1o terrible antes de que cause un da\u00f1o terrible, probablemente lo est\u00e1s regulando cuando el da\u00f1o terrible sigue siendo te\u00f3rico. <\/strong><\/p>\n Puede que el da\u00f1o que temes nunca se produzca. <\/p>\n Las personas que pueden perder dinero con su regulaci\u00f3n ser\u00e1n muy activas a la hora de defender este argumento.<\/p>\n O quiz\u00e1 ni siquiera sea tan dram\u00e1tico.<\/p>\n Los reguladores empiezan a ver capacidades emergentes y comportamientos inesperados que les convencen de que estos sistemas avanzan demasiado r\u00e1pido, que est\u00e1n m\u00e1s all\u00e1 de nuestra capacidad de comprensi\u00f3n y que el ritmo de progreso debe ralentizarse para dar m\u00e1s tiempo a las pruebas y la investigaci\u00f3n. <\/p>\n Y lo que es peor, lo ven en datos protegidos, que no pueden hacer p\u00fablicos. <\/p>\n E incluso si pudieran hacer p\u00fablicos esos datos, seguir\u00eda siendo un juicio de valor. <\/p>\n Actuar antes de tiempo es actuar sin certeza.<\/strong><\/p>\n \u00bfLe parecer\u00eda al resto del mundo un enfoque inteligente que deber\u00edan copiar? <\/p>\n \u00bfO les parecer\u00eda una oportunidad para arrebatar a Estados Unidos el liderazgo en IA? <\/p>\n No es dif\u00edcil imaginar a Gran Breta\u00f1a, China o Jap\u00f3n<\/strong>, o a actores m\u00e1s peque\u00f1os como Israel, Arabia Saudita<\/strong> o Estonia<\/strong>, viendo oportunidades en nuestra cautela y atrayendo a las empresas de IA con promesas de un enfoque m\u00e1s favorable a la innovaci\u00f3n. <\/p>\n Si parece descabellado imaginar a empresas enteras estableci\u00e9ndose en el extranjero en busca de normativas m\u00e1s laxas, recuerde que FTX,<\/strong> bajo la direcci\u00f3n de Sam Bankman-Fried<\/strong>, traslad\u00f3 su sede y su personal a las Bahamas<\/strong> exactamente por esa raz\u00f3n. <\/p>\n Ya vimos c\u00f3mo funcion\u00f3.<\/p>\n No quiero ser demasiado pesimista. <\/p>\n Si la IA evoluciona como la mayor\u00eda de las tecnolog\u00edas -de forma progresiva para que los reguladores, las empresas y los sistemas jur\u00eddicos puedan seguir el ritmo (o al menos ponerse al d\u00eda)-, entonces vamos por buen camino.<\/p>\n En el \u00faltimo a\u00f1o, me ha animado la seriedad con la que los gobiernos, los tecn\u00f3logos y los medios de comunicaci\u00f3n se est\u00e1n tomando tanto las posibilidades como los peligros de la IA. <\/p>\n Pero si las capacidades de estos sistemas siguen aumentando exponencialmente, como muchos dentro de la industria creen que ocurrir\u00e1, nada de lo que he visto en las \u00faltimas semanas me hace pensar que seremos capaces de apagar los sistemas si empiezan a escaparse de nuestro control.<\/p>\n No hay interruptor de apagado.<\/p>\n c.2023 The New York Times Company<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" Los escritores de ciencia ficci\u00f3n y los investigadores en inteligencia artificial temen desde hace tiempo la m\u00e1quina que no se puede apagar.![\"Sam](\"https:\/\/www.clarin.com\/img\/2023\/11\/23\/n-UJQa9th_720x0__1.jpg\"\/)
Sam Altman, CEO de OpenAI, asiste a la Cumbre de CEOs del Foro de Cooperaci\u00f3n Econ\u00f3mica Asia-Pac\u00edfico (APEC) en San Francisco, California, Estados Unidos, el 16 de noviembre de 2023. REUTERS\/Carlos Barria\/File Photo\/File Photo<\/p>\nSituaci\u00f3n<\/h2>\n
Conflicto<\/h2>\n
Corolario<\/h2>\n
L\u00edmites<\/h2>\n
\nLa historia es m\u00e1s o menos as\u00ed:
\nSe desarrolla una potente IA.
\nSus dise\u00f1adores est\u00e1n entusiasmados, luego inquietos y despu\u00e9s aterrorizados.
\nVan a desconectarla y descubren que la IA ha copiado su c\u00f3digo en otra parte, quiz\u00e1 en todas partes.
\nRecuerda esta historia por un momento.
\nSam Altman, CEO de OpenAI, asiste a la Cumbre de CEOs del Foro de Cooperaci\u00f3n Econ\u00f3mica Asia-Pac\u00edfico (APEC) en San Francisco, California, Estados Unidos, el 16 de noviembre de 2023. REUTERS\/Carlos Barria\/File Photo\/File PhotoEn las \u00faltimas semanas se han producido dos acontecimientos importantes en el \u00e1mbito de la inteligencia artificial.
\nUno de ellos ya lo conoces.
\nLa organizaci\u00f3n sin fines de lucro que gobierna OpenAI, fabricante de ChatGPT, despidi\u00f3 a Sam Altman, consejero delegado de la empresa.
\nSituaci\u00f3nLa decisi\u00f3n fue inesperada y en gran medida inexplicable.
\n“L..<\/p>\n","protected":false},"author":2,"featured_media":13324,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"_links":{"self":[{"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/13323"}],"collection":[{"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=13323"}],"version-history":[{"count":0,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/13323\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/media\/13324"}],"wp:attachment":[{"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=13323"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=13323"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/maxradio923.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=13323"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}