Yann LeCun, cientfico jefe de IA de Meta: Una inteligencia artificial de nivel humano va a llevar mucho tiempo




El extraordinario potencial y los enormes riesgos de la revolucin de la inteligencia artificial (IA) generativa han sido grandes protagonistas en los debates de la reunin anual del Foro Econmico Mundial en Davos. Nick Clegg y Yann LeCun, presidente de Asuntos Globales y cientfico jefe de IA de Meta, han expresado sus puntos de vista en esta materia en un encuentro con periodistas de cinco medios internacionales, entre ellos EL PAS.Meta, compaa matriz de Facebook, es una de las empresas protagonistas de la revolucin. Lo es por su notable capacidad en este sector especfico, y lo es porque va de la mano del enorme poder que otorga el control de su gigantesca plataforma social, cuya gestin ha acarreado graves crticas y acusaciones en los ltimos aos, entre otras cosas, por su impacto en la democracia.Ms informacinEn la conversacin, LeCun subraya que contrariamente a lo que se puede escuchar de algunas personas, no existe un diseo para un sistema que alcance la inteligencia humana. El experto cree que pedir regulaciones por miedo a la inteligencia sobrehumana es como pedir una regulacin de vuelos transatlnticos a una velocidad cercana a la del sonido en 1925. Esto no est a la vuelta de la esquina; va a llevar mucho tiempo, con sistemas que todava no conocemos, asegura, y por ello cree que es prematuro legislar pensando en el riesgo de que puedan salir del control humano. La UE aprob en diciembre la primera legislacin del mundo sobre IA, y otros lugares, como EE UU y el Reino Unido, tambin trabajan en leyes especficas para controlar esta tecnologa.Clegg, por su parte, exhorta los legisladores que en todo el mundo se ocupan de la materia a regular los productos, pero no la investigacin y el desarrollo. La nica razn por la que puede pensarse que sera til regular la investigacin y el desarrollo es porque se cree en esta fantasa de que los sistemas de IA pueden apoderarse del mundo, o son intrnsecamente peligrosos, dice Clegg, quien fue viceprimer ministro britnico y lder del partido liberaldemcrata de ese pas.Los dos se muestran satisfechos de que, tras un periodo de cierta conmocin despus de la aparicin de ChatGPT, el debate pblico se haya alejado de hiptesis apocalpticas y se haya ido centrando en temas ms concretos y desafo actuales como la desinformacin, los derechos de autor, el acceso a la tecnologa.El estado de la tecnologaEstos sistemas son inteligentes en un dominio relativamente estrecho en el que han sido entrenados. Dominan el lenguaje y eso nos hace pensar que son inteligentes, pero no lo son tanto, explica LeCun. Y nosotros no tenemos la capacidad de simplemente crecer de escala y evolucionarlos con ms datos, con ordenadores ms grandes, y por ese camino alcanzar la inteligencia humana. Eso no va a ocurrir. Lo que va a pasar es que vamos a tener que descubrir nuevas tecnologas, nuevas arquitecturas de esos sistemas, aclara el cientfico.El experto explica que va a ser necesario desarrollar nuevas formas de sistemas de IA que permitiran a esos sistemas, en primer lugar, entender el mundo fsico, lo que no pueden hacer en este momento. Recordar, lo que tampoco pueden hacer por el momento. Razonar y planificar, algo que tampoco pueden hacer por el momento. Y cuando descubramos cmo construir mquinas que comprendan el mundo, recuerden, planifiquen y razonen, tendremos un camino hacia la inteligencia humana, prosigue LeCun nacido en Francia. En ms de un debate y discurso de Davos se ha mencionado la paradoja de que Europa disponga de un capital humano muy notable en este sector, pero no de empresas punteras a escala global.Esto no est a la vuelta de la esquina, insiste LeCun. El cientfico cree que este camino va a llevar mucho tiempo; aos, si no dcadas. Va a requerir nuevos avances cientficos que no conocemos. As que conviene preguntarse por qu personas que no son cientficos lo dicen, ya que no son los que estn en las trincheras intentando que funcione. El experto explica que, en estos momentos, tenemos sistemas que pueden aprobar el examen de abogaca, pero no tenemos sistemas que puedan limpiar la mesa y tirar a la basura. No es porque no podamos construir un robot. Es porque no podemos hacerlos lo suficientemente inteligentes. As que obviamente, nos falta algo grande antes de que podamos alcanzar el tipo de inteligencia que observamos, no solo en los seres humanos, sino tambin en los animales. Me alegrara que al final de mi carrera [tiene 63 aos] tuviramos sistemas tan inteligentes como un gato o algo similar, apunta.El estado de la regulacinEl debate sobre cmo regular esta tecnologa en su estado actual y con las posibilidades de desarrollo cercanas ha sido uno de los asuntos clave en el foro anual de Davos. La legislacin que est siendo introducida en la UE, en muchos sentidos pionera, ha sido uno de los principales focos de atencin.Preguntado el respecto, Clegg, que fue eurodiputado y es un europesta convencido, evita pronunciarse de forma definitiva sobre la materia, pero lanza pullas a la Unin. Es un trabajo todava en desarrollo. Es una cosa muy clsica de la UE. Hay fanfarria, se dice que se ha acordado algo, pero en realidad es un trabajo que no est terminado. Lo estudiaremos de cerca cuando est completo y publicado, creo que el diablo realmente estar en los detalles, dice el presidente de Asuntos Globales de Meta.Por ejemplo, en cuanto a la transparencia de los datos en estos modelos, todo el mundo est de acuerdo, prosigue Clegg. Pero qu nivel de transparencia? Son los conjuntos de datos? Se trata de datos individuales? O, por ejemplo, en derechos de autor. En la UE ya existe una legislacin sobre derechos de autor. Simplemente se va a limitar a eso? O se va finalmente a aadir una nueva capa especfica? Cuando se entrenan estos modelos, se devoran una enorme cantidad de datos. Etiquetar cada bit de datos por razones de propiedad intelectual es de una complejidad extraordinaria. As que creo que el problema est en los detalles. Lo estudiaremos.A partir de ah, afloran crticas. Personalmente, como apasionado europeo, a veces me frustra un poco que en Bruselas parezcan enorgullecerse de ser los primeros en legislar, ms que de si la legislacin es buena o no. Hay que recordar que esta Ley de Inteligencia Artificial de la UE fue propuesta inicialmente por la Comisin Europea hace tres aos y medio, antes de que estallara todo el asunto de la IA generativa [como ChatGPT]. Y luego trataron de adaptarla a travs de una serie de enmiendas, disposiciones para tratar de captar la ltima evolucin de la tecnologa. Es una forma bastante torpe de legislar, una adaptacin, para algo tan importante como la IA generativa.El debate entre establecer protecciones y evitar entorpecer el desarrollo genera fuertes tensiones, dentro de la poltica, y entre poltica y sector privado. En esa lnea sutil que tienen que trazar los legisladores se juega un valor incalculable: productividad, puestos de trabajo, capacidades que definirn el balance de poder geopoltico.Clegg toca ese nervio. S que Francia y Alemania, Italia en particular, han estado, creo, pidiendo sensatamente a los eurodiputados y a la Comisin Europea que tengan mucho cuidado de no incluir en la legislacin algo que realmente obstaculice la competitividad europea. Porque de las diez empresas ms grandes del mundo, ninguna es europea. Por contra, un grupo de expertos reclam a la UE, en una carta abierta que public EL PAS, una legislacin an ms fuerte para proteger los derechos de los ciudadanos y la innovacin.Optimismo y prudenciaPor debajo de ese enorme pulso de poder avanza una tecnologa que, si bien no est cerca de alcanzar plenamente niveles humanos o sobrehumanos, ha entrado ya con una fuerza extraordinaria en nuestras vidas.La IA amplifica la capacidad correctiva de la inteligencia humana. Hay un futuro en el que todas nuestras interacciones con el mundo digital sern mediadas por un sistema de IA, dice LeCun. Lo que eso significa esto es que, en algn momento, esos sistemas de IA sern ms inteligentes que nosotros en ciertas reas, de hecho en algunas ya lo son, y tal vez ms inteligentes que nosotros en todas las reas en algn momento. Y lo que eso significa es que vamos a tener asistentes con nosotros en todo momento, que son ms inteligentes que nosotros. Deberamos sentirnos amenazados por esto? O deberamos sentirnos fortalecidos? Yo creo que deberamos sentirnos fortalecidos.A lo largo de la entrevista, LeCun introduce varios elementos de prudente optimismo. Si usted piensa en el efecto que esto podra tener en la sociedad a largo plazo, podra tener un efecto similar a la invencin de la imprenta. As que, bsicamente, crear un nuevo Renacimiento en el que puede ser ms inteligente, es intrnsecamente bueno. Ahora, por supuesto, hay riesgos. Y hay que desplegar la tecnologa de forma responsable, de manera que se maximicen los beneficios y se mitiguen los riesgos o se minimicen.Puedes seguir a EL PAS Tecnologa en Facebook y X o apuntarte aqu para recibir nuestra newsletter semanal.Suscrbete para seguir leyendoLee sin lmites_