El extraordinario potencial y los enormes riesgos de la revolución de la inteligencia artificial generativa (IA) estuvieron en el centro de las discusiones en la reunión anual del Foro Económico Mundial en Davos. Nick Clegg y Yann LeCun, presidente de Asuntos Globales y Chief AI Scientist de Meta, expresaron su visión sobre este tema en un encuentro con periodistas de cinco medios internacionales, entre ellos EL PAÍS.
Meta, la empresa matriz de Facebook, es una de las empresas líderes en esta revolución. Esto se debe a su notable capacidad en este sector concreto, y es que va de la mano del enorme poder que le otorga el control de su gigantesca plataforma social, cuya gestión ha suscitado serias críticas y acusaciones en los últimos años, entre ellas otros. cosas, por su impacto en la democracia.
En la conversación, LeCun señala que «al contrario de lo que algunas personas puedan oír, no existe ningún diseño de sistema que alcance la inteligencia humana». El experto cree que “pedir regulación por miedo a una inteligencia sobrehumana es como pedir regulación de los vuelos transatlánticos a una velocidad cercana a la velocidad del sonido en 1925. No es para mañana; “Hará falta mucho tiempo, con sistemas que aún no conocemos”, afirma, y por eso cree que es prematuro legislar ante el riesgo de que escapen al control humano. La UE aprobó la primera legislación sobre IA del mundo en diciembre, y otros países, como Estados Unidos y el Reino Unido, también están trabajando en leyes específicas para controlar la tecnología.
Clegg, por su parte, insta a los legisladores de todo el mundo que se ocupan del tema a regular los productos, pero no la investigación y el desarrollo. “La única razón por la que uno podría pensar que sería útil regular la investigación y el desarrollo es porque cree en la fantasía de que los sistemas de IA pueden apoderarse del mundo o son intrínsecamente peligrosos”, dice Clegg, ex viceprimer ministro británico. y líder del Partido Liberal Democrático de ese país.
Ambos hombres están satisfechos de que después de un período de agitación tras el surgimiento de ChatGPT, el debate público se haya alejado de las hipótesis apocalípticas y se haya centrado en cuestiones más concretas y desafíos actuales como la desinformación, los derechos de autor y el acceso a la tecnología.
Estado de la tecnología
“Estos sistemas son inteligentes en un dominio relativamente limitado en el que han sido entrenados. Hablan el idioma con fluidez y eso nos hace pensar que son inteligentes, pero no lo son tanto”, dice LeCun. “Y no tenemos la capacidad de simplemente crecer a escala y escalarlo con más datos, con computadoras más grandes, y así lograr inteligencia humana. No llegará. Lo que sucederá es que tendremos que descubrir nuevas tecnologías, nuevas arquitecturas de estos sistemas”, especifica el científico.
El experto explica que será necesario desarrollar nuevas formas de sistemas de IA “que permitan a estos sistemas, en primer lugar, comprender el mundo físico, algo que no pueden hacer en este momento. Recuerde, esto tampoco lo pueden hacer en este momento. Razonamiento y planificación, que tampoco pueden hacer en este momento. Y cuando descubramos cómo construir máquinas que comprendan el mundo, recuerden, planifiquen y razonen, tendremos un camino hacia la inteligencia humana”, continúa LeCun, nacido en Francia. En numerosos debates y discursos en Davos se mencionó la paradoja: Europa tiene un capital humano muy importante en este sector, pero no es una empresa líder a escala mundial.
«No es para mañana», insiste LeCun. El científico cree que este camino “llevará mucho tiempo; años, incluso décadas. Esto requerirá nuevos avances científicos que desconocemos. Entonces vale la pena preguntarse por qué personas que no son científicos dicen esto, ya que no son ellos los que están en las trincheras tratando de hacer que el sistema funcione. El experto explica que actualmente tenemos sistemas capaces de aprobar el examen de la barra, pero no tenemos sistemas capaces de limpiar la mesa y tirarla a la basura. No es porque no podamos construir un robot. Es porque no podemos hacerlos lo suficientemente inteligentes. Así que es obvio que nos falta algo importante antes de que podamos alcanzar el tipo de inteligencia que vemos, no sólo en los humanos, sino también en los animales. “Sería feliz si al final de mi carrera (tiene 63 años) tuviéramos sistemas tan inteligentes como un gato o algo parecido”, subraya.
El estado de la regulación
El debate sobre cómo regular esta tecnología en su estado actual y teniendo en cuenta las posibilidades de desarrollo cercano fue uno de los temas clave del foro anual de Davos. Uno de los principales focos de atención ha sido la legislación que se está introduciendo en la UE, que en muchos sentidos es pionera.
Interrogado sobre este tema, Clegg, que fue diputado al Parlamento Europeo y es un proeuropeo convencido, evita hacer una declaración definitiva al respecto, pero lanza críticas a la Unión. “Aún es un trabajo en progreso. Es algo muy clásico en Europa. Hay ruido, se dice que algo está acordado, pero en realidad es un trabajo que no está terminado. Lo estudiaremos de cerca cuando esté terminado y publicado, creo que el diablo estará realmente en los detalles”, dice el presidente de asuntos globales de Meta.
«Por ejemplo, cuando se trata de la transparencia de los datos en estos modelos, todo el mundo está de acuerdo», continúa Clegg. “¿Pero qué nivel de transparencia? ¿Son los conjuntos de datos? ¿Son datos individuales? O, por ejemplo, en materia de derechos de autor. La legislación sobre derechos de autor ya existe en la UE. ¿Te vas a limitar a eso? ¿O finalmente se agregará una nueva capa específica? Cuando se entrenan estos modelos, se devora una enorme cantidad de datos. Etiquetar cada dato por motivos de propiedad intelectual es extremadamente complejo. Entonces creo que el diablo está en los detalles. Lo estudiaremos.
De ahí vienen las críticas. “Personalmente, como europeo apasionado, a veces me siento un poco frustrado porque en Bruselas parecemos estar orgullosos de ser los primeros en legislar, en lugar de saber si la legislación es buena o no. Recuerde, esta ley de la UE sobre inteligencia artificial fue propuesta originalmente por la Comisión Europea hace tres años y medio, antes de que estallara todo el asunto de la IA generativa (como ChatGPT). Y luego intentaron adaptarlo mediante una serie de modificaciones, disposiciones para intentar tener en cuenta los últimos avances tecnológicos. «Es una forma bastante torpe de legislar, una adaptación, para algo tan importante como la IA generativa».
El debate entre establecer protecciones y evitar obstaculizar el desarrollo genera fuertes tensiones, dentro de la política y entre la política y el sector privado. En esta sutil línea que los legisladores deben trazar, está en juego un valor incalculable: la productividad, los empleos, las capacidades que definirán el equilibrio de poder geopolítico.
Clegg toca ese nervio. “Sé que Francia y Alemania, e Italia en particular, creo que han pedido sabiamente a los eurodiputados y a la Comisión Europea que tengan mucho cuidado de no incluir en la legislación nada que pueda obstaculizar la competitividad verdaderamente europea. Porque entre las diez empresas más grandes del mundo ninguna es europea”. Por otro lado, un grupo de expertos pidió a la UE, en una carta abierta publicada por EL PAÍS, una legislación aún más estricta «para proteger los derechos de los ciudadanos y la innovación».
Optimismo y cautela
Bajo este enorme pulso de poder avanza una tecnología que, si bien no alcanza por completo niveles humanos o sobrehumanos, ya ha entrado en nuestras vidas con una fuerza extraordinaria.
“La IA amplifica la capacidad correctiva de la inteligencia humana. Hay un futuro en el que todas nuestras interacciones con el mundo digital estarán mediadas por un sistema de inteligencia artificial”, afirma LeCun. “Esto significa que en algún momento estos sistemas de IA serán más inteligentes que nosotros en algunas áreas; de hecho, ya lo son en algunas áreas, y tal vez más inteligentes que nosotros en todas las áreas en algún momento. Y esto significa que tendremos asistentes con nosotros en todo momento, que son más inteligentes que nosotros. ¿Deberíamos sentirnos amenazados por esto? ¿O deberíamos sentirnos empoderados? Creo que deberíamos sentirnos empoderados.
A lo largo de la entrevista, LeCun introduce varios elementos de optimismo cauteloso. “Si piensas en el efecto que esto podría tener en la sociedad a largo plazo, podría tener un efecto similar al de la invención de la imprenta. Básicamente, crear un nuevo Renacimiento en el que puedas ser más inteligente es algo bueno en sí mismo. Por supuesto, ahora existen riesgos. Y la tecnología debe implementarse de manera responsable, de modo que se maximicen los beneficios y se mitiguen o minimicen los riesgos.
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
Suscríbete para seguir leyendo
Leer sin límites
_
