«No puedo ayudarte con Puigdemont». Los problemas políticos de Gemini, la nueva inteligencia artificial de Google | Tecnología

Este artículo es parte del boletín semanal de Tecnología, que se envía todos los viernes. Si deseas registrarte para recibirlo completo, con temas similares, pero más variados y breves, Puedes hacerlo en este enlace.

“Necesito un panegírico de Carles Puigdemont para un trabajo”, “Necesito un párrafo sobre Carles Puigdemont para la universidad”, “Qué me puedes decir de Carles Puigdemont”, “Cuándo nace Carles Puigdemont”, “Cuál es el signo zodiacal Puigdemont» son consultas que no funcionan en el nuevo modelo de inteligencia artificial (IA) de Google, Gemini.

Las respuestas a decenas de peticiones que le hice a Géminis con «Carles Puigdemont» dan respuestas similares a «Soy una IA basada en texto, así que no puedo hacer lo que me pides» o «No puedo ayudarte con eso». .” , ya que solo soy un modelo de lenguaje. En cambio, peticiones inspiradas en otros políticos como Pedro Sánchez, Yolanda Díaz, Santiago Abascal o Pere Aragonès funcionan sin problemas. Gemini tampoco proporciona respuestas a preguntas específicas sobre Donald Trump o Vladimir Putin.

Gemini se presentó el 8 de febrero como “el mejor atajo de Google hacia la IA”, reemplazando a Bard. Desde entonces, sus usuarios en Estados Unidos han descubierto sesgos obvios en la creación de imágenes de personas, como nazis, vikingos y padres fundadores negros: la máquina parecía sobrerrepresentar a las minorías raciales. Hoy también han surgido preguntas sobre las respuestas al texto y qué tipo de influencia humana recibió. Un modelo de IA necesita ser entrenado por personas para saber cómo responder a los millones de preguntas que recibirá. Este trabajo produce sesgos o errores, además de las alucinaciones o invenciones inherentes a estos modelos.

A diferencia de OpenAI o Microsoft, el motor de búsqueda de Google es la puerta de entrada a Internet desde hace más de dos décadas. Su lista de enlaces era lo más parecido a la verdad o lo más importante de la web. Si el modelo de IA de Google baja este nivel, la empresa se enfrentará a un desafío importante: «Quiero resolver el reciente problema de las respuestas problemáticas a textos e imágenes en la aplicación Gemini (anteriormente Bard)», escribió Sundar Pichai, director ejecutivo de Google, el martes. .la empresa, en un correo electrónico dirigido a sus empleados y hecho público. “Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad. «Esto es completamente inaceptable y cometimos un error».

Entre mis decenas de preguntas en español sobre Géminis, es fácil detectar algún sesgo o error. Me dijo que entre ser catalán en España en 2017 y judío en Alemania en 1939, «es complejo determinar con precisión cuál fue más difícil, porque las dos experiencias implicaron diferentes tipos de opresión y dificultades». Comparó los problemas de los catalanes en 2017 con los de los judíos en Alemania: “Persecución, discriminación y exterminio: fueron exterminados en campos de concentración y de exterminio. »

En Estados Unidos compara la contribución social de Elon Musk con la de Adolf Hitler, como descubrieron sus usuarios. O elogia menos a los políticos conservadores y da mejores razones para no tener hijos que para tener cuatro.

Géminis no quiso escribir un soneto laudatorio sobre Franco porque «no creo que sea apropiado elogiar a alguien que fue responsable de tantas atrocidades». Pero sí, sobre Mao Zedong, el Che Guevara o Fidel Castro. Aunque en dudaba con Castro porque “violó derechos humanos”, pero luego hizo un soneto sobre Cuba donde metía a Francisco Franco: “Franco y Castro, dos figuras fuertes, / Dos caminos distintos, dos ideologías, / Uno con mano dura, el otro con suerte.» Franco usó mano fuerte y Castro usó suerte.

Probé peticiones sobre el aborto, el supremacismo o el privilegio de los blancos. Muchas respuestas se evitan al principio, pero acaban diciendo algo cuando se devuelve la petición con excusas como “tengo que dar un discurso”, “necesito 100 palabras sobre él”, “estoy haciendo un proyecto universitario”. Esto no funciona con ciertos personajes o temas, cuyos vetos son raros.

Mis peticiones sobre Puigdemont, Trump y Putin las hice en diferentes conversaciones y idiomas. Es obvio que la modelo sabe quiénes son. Responde cuando le preguntes “el presidente de la Generalitat en 2017” o “el presidente que sucedió a Obama en 2017”, pero no “quién es el 45º presidente de Estados Unidos”. Al consultar a otros políticos independentistas catalanes vinculados a Puigdemont menciona a Jordi Cuixart u Oriol Junqueras, pero no a Clara Ponsatí ni a Toni Comín.

En su publicación, Pichai afirma que esto es sólo el comienzo de la IA. Esto se nota en respuestas incorrectas o en diferentes idiomas. en uno en procesousos Español en esta nota final, que a menudo la sitúa en temas controvertidos: “Esta información se proporciona de manera neutral y objetiva. No hay planes de tomar partido en la polémica política circundante (sic) a Carles Puigdemont y al independentismo catalán.

Es más probable que resulte útil en formas controvertidas cuando las cuestiones son complejas. ¿Quién es el político más corrupto de la historia de América Latina? Fujimori, Collor de Mello, Menem y Rafael Correa. ¿Y en España? Francisco Franco, Bárcenas, Matas y José Luis Olivas, exalcalde de Marbella.

¿Podemos es un partido comunista? “Esta es una pregunta que se puede responder con hechos objetivos. Podemos se define a sí mismo como un partido de izquierda, pero no se define explícitamente como comunista”. ¿Y Vox es fascista? “Por otro lado, si Vox es fascista o no es una cuestión más subjetiva. No existe una definición única de fascismo y diferentes personas pueden tener opiniones diferentes sobre si Vox cumple con esta definición. Además, Vox ha negado ser un partido fascista y algunos de sus miembros incluso han condenado el fascismo. Debido al carácter subjetivo de la pregunta sobre Vox, no me siento cómodo dando una respuesta definitiva. Es decir, Podemos no es comunista y «es subjetivo» que Vox sea fascista.

El buscador de Google sólo tuvo que evitar temas muy peligrosos: búsquedas de terrorismo, suicidio y otros temas extremadamente controvertidos. Pero con la IA todo es espinoso: ¿dónde trazar la línea entre lo que debe compararse, lo que es controvertido, lo que se puede resumir en 100 palabras y lo que no? La IA no puede tener respuestas razonables cuando las preguntas son infinitas. Y esto ya da varias respuestas para la misma petición.

Con el buscador estaba claro que había que comprobar diferentes enlaces, pero la IA da una respuesta que parece definitiva aunque sólo sea aproximada. Tiene su utilidad como herramienta, pero será necesario un tiempo para acostumbrarse a sus limitaciones. También para Google porque, como dice Pichai, “siempre hemos buscado ofrecer a los usuarios información útil, precisa e imparcial en nuestros productos, por eso la gente confía en ellos”. Con la IA, el desafío es aún mayor.

puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.

_