La fórmula matemática para enseñar a las máquinas un código de ética tiene tres elementos básicos. Y no es muy diferente del cóctel ético que manejamos las personas. Acción, valor y norma conforman esta tríada con la que juegan los investigadores para establecer los límites que controlan el comportamiento de la inteligencia artificial.
Para las personas, el valor equivale a una especie de norma social comúnmente aceptada: sabemos que mentir es un acto moralmente incorrecto. Y las normas ayudan a formalizar la idea de valor en un código legal. “Las normas prohíben, como fumar en espacios cerrados, pero el coraje también ayuda a promover buenas acciones, como donar o ser amable”, afirma Maite López-Sánchez, investigadora en IA y profesora de la Universidad de Barcelona. que trabaja en sistemas para introducir principios éticos en los sistemas de inteligencia artificial.
Las personas aprendemos este marco, que sirve para delimitar nuestro comportamiento, durante el proceso de socialización. Pero en las máquinas todo debe traducirse en números y funciones matemáticas. El objetivo final es proporcionar una secuencia de acciones. “Al final, las máquinas están muy integradas en la sociedad y acaban tomando decisiones que nos afectan como personas. Sería deseable que estas decisiones estuvieran alineadas con lo que consideramos correcto, que estuvieran bien integradas socialmente”, cree el investigador.
López-Sánchez va à l’essentiel pour expliquer la nécessité d’avoir des machines éthiques : « Je peux avoir une voiture autonome et, si je lui donne pour objectif de m’emmener au travail, la voiture emprunterait le chemin le plus efficace ou el mas rapido. . Tenemos muy claro que quiero ponerme manos a la obra, pero no quiero aplastar a nadie. «Eso no sería moralmente correcto». Pero la casuística va mucho más allá de las hipótesis extremas. “Hay muchos aspectos a considerar a la hora de conducir correctamente. No se trata sólo de no infringir las normas, sino de hacer las cosas bien, como ceder el paso a un peatón, mantener la distancia de seguridad o no ser agresivo con la bocina”, añade el investigador.
La ética de la IA también sirve para promover la igualdad de trato. “Si se trata de un sistema de toma de decisiones para la concesión de un seguro de salud, lo que queremos es que sea un algoritmo imparcial que trate a todos por igual”, afirma López-Sánchez.
En los últimos años han surgido sesgos algorítmicos de todo tipo. Un sistema desarrollado por Amazon que seleccionaba a los candidatos para un empleo priorizaba los CV de los hombres sobre los de las mujeres. Hizo esto porque entrenó con un programa predominantemente masculino y no había manera de corregir esta brecha. Otro algoritmo, utilizado en este caso por el sistema de salud de Estados Unidos, penalizaba con igual gravedad clínica a los negros respecto a los blancos, de modo que se asignaba mayor riesgo a los blancos y, por tanto, les daba prioridad en la atención médica. .
Además, los sistemas autónomos abordan cuestiones relacionadas con la propiedad intelectual o el uso de datos privados. Una fórmula para evitar estas deficiencias es establecer autolimitaciones en el diseño del algoritmo. Ana Cuevas, catedrática de Lógica y Filosofía de la Ciencia de la Universidad de Salamanca, defiende este enfoque proactivo: «No hay que esperar a que las cosas sucedan para analizar los riesgos que pueden presentar, sino partir de la hipótesis de que antes “Para crear un sistema de inteligencia artificial, debemos pensar qué tipo de sistema quiero crear para evitar ciertos resultados indeseables. »
Ética en lenguaje de máquina
Introducir un corpus ético en las máquinas es un trabajo relativamente nuevo. La comunidad científica lo ha abordado principalmente desde un punto de vista teórico, pero no es tan común escarbar en el barro para precisar valores numéricos y enseñanzas morales en ingeniería. En el grupo de investigación de Sánchez-López, WAI, en la Universidad de Barcelona, están explorando esta área de forma experimental.
Estos investigadores conectan los conceptos de valor y acción en el diseño de sistemas. “Tenemos funciones matemáticas que nos dicen que para un determinado valor una determinada acción de la máquina se considera positiva o negativa”, explica López-Sánchez. Así, en el ejemplo del coche autónomo, una conducción suave en una carretera sinuosa se considerará positiva dado el valor de la seguridad. Sin embargo, si se observa a través del prisma del valor de la amabilidad hacia los demás conductores, el vehículo podría decidir aumentar su velocidad si nota que está obstaculizando el ritmo de otros coches.
En este caso concreto existiría un conflicto de valores que se resolvería mediante ponderación. Previamente se establecen preferencias que indican qué valores predominan. El conjunto incluye fórmulas intercaladas, que también deben contener la variable norma. “Existe otra función que establece que una norma promueve un valor”, precisa el investigador. “Y también tenemos funciones que observan cómo un estándar evalúa la acción y también cómo se evalúa el valor de dicha acción”. Es un sistema complejo en el que la retroalimentación es esencial.
Cuando López-Sánchez habla de evaluación se refiere directamente al aprendizaje automático. Una de las formas en que aprenden es a través del refuerzo, como las personas a las que nos va bien porque nos recompensan y evitamos hacerlo mal porque nos castigan. Este mecanismo también funciona en inteligencia artificial.
“Las recompensas son números. Damos premios con números positivos y castigos con números negativos”, explica el investigador de WAI. “Las máquinas intentan sumar tantos puntos como sea posible. Entonces la máquina intentará comportarse si le doy números positivos cuando hace las cosas correctamente. Y si cuando se porta mal la castigo y le quito puntos, intentará no hacerlo. En cuanto a la enseñanza a los niños, se señala con fines educativos.
Pero quedan muchas cuestiones por resolver. Para empezar, algo tan sencillo como decidir qué valores queremos introducir en las máquinas. “La ética evoluciona de maneras muy diferentes. En algunos casos tendremos que hacer cálculos de utilidad para minimizar riesgos o daños”, explica el profesor Cuevas. “Otras veces es posible que necesitemos utilizar códigos de ética más estrictos, como establecer que un sistema no puede mentir. Cada sistema debe integrar ciertos valores y para ello debe haber acuerdo comunitario y social.
En el laboratorio de López-Sánchez se involucran en estudios sociológicos para encontrar valores comunes entre personas y entre diferentes culturas. Al mismo tiempo, toman como referencia documentos internacionales, como la Declaración Universal de Derechos Humanos de las Naciones Unidas. Aunque habrá aspectos en los que será más complicado llegar a un consenso a nivel global. Esto es lo que piensa Cuevas: “Los límites de las máquinas tendrán sus límites. La Unión Europea, por ejemplo, tiene su manera de hacer las cosas y Estados Unidos tiene otra”, subraya en referencia a los diferentes enfoques regulatorios que existen a cada lado del Atlántico.
puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.
Suscríbete para seguir leyendo
Leer sin límites
_
