Presentado el Manifiesto OFF que aboga por la necesidad de recuperar el control de la tecnología | Tecnología

Desde que los avances en inteligencia artificial despertaron preocupación sobre su potencial y sus riesgos, ningún gobierno, experto o empresario ha dejado de advertir sobre la urgencia de actuar. En los meses posteriores al surgimiento de ChatGPT se produjo una proliferación de manifiestos apocalípticos, firmados por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han pedido una pausa en su desarrollo, mientras la Unión Europea ha logrado implementar la primera ley del mundo para su regulación. Sin embargo, se están levantando voces para exigir un esfuerzo aún mayor. Un centenar de personalidades destacadas, tanto nacionales como internacionales, firmaron el Manifiesto OFF. Este documento destaca la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más avanzada y autónoma, y ​​exige acciones más decisivas y ambiciosas.

El manifiesto, presentado este miércoles en Madrid, fue firmado por personalidades del mundo de la cultura, la ciencia, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutivo de PRISA Media, Carlos Núñez; el presidente de CaixaBank, José Ignacio Goirigolzarri; la directora de tecnología, medios y comunicación de la Universidad de Columbia, Anya Schiffrin, o el director general de Atresmedia, Javier Bardají, entre otros. “Se trata de una iniciativa independiente que nace de una preocupación genuina por las tendencias que revelan la enorme vulnerabilidad de los seres humanos y de las instituciones ante un despliegue tecnológico mal dirigido”, explicó el empresario y escritor Diego Hidalgo, coordinador del manifiesto. “Este es un primer paso hacia la movilización de la sociedad civil. Nuestro objetivo es recuperar el control de la tecnología digital, con la ayuda de la acción pública y privada.

En la misma línea, Hidalgo recordó los riesgos para la salud mental que implica tener un teléfono celular a una edad temprana. “Afortunadamente, algunas de las cuestiones abordadas en el manifiesto ya empiezan a tener cierta presencia en el debate público. Uno de ellos se refiere al profundo deterioro de la salud mental, especialmente entre los jóvenes, sobre el que todavía nos resulta difícil actuar. Las curvas que describen la agitación de la juventud van en ascenso, un ascenso absolutamente vertiginoso”, recordó. Según un estudio realizado por la plataforma Sapiens Lab, el hecho de que un niño de 12 años tenga un teléfono inteligente La probabilidad de sufrir depresión en la edad adulta aumenta un 20% respecto a experimentarla a los 18 años, mientras que el 74% de quienes la padecen desde los seis años han padecido síntomas depresivos. En España, el 88% de los jóvenes posee un smartphone a los 13 años.

Ana Caballero, abogada y vicepresidenta de la Asociación Europea para la Transición Digital, expresó durante la presentación su perplejidad ante la comercialización de datos. “Nos enfrentamos a tecnologías que no son neutrales. Pero, sobre todo, estas empresas que comercializan nuestros datos no son europeas y nos ven, como europeos, como una gran base de datos con poder adquisitivo. Lamentablemente muchas veces no somos conscientes de que pagar con datos es pagar”, explicó.

Además de centrarse en los riesgos asociados a grandes innovaciones como la inteligencia artificial, el manifiesto establece una serie de medidas calificadas de urgentes para garantizar que la tecnología permanezca al servicio de la humanidad, no en contra de ella. En este sentido, los firmantes abogan en primer lugar por la creación de leyes y regulaciones que limiten el mal uso de la tecnología, particularmente en términos de vigilancia, confidencialidad y monopolios.

Entre las preocupaciones está la posibilidad de que los estados lleven a cabo un control excesivo y generalizado de los ciudadanos, mediante reconocimiento facial u otras tecnologías que no garantizan el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, la tecnología biométrica es ampliamente utilizada en los aeropuertos, tanto por las aerolíneas como por las agencias gubernamentales responsables de la seguridad de la aviación. “Los CCTV con tecnología de reconocimiento facial abren una caja de Pandora que amenaza nuestra privacidad y anonimato en los espacios públicos. Esto representa un paso diferencial hacia el seguimiento sistemático de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, recordando que Amnistía Internacional ha pedido que se prohíba el uso de sistemas de reconocimiento facial porque los considera una forma de vigilancia masiva.

José María Lassalle, exsecretario de Estado de Agenda Digital y director del Centro de Humanismo Tecnológico de ESADE, insistió en las implicaciones que la IA puede tener en las guerras. “La inteligencia artificial es algo que intenta ser alguien, pero sin conciencia. Y eso cambia los ejes de la capacidad humana para entender esta tecnología, y eso se ve muy claramente en el área de las armas letales”, dijo durante la presentación. “Su aplicación en las guerras, que son una experiencia humana desafortunada que nos acompaña desde nuestros orígenes como especie, puede resultar disruptiva. »

Asimismo, el manifiesto propone la implementación de medidas regulatorias “legalmente vinculantes”, con el objetivo de defender a los ciudadanos contra los abusos que pueden cometer empresas privadas –y en algunos casos, gobiernos estatales autoritarios–. Esto incluye la prohibición de la publicidad microdirigida, la protección de los neuroderechos a nivel constitucional, la legislación internacional contra las armas autónomas mortales y el “derecho a la desconexión”, que garantiza el acceso a los servicios públicos de forma no digital.

Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se ha centrado especialmente en el acceso a los datos y la ética en el diseño de algoritmos, proponiendo regulaciones para garantizar su integridad. “En la actualidad, es imposible que las empresas periodísticas que tradicionalmente producen información puedan competir con las grandes plataformas tecnológicas”, advirtió Herrero-Beaumont, quien recomendó prevenir la publicidad microdirigida como medida crucial para evitar esta deriva.

Los firmamentos también recomendaron la implementación de iniciativas educativas encaminadas a mejorar la cultura digital de la población, promoviendo una comprensión más profunda de los impactos y límites de la tecnología, así como el desarrollo de habilidades esenciales para gestionar la influencia de la tecnología en la sociedad.

puedes seguir EL PAÍS Tecnología dentro Facebook Y X o regístrate aquí para recibir nuestra boletín semanal.