IA – sus riesgos y efectos colaterales
El Consejo de Ética asesora al gobierno alemán y advierte contra el entusiasmo carente de sentido crítico por el uso de la inteligencia artificial.
La inteligencia artificial está omnipresente. “Puede utilizarse para diagnosticar el cáncer o para enseñar vocabulario inglés a los alumnos, pero también para determinar quién debe recibir determinadas prestaciones sociales e influir en nuestro comportamiento en las redes sociales”, afirma la catedrática Alena Buyx, presidenta del Consejo Alemán de Ética. Simplificar procesos, ayudar a las personas, detectar enfermedades, eso suena a un mundo nuevo y feliz. Sin embargo, el Consejo de Ética, al que el Bundestag encargó en 2020 analizar las oportunidades y peligros de la IA, no ve el futuro completamente de color de rosa. “La IA no debe suplantar a las personas”, afirma la presidenta del comité de científicas y científicos de diversas disciplinas, que asesora a los políticos y al gobierno sobre cuestiones éticas. Buyx formula así el resultado principal: “El empleo de la IA debe ampliar el desarrollo humano, la autoría y las posibilidades de actuación, no mermarlos.”
La IA no debe suplantar a las personas.
En su informe de 287 páginas "El hombre y la máquina", el Consejo de Ética ha plasmado los peligros y las oportunidades que el comité asocia a las nuevas tecnologías. El informe (en alemán) se presentó en Berlín a mediados de marzo. Una misión importante del Consejo de Ética es analizar críticamente los nuevos avances y advertir de los peligros. Esto es precisamente lo que hace en su informe pericial. Judith Simon, catedrática de Ética en las Tecnologías de la Información de la Universidad de Hamburgo, sostiene que el objetivo de transferir tareas a la IA debería servir, en principio, para ampliar las capacidades humanas. Se trata, por tanto, de “evitar una disminución de las capacidades y la autoría humanas, así como de una difuminación de la responsabilidad.”
No se puede delegar la responsabilidad en las máquinas.
El catedrático Julian Nida-Rümelin, ex secretario de Estado de Cultura de Alemania, destaca también la importancia de la responsabilidad humana. Esta no puede “delegarse en máquinas ni compartirse con ellas”. Precisamente a la hora de utilizar la inteligencia artificial en los medios y en la comunicación, como en los motores de búsqueda, en la oferta de noticias o en las redes sociales, el Consejo de Ética advierte grandes peligros si no se hace un uso transparente de la IA. Las ofertas personalizadas, en particular, podrían transmitir la sensación de selección objetiva, pero en realidad reflejan el comportamiento previo del usuario procesado por la IA. Esto se debe al interés comercial, por parte de los proveedores privados, de vincular a sus usuarios. “La consecuencia es una reducción del espectro de información y opinión ofrecido”, advierte Nida-Rümelin. En opinión del Consejo de Ética, una forma de evitarlo sería crear una estructura de comunicación digital pública, como alternativa a las plataformas de las corporaciones digitales privadas. Esto no debe confundirse con la radiodifusión pública alemana; estas plataformas podrían ser operadas por fundaciones públicas, por ejemplo, sin gran influencia por parte del Estado, afirma Nida-Rümelin.
¿Deseas recibir información periódica sobre Alemania? Aquí puedes suscribirte:
