Inteligencia artificial y ética
La responsabilidad en la inteligencia artificial.
La inteligencia artificial (IA) y la digitalización seguirán transformando nuestras vidas en el futuro. La IA facilita muchas cosas, pero también puede contribuir a violar los derechos humanos, discriminar a personas o suprimir la diversidad de opiniones. Presentamos a tres expertos que promueven en instituciones de Alemania un enfoque responsable de la IA.
Eirini Ntoutsi
¿De qué es capaz la inteligencia artificial (IA)? ¿Y cuáles son las líneas rojas que no debe traspasar? Casi no hay día de trabajo en el que Eirini Ntoutsi no busque respuestas a esas preguntas. La informática griega es, desde agosto de 2022, profesora de Open Source Intelligence en la Universidad de la Bundeswehr, en Múnich. En CODE, su instituto de investigación, Ntoutsi y su equipo desarrollan algoritmos inteligentes que aprenden continuamente a partir de datos, inspirándose en la naturaleza del aprendizaje humano. Simultáneamente, subraya Ntoutsi, los resultados deben tener un impacto positivo en la sociedad. “La IA es una tecnología poderosa que puede ayudar a resolver los mayores desafíos del mundo, pero también conlleva riesgos para personas y grupos. Consecuentemente, tenemos la responsabilidad de identificar y reducir los riesgos e impactos”, explica. El aprendizaje automático equitativo y la IA explicable (XAI) son dos enfoques importantes para lograr un desarrollo y uso responsables de la IA, agrega.
Matthias C. Kettemann
Establecer un derecho internacional de internet: el objetivo que persigue Matthias C. Kettemann en un proyecto de investigación del mismo nombre en el Instituto Alexander von Humboldt para Internet y Sociedad, en Berlín. Kettemann, nacido en la ciudad austriaca de Graz, es el primer profesor de derecho de internet en el mundo de habla alemana. En su trabajo examina cómo interactúan el derecho y el ciberespacio, qué retos plantea la digitalización y cómo la sociedad puede adaptarse a un futuro digital. En nombre de la Comisión Alemana de la UNESCO, Kettemann elaboró un informe de expertos titulado “Recomendación de la UNESCO sobre la ética de la inteligencia artificial. Condiciones para su aplicación en Alemania”. Con su estudio apoya a ministerios, autoridades y otros responsables de Alemania en la aplicación de la “Recomendación sobre la Ética de la Inteligencia Artificial” adoptada por los Estados miembros de la UNESCO a finales de 2021.
Gergana Baeva
Los procesos automatizados y la inteligencia artificial simplifican nuestra vida cotidiana: facilitan o mejoran diagnósticos médicos, hacen más eficientes procesos de producción o recomiendan contenidos interesantes a usuarios de Internet. Gergana Baeva investiga qué condiciones deben cumplirse para que esos usos sean seguros, éticos y fiables. Baeva trabaja en el Centro para una Inteligencia Artificial Confiable (ZVKI), en Berlín, donde es responsable de la certificación de la IA. Nacida en Bulgaria, tiene un doctorado en comunicaciones y está convencida de que la transparencia y la comunicación clara son las bases más importantes para una mayor confianza por parte de los usuarios.
¿Desea recibir regularmente información sobre Alemania? Suscríbase aquí a nuestro boletín.
