La Inteligencia Artificial (IA) centrada en el ser humano

Presentación a cargo del Profesor Alessandro Mantelero, autor de “Beyond Data: Human Rights, Ethical and Social Impact Assessment in AI”.

Los sistemas de uso intensivo de datos basados en la IA plantean cuestiones complejas que no se abordan plenamente desde la prospectiva de la protección de datos, que ha sido durante muchos años el principal marco jurídico del entorno digital. Esto lleva a los responsables políticos y a los legisladores a ir más allá de los datos y su regulación.
En este contexto, las soluciones aportadas por el debate sobre la ética de los datos y por las propuestas de reglamentación sobre la IA suelen estar polarizadas en función del punto de vista concreto, ético o jurídico, que se adopte. Esta tendencia ha llevado a un incorrecto trasvase entre la ética y los derechos humanos, por un lado, y la regulación orientada a la seguridad, por otro. La falta de un enfoque metodológico para tratar los distintos riesgos identificados y las múltiples cuestiones relacionadas con las repercusiones sociales de la IA es el principal defecto del debate actual.

Para desarrollar una IA centrada en el ser humano, hay que prestar atención a las diferentes formas de su impacto, tanto jurídicas como sociales, definiendo metodologías adecuadas para abordar cada una de ellas. Soluciones únicas para todos los casos, listas de control basadas en cuestionarios, directrices centradas en principios generales y la sobrevaloración del proceso de estandarización parecen estar lejos de lograr este objetivo.
Por el contrario, aprovechando de la experiencia en la evaluación del impacto sobre los derechos humanos y la protección de datos, es posible desarrollar una metodología que pueda proporcionar una evaluación cuantificable del impacto de la IA sobre los derechos humanos y una serie de soluciones para la evaluación por parte de expertos de los impactos sociales. Esto incluye el fortalecimiento del papel de la participación de las partes interesadas y de los titulares de derechos en el diseño y desarrollo de una IA verdaderamente centrada en el ser humano.
El profesor Mantelero expondrá sus ideas expuestas en el libro de reciente publicación “Beyond Data: Human Rights, Ethical and Social Impact Assessment in AI”, donde intenta proporcionar esta metodología y abrir el debate sobre lo que falta en la regulación de la IA, es decir, la evaluación del impacto, la cual no puede reducirse a simples normas técnicas o estándares de seguridad.

Programa

• Palabras de bienvenida y presentación del Key Note Speaker

Presentación del Key Note Speaker:

• Alessandro Mantelero - Profesor de Derecho Privado y Derecho y Tecnología en la Universidad Politécnica de Turín, UE Cátedra Jean Monnet de Derecho y Sociedades Digitales Mediterráneas

Comentarios a cargo de:

• Carolina Aguerre - Profesora de alta dedicación, Universidad Católica del Uruguay, co-directora del Centro de Estudios en Tecnología Sociedad (CETYS) de la Universidad de San Andres e investigadora asociada del Centro de Estudios para la Cooperación Global (GCR21) de la Universidad de Duisburg-Essen.

Moderación de preguntas del público - via chat-:

• Eduardo Bertoni - Representante de la Oficina Regional para América del Sur del IIDH

Cierre a cargo del IIDH.

Alessandro Mantelero es profesor titular de Derecho Privado y Derecho y Tecnología en la Universidad Politécnica de Turín. En 2022, la Comisión Europea le concedió la Cátedra Jean Monnet de Derecho y Sociedades Digitales Mediterráneas (2022-25) en reconocimiento a la excelencia de sus estudios sobre el derecho de la Unión Europea. De 2016 a 2022, fue experto científico del Consejo de Europa en IA, protección de datos y derechos humanos. Sobre estos tres temas principales, también ha asesorado a varias organizaciones, incluidas las Naciones Unidas, la Comisión Europea, el Comité Europeo de Protección de Datos, la Agencia de Derechos Fundamentales de la UE, el Ministerio de Justicia italiano, la Presidencia de la República Dominicana y el Senado Federal de Brasil. Actúa regularmente como revisor ético independiente para la Agencia Ejecutiva del Consejo Europeo de Investigación.
Su último libro es Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI (Springer-Asser, 2022).

Dra Carolina Aguerre. Profesora de alta dedicación, Universidad Católica del Uruguay. Es co-directora del Centro de Estudios en Tecnología Sociedad (CETYS) de la Universidad de San Andres e investigadora asociada del Centro de Estudios para la Cooperación Global (GCR21) de la Universidad de Duisburg-Essen.
Es directora académica y fundadora del Diploma en Gobernanza de Internet (DiGI desde 2017) y fundadora de la iniciativa GUIA.ai para la promoción del conocimiento sobre ética y gobernanza de la IA desde la región.
Tiene experiencia en el desempeño de diferentes funciones de asesoramiento en políticas internacionales en materia de IA e Internet, como la Global Partnership on AI (GPAI) (2020-2022), InTouchAI (Comisión Europea), el Grupo de Expertos Ad Hoc de la UNESCO sobre Recomendaciones Éticas para la Inteligencia Artificial (2020) y el Grupo Asesor de Múltiples Partes Interesadas del IGF (2012-2014), así como el Consejo Asesor Internacional del Centro de Comercio Digital y Gobernanza de Datos de la Escuela Elliott de Asuntos Internacionales (Universidad George Washington), entre otros. Tiene diversas publicaciones, artículos y documentos en la temática.
Es doctora en Ciencias Sociales por la Universidad de Buenos Aires y máster en Comunicación y Cultura por el Goldsmiths College de la Universidad de Londres.