14/03/2024
LA PRIMERA LEY DE IA DEL MUNDO
El Parlamento Europeo acaba de aprobar una ley que regulará los sistemas de inteligencia artificial (IA), la primera en el mundo en legislar sobre la materia.
Según esta ley, los sistemas de IA prohibidos son:
- La identificación de personas en tiempo real con base en biométricos (por ejemplo, reconocimiento facial).
- Clasificación social de personas por su comportamiento social, crediticio, religión, estatus socioeconómico, etc.
- Clasificación de personas con base en rasgos biométricos (color de piel, raza, talla, etc).
- Manipulación de personas y grupos vulnerables.
Los sistemas de IA considerados de alto riesgo deben pasar una serie de pruebas y estar sujetos a monitoreo constante. Algunos ejemplos:
- Administración de justicia: sentencias dictadas con asistencia de IA.
- Empleos: sistemas de revisión de candidatos para un trabajo.
- Servicios críticos: servicios de gobierno, transporte o salud.
- Educación: evaluación de conocimiento o aplicaciones para una cierta escuela o becas.
- Sistemas que comprometan los derechos fundamentales de las personas: vivienda, libertad, vida, trabajo, derechos políticos, etc.
Los sistemas de IA de propósito general, como ChatGPT o Midjourney, podrán seguir funcionando, pero deben aumentar su transparencia en relación con los datos que usaron para su entrenamiento, y cumplir las normas aplicables de derechos de autor. Además, el contenido generado por estos sistemas debe estar claramente marcado como generado por IA.
Las multas serán muy altas para quien incumpla. Todavía faltan algunas revisiones que se esperan tener listas hacia mediados del año. Y luego, comenzará el despliegue gradual de la ley.
Otra cosa importante, es que se marca una tendencia. Pudiera ser que otros países comiencen a legislar al respecto. También pudiera ser que comience la aparición de un mercado negro de sistemas de IA prohibidos o de alto riesgo. Y que con las límites tan difusos entre tecnologías concurrentes, sea punto menos que imposible determinar si un sistema es prohibido o de alto riesgo.
Comentario aparte, usualmente se ha confundido o equiparado el desarrollo tecnológico con el progreso. Y no ha sido siempre así, al contrario. Ha habido tecnologías que a la larga han resultado dañinas para la humanidad y el planeta. No todo lo que técnicamente pueda hacerse ha de hacerse. Y lo que se haga, debe considerar criterios más amplios que el mero lucro del dueño de las patentes, como el uso de recursos comunes, la sustentabilidad social y ambiental, los cambios e impactos sociopolíticos y económicos y aspectos como la ética y los derechos humanos.
Que la tecnología sirva a la humanidad y no al revés.
