El Parlamento Europeo ha dado un paso histórico al aprobar la primera ley del mundo que regula la inteligencia artificial (IA). Esta normativa, que busca proteger los derechos fundamentales, la democracia y el medio ambiente, mientras impulsa la innovación, ha sido recibida con gran expectación por la comunidad internacional.
Un marco legal para la IA responsable
La ley establece una clasificación de la IA en función de su nivel de riesgo. Los sistemas de alto riesgo, aquellos que pueden tener un impacto significativo en la salud, la seguridad o los derechos fundamentales, estarán sujetos a una serie de obligaciones para garantizar su seguridad y transparencia. Entre estas obligaciones se encuentran:
- Evaluación y reducción de riesgos: los desarrolladores de sistemas de IA de alto riesgo deberán realizar una evaluación exhaustiva de los riesgos potenciales y tomar medidas para mitigarlos.
- Registros de uso: se deberán mantener registros detallados del uso de los sistemas de IA de alto riesgo, incluyendo la información sobre los datos utilizados y las decisiones tomadas.
- Transparencia y precisión: los sistemas de IA de alto riesgo deberán ser transparentes en cuanto a su funcionamiento y garantizar la precisión de sus resultados.
- Supervisión humana: se deberá garantizar la supervisión humana de los sistemas de IA de alto riesgo para evitar sesgos y discriminaciones.
Protegiendo los derechos de la ciudadanía
La ley también prohíbe una serie de aplicaciones de la IA que se consideran contrarias a los derechos fundamentales. Entre estas aplicaciones se encuentran:
- Sistemas de categorización biométrica basados en características sensibles.
- Captura indiscriminada de imágenes faciales o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.
- Reconocimiento de emociones en el lugar de trabajo y en las escuelas.
- Sistemas de puntuación ciudadana.
- Actuación policial predictiva basada únicamente en el perfil de una persona o en la evaluación de sus características.
- IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.
Excepciones para las fuerzas de seguridad
El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido en general, salvo en casos excepcionales y con autorización judicial o administrativa previa.
Apoyo a la innovación y a las pymes
La ley también incluye medidas para apoyar la innovación en el ámbito de la IA y facilitar el desarrollo de esta tecnología por parte de las pymes. Se crearán espacios controlados de pruebas y ensayos en condiciones reales para que las empresas puedan desarrollar y entrenar la IA innovadora antes de su comercialización.
Un paso adelante para Europa
La aprobación de esta ley es un hito histórico para la Unión Europea, que se posiciona como líder en la regulación de la IA. Esta normativa permitirá aprovechar los beneficios de esta tecnología de forma responsable, protegiendo al mismo tiempo los derechos fundamentales y la seguridad de los ciudadanos.
Próximos pasos y entrada en vigor
La ley aún está sujeta a una última comprobación jurídica-lingüística y se espera su aprobación definitiva en las próximas semanas. Posteriormente, la ley deberá ser adoptada formalmente por el Consejo. La ley entrará en vigor 20 días después de su publicación en el Diario Oficial de la Unión Europea.
Un futuro con IA responsable
La nueva ley sobre la IA es un paso crucial para garantizar que esta tecnología se desarrolle y se utilice de forma responsable, ética y segura. La Unión Europea ha dado un ejemplo al mundo al establecer un marco legal sólido para la IA, que protegerá los derechos de la ciudadanía y fomentará la innovación al mismo tiempo.
