La inteligencia artificial puede aportar beneficios a una amplia gama de sectores, como la asistencia sanitaria, el consumo de energía, la seguridad de los automóviles, la agricultura, el cambio climático y la gestión del riesgo financiero. La inteligencia artificial también puede ayudar a detectar el fraude y las amenazas de ciberseguridad y permite a las fuerzas y cuerpos de seguridad luchar contra la delincuencia con más eficacia. Sin embargo, también conlleva nuevos retos para el futuro del trabajo y plantea cuestiones jurídicas y éticas.
La Comisión Europea propugna un enfoque en tres etapas: establecimiento de los requisitos esenciales para una inteligencia artificial fiable, lanzamiento de una fase piloto a gran escala para recabar los comentarios de las partes interesadas y búsqueda de un consenso internacional para la inteligencia artificial centrada en el ser humano.
Asimismo, establece siete requisitos esenciales para lograr una inteligencia artificial fiable:
1. Intervención y supervisión humanas: Los sistemas de inteligencia artificial deben facilitar sociedades equitativas, apoyando la intervención humana y los derechos fundamentales, y no disminuir, limitar o desorientar la autonomía humana.
2. Robustez y seguridad: La fiabilidad de la inteligencia artificial requiere que los algoritmos sean suficientemente seguros, fiables y sólidos para resolver errores o incoherencias durante todas las fases del ciclo de vida útil de los sistemas de inteligencia artificial.
3. Privacidad y gestión de datos: Los ciudadanos deben tener pleno control sobre sus propios datos, al tiempo que los datos que les conciernen no deben utilizarse para perjudicarles o discriminarles.
4. Transparencia: Debe garantizarse la trazabilidad de los sistemas de inteligencia artificial.
5. Diversidad, no discriminación y equidad: Los sistemas de inteligencia artificial deben tener en cuenta el conjunto de capacidades, competencias y necesidades humanas, y garantizar la accesibilidad.
6. Bienestar social y medioambiental: Los sistemas de inteligencia artificial deben utilizarse para mejorar el cambio social positivo y aumentar la sostenibilidad y la responsabilidad ecológicas.
7. Rendición de cuentas: Deben implantarse mecanismos que garanticen la responsabilidad y la rendición de cuentas de los sistemas de inteligencia artificial y de sus resultados.