Guía de Auditoría Algorítmica de Eticas Consulting

Un ‘manual de instrucciones’ para diseñar algoritmos que no discriminen

La compañía de auditoría de algoritmos Eticas Consulting ha elaborado la primera Guía de Auditoría Algorítmica, un ‘manual de instrucciones’, dirigido a empresas, entidades públicas y a la ciudadanía que ofrece una metodología para la realización de auditorías de aquellos productos y servicios enmarcados en el ámbito de la Inteligencia Artificial (IA).

12 Ene | Soziable.es | Soziable.es

La Guía de Auditoría Algorítmica se centra en la realización de auditorías de productos y servicios de IA que incluyan el uso de algoritmos y que, en alguna etapa del proceso, recopilen o traten datos de carácter personal. De esta forma, se podrá comprobar que los algoritmos son diseñados, desarrollados y utilizados de acuerdo a la Ley, de forma socialmente justa y responsable para evitar que discriminen.

La guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos

Según Eticas Consulting, esta guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos y de datos que hacen. Y nace con tres objetivos, salvaguardar derechos fundamentales, aportar claridad al marco normativo y ofrecer una metodología replicable al alcance de todos. Porque las consecuencias ya están presentes en nuestros día a día, con decisiones discriminatorias en proceses de selección laboral, concesión de ayudas sociales, créditos o seguros, procesos migratorios… Los algoritmos pueden discriminar y conllevar importantes riesgos para las compañías o los Estados que los usan, en la mayoría de las ocasiones, sin saber que no se ajustan a derecho o al contexto socioeconómico.

Estándares de justicia y responsabilidad social

Gemma Galdon, directora de Eticas Consulting, ha asegurado que “es imprescindible que la ciudadanía sepa que cuenta con herramientas para exigir a compañías y Estados que desarrollen algoritmos que cumplan unos estándares de justicia y responsabilidad social". "Aunque, tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos como si se tratase de auditorías financieras”, añade.

Un proceso de auditoría algorítmica implica analizar, además de los algoritmos, el contexto social, económico y cultural del que forman parte y de acuerdo con la perspectiva de las personas a las que este afecta, directa o indirectamente. Por eso, Eticas Consulting está formado por una veintena de profesionales de disciplinas técnicas y humanistas, así como por una red internacional de colaboradores de múltiples especialidades.

En definitiva, se trata de hacer que esta tecnología sea más explicable, transparente, predecible y controlable por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori. La metodología para auditar algoritmos, sin embargo, no es sencilla ni está completamente definida todavía, lo cual supone un desafío. Lo que sumado al desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas, hace imprescindible aportar claridad a las leyes aplicables a los sistemas algorítmicos y acercarlos a la ciudadanía. Por eso, en esta guía se incluyen desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.

Agregar comentario

Comentarios

Añadir ComentarioDesplegar formulario para comentar

0 Comentarios

No hay comentarios

Últimas noticias

Ir al inicio del contenido