Inteligencia Artificial: Empresas buscarán auditores de algoritmos
Durante los próximos años, la industria demandará expertos en Inteligencia Artificial para asegurarse de que los algoritmos de las empresas estén libres de sesgo.
Varios estudios aseguran que entre los beneficios de utilizar Inteligencia Artificial (AI, en inglés) en una empresa está la mejora en servicio al cliente, automatización cargas de trabajo, optimización de la logística y la predicción de comportamientos, entre otros.
Otro artículo que puedes leer es: Estas son las futuras aplicaciones de la Inteligencia Artificial, según informes
Debido al aumento del uso de AI en las empresas en el desarrollo de productos, el análisis de ventas y la reclutación, ha surgido la necesidad de asegurarse de que los algoritmos utilizados sean representativos de los valores de la organización y no tengan sesgo.
La AI se nutre de las decisiones tomadas por las personas y de los datos recogidos por ellos, así que puede exhibir los mismos sesgos que afligen al resto de la sociedad, conscientemente o no, explica OpenMind BBVA, en su artículo “Cómo crear inteligencia artificial que no exhiba prejuicios humanos”.
“Las consecuencias sociales de un prejuicio informático pueden ser más insidiosas que las de un humano, por la imparcialidad que se asume de los algoritmos”, agrega el documento.
También puede interesarte: La Inteligencia Artificial impacta en mantenimiento, calidad y logística de una empresa
Errores en algoritmos
Según OpenMind BBCA, uno de los ejemplos más conocidos en los últimos años acerca de que algoritmos no están libres de sesgos fue en 2015, cuando Google se vio obligado a disculparse porque su aplicación de fotos etiquetó como “gorila” a una usuaria de descendencia africana.
Otro se produjo en 2009, cuando usuarios asiáticos denunciaron que una cámara de fotografía de una reconocida marca les solicitaba no parpadear cuando se retrataban con los ojos abiertos.
“Los algoritmos son la clave para obtener una ventaja comercial competitiva, y los algoritmos deben ser 100% éticos”, explica el informe “21 More Jobs of the Future”, de la firma Cognizant, el cual nombra al puesto responsable de AI en una compañía como: Auditor de sesgo en algoritmos.
Este profesional debe tener la capacidad de trabajar junto con el equipo de desarrollo de proyectos para revisar las nuevas aplicaciones basadas en AI y los sistemas existentes.
Establecerá un sistema de inventario que se conecte y encuentre a cada algoritmo para conocer sus objetivos, juicios relacionados con calor humano y consecuencias.
Sus responsabilidades
- Liderar o ser parte de un equipo que realice investigaciones rigurosas y metódicas de todos los algoritmos que se utilicen en la compañía.
- Producir guías de sesgos para que los equipos de desarrollo de proyectos realicen una producción apropiada de algoritmos.
- Iniciar metodologías de reportes con los departamentos financieros, legales y ejecutivos de la compañía.
Las cualidades
- Estudios de carreras que se relacionen con proyectos que utilizan AI.
- Experiencia en asuntos legales, técnicos y ejecutivos de una empresa.
- Compromiso en diversidad e inclusión.
- Excelente capacidad de comunicación.
Si estás interesado en estudiar en Universidad Galileo una carrera que esté relacionada con la Inteligencia Artificial o el desarrollo de hardware y software, entra aquí: Facultad de Ingeniería de Sistemas, Informática y Ciencias de la Computación (FISICC).
