La inteligencia artificial no puede avanzar sin equidad e inclusión

El impacto que tecnologías como Machine Learning (ML) e Inteligencia Artificial (IA) pueden tener en nuestra sociedad no puede ser subestimado. Debido al alcance y el poder de dichas tecnologías, hoy es imprescindible combatir la injusticia social y la discriminación racial para asegurar que estos avances no causen estragos y daños irreversibles en el mundo.

Image for post
Image for post

La visión sesgada de aquellos que toman decisiones en empresas de tecnología afecta la forma en que se conciben productos y aplicaciones habilitadas por IA, especialmente cuando se desconoce la inmensa diversidad de nuestra raza y nuestro planeta. Esta realidad no puede ser ignorada.

Durante 2020 hemos presenciado el auge del trabajo remoto, pero también un sinnúmero de casos de injusticia social: desde Black Lives Matter hasta la discriminación a indígenas y grupos sociales “minoritarios” en América Latina. Esto hace que las discusiones en torno a diversidad, inclusión y equidad sean necesarias en las empresas y que esa visión de inclusión influya en el desarrollo de productos, servicios y tecnología para el uso de todos.

En 2017, durante el Foro Económico Mundial para LatAm en Buenos Aires, Argentina, tuve la oportunidad de moderar un panel entre Salesforce y Coca-Cola para hablar sobre la inclusión de mujeres en cargos directivos de grandes empresas en la región. Allí las dos compañías compartieron sus buenas prácticas para asegurar la diversidad en los lugares de trabajo y el acceso a oportunidades con equidad de género. Las discusiones frente a las brechas entre salarios de hombres y mujeres han ayudado a crear conciencia sobre el problema y a comenzar a tomar acciones para resolverlo, pero aún falta mucho camino por recorrer. Sólo en 2015, Intel invirtió más de 300 millones de dólares en iniciativas para promover la inclusión y la equidad al interior de la organización. Y es que la diversidad no sólo es el camino correcto, sino que también es bueno para los negocios. Diferentes estudios, incluidos algunos de McKinsey, muestran que las empresas con fuerzas laborales diversas tienden a tener mejores rendimientos financieros.

La IA se utiliza hoy en todos los aspectos de la vida: para tomar decisiones frente a créditos, contrataciones, salud, etc. Por eso resultan alarmantes los casos donde la Inteligencia Artifical ha mostrado sesgos en su comportamiento. Desde hospitales que priorizan la atención a pacientes blancos sobre pacientes negros, como el caso de la Apple card otorgando créditos de menor cuantía a mujeres y más grandes a hombres o un software en Oakland utilizado para predecir zonas de alta criminalidad que comenzó a perfilar barrios donde habitan “minorías” sin importar los índices de criminalidad.

Aunque las intenciones de desarrollar tecnología que nos sirva a todos sean buenas, si las personas encargadas de hacerlo son grupos homogéneos y poco diversos, esto se puede ver reflejado en el comportamiento de dichos productos. Las empresas deben de considerar la ética a la hora de implementar este tipo de soluciones y tener en cuenta la equidad y la diversidad. De no hacerlo, se pueden generar escándalos que dañen su reputación, en el mejor de los casos, pero también se podría incurrir en temas legales.

La regulación y la inclusión de principios éticos en actividades de investigación y desarrollo, pueden ayudar a dar trazabilidad, transparencia y establecer responsabilidades. Pero cuando se trata de Inteligencia Artificial, es necesario que las empresas entiendan el público para el que están desarrollando las soluciones y que cuenten con datos representativos de la población. Los primeros que identificarán sesgos son los usuarios pertenecientes a esas “minorías” discriminadas.

Es necesario que las empresas cuenten con equipos diversos y especialistas en ética, regulación y sostenibilidad. Además, se deben establecer indicadores que permitan medir el nivel de sesgo para diseñar estrategias de inclusión y hacer estos procesos transparentes al público.

Si entendemos que la Inteligencia Artificial tiene el potencial de cambiar el mundo, sabremos que es necesario contar con buenas prácticas que garanticen la equidad, diversidad e inclusión al momento de emplearla. Sólo así podremos garantizar que los beneficios que puedan traer este tipo de tecnologías generen el impacto positivo que esperamos.

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store