Cómo la diversidad puede eliminar el sesgo cultural de la Inteligencia Artificial

Los seres humanos están naturalmente predispuestos al sesgo cultural. Este está presente en todas las ciencias humanas, incluidas la economía, la psicología y la antropología, y se define como “el proceso de juzgar e interpretar los fenómenos según las normas inherentes a las propias preferencias culturales o normas de una cultura específica”1.

 

El sesgo cultural es la razón por la cual, en algunas culturas, evitar el contacto visual puede interpretarse como evasivo o tímido, y en otras culturas, una señal de respeto. Es por eso que las personas nacidas en Argentina probablemente lleven camisetas que rindan homenaje a Lionel Messi en lugar de sus pares futbolistas del otro lado del Atlántico que veneran al portugués Cristiano Ronaldo. ¿Por qué en Corea sorber la sopa es la norma, mientras que en otras partes se puede considerar como malos modales? ¿Y por qué leemos el texto en español de izquierda a derecha, mientras que en otras escrituras, como el árabe, solo tiene sentido si se lee de derecha a izquierda? El entorno que nos rodea tiene una poderosa influencia sobre cómo vemos el mundo y la forma en que interactuamos con él.

Pero, ¿qué sucede cuando una industria global importante, como la programación informática, está dominada por una perspectiva cultural singular? Estados Unidos es un líder internacional en programación informática; sin embargo, según una encuesta reciente de Stack Overflow, el 85,5 % de los programadores informáticos de los EE. UU. son hombres, y la gran mayoría de ellos son blancos.2 Si tenemos en cuenta que estos programadores están creando códigos a la vanguardia de la inteligencia artificial, ¿significará esto que las experiencias y las sensibilidades de los hombres blancos definirán el futuro de nuestro mundo digital y el universo de la IA? Sí y no.

 

Problema de homogeneidad de la programación

Cuando un hombre blanco y heterosexual desarrolla un algoritmo, inevitablemente la IA ve el mundo a través de la perspectiva particular de ese desarrollador. El ADN intelectual de este programador original se transforma en la base sobre la que el proyecto de IA se seguirá desarrollando, procesará datos de entrada y aprenderá. De forma similar a las personas, la experiencia de vida limitada puede ser un perjuicio importante en un mundo cada vez más globalizado, lleno de problemas y desafíos inesperados.

El sesgo cultural se esconde en lugares inesperados. Por ejemplo, cuando Walmart llegó a China, la visión del minorista de servir a los 1300 millones de habitantes del país pronto fracasó, cuando descubrió que los consumidores chinos, a diferencia de los estadounidenses, tenían necesidades y preferencias muy distintas en diferentes ciudades y diversas partes del país. El minorista no pudo encontrar la combinación de productos adecuada para ofrecer en las 117 ciudades en las que operaba. Esto, junto con las dificultades políticas y de infraestructura imprevistas, alteró el sistema de cadena de suministro eficiente y proclamado de la empresa. 3

El prejuicio cultural persiste en casi todos los matices de las culturas de todo el mundo, desde las preguntas de historia que se plantean en los exámenes de la escuela secundaria hasta lo que hace reír a las personas en una broma, o incluso por su concepto de belleza. A medida que el aprendizaje automático y la IA se continúan proliferando y siguen influyendo en nuestras sociedades, nosotros (es decir, los profesionales de la industria, líderes empresariales y entidades gubernamentales) debemos ser muy cuidadosos sobre la función que desempeñará la homogeneidad al definir nuestras sensibilidades, perspectivas y prioridades.

Los gerentes y coordinadores de proyectos deben establecer protocolos que eviten que el impacto corruptor del sesgo cultural se arraigue en el proceso de programación. Priorizar la diversidad en la vanguardia de los debates estratégicos es fundamental. A menudo, el prejuicio cultural es silencioso y casi invisible, pero años después se ve expuesto por una sorprendente falta de previsión, conciencia y empatía. El daño final puede ser costoso. De acuerdo con la investigación Accelerating for Impact: 2018 Gender Inflection Point de Mercer, “las investigaciones han demostrado que el sesgo inconsciente es una característica normal del ser humano, pero puede llevar a decisiones sobre hombres, mujeres y sus carreras que no se alinean con el objetivo de la organización de recompensar por mérito, habilidad y talento”.4

Hay que pensar en la cantidad de normativas comerciales y políticas, y las “normas culturales” recientes, de los últimos 10 o 20 años, que no han seguido el ritmo de la creciente demanda de la sociedad de diversidad e inclusión de todas las razas, géneros y antecedentes culturales. El negocio de los negocios cambia constantemente. Las compañías expertas y progresistas saben que el antídoto más fuerte contra el sesgo cultural es la diversidad: una diversidad de mentes, experiencias, antecedentes, creencias y perspectivas. Esta riqueza combinada de intelecto y creatividad crea una sinergia de influencia que restringe la capacidad del sesgo cultural de determinar el resultado final de la programación. En pocas palabras, la diversidad es clave para el éxito de la IA a largo plazo.

Las soluciones deben comenzar desde el principio

Hay medidas que los empleadores pueden tomar para evitar la homogeneidad de la programación. En primer lugar, deben reconocer que la falta de diversidad en la programación es una responsabilidad, ya que un déficit de visión progresista se traducirá en una capacidad cada vez menor para competir. Las políticas y los protocolos internos actualizados deben alinear los objetivos comerciales con las capacidades de IA y su impacto en las industrias y los clientes. Esto implica construir diversidad a lo largo de las operaciones de programación para que una amplia gama de talentos, perspectivas e ideas se comparen, mejoren y hagan realidad constantemente.

Luego, los empleadores deben aprovechar el poder de la tecnología en sí. Con el aprendizaje automático, las empresas pueden crear conjuntos de datos que enseñan a las computadoras a crear sus propios algoritmos mediante la “formación IA”. Luego, la máquina genera composiciones completamente “nuevas” y originales según lo aprendido. En resumen, la diversidad al comienzo da como resultado la diversidad en el producto. Cuando un negocio tiene una comunidad de desarrollo diversa e inclusiva, crea herramientas que reflejan un conjunto más diverso de problemas; problemas que pueden tener un impacto en los asuntos u oportunidades organizacionales desatendidos o pasados por alto. Para mitigar las trampas de la programación homogeneizada, empiece por el principio.

En conclusión: Un universo inclusivo de IA para todos

La convergencia de personas y tecnología definirá el futuro del trabajo, pero el factor humano siempre mostrará el camino a seguir. Establecer una ventaja competitiva en este panorama en constante evolución implica evaluar la influencia que las personas tienen en la tecnología y recordar que la humanidad es lo que orienta el comportamiento humano. La transformación digital efectiva requiere un compromiso con el poder de la perspectiva diversa y una comprensión de cómo los seres humanos, y la experiencia humana, evolucionarán conforme nos conectemos cada vez más con el universo de la IA: un entorno inclusivo sin barreras.

Después de todo, cuando las personas con diferentes perspectivas y experiencias trabajan en conjunto para resolver un problema, los resultados pueden ser mágicos. La diversidad es clave para el proceso creativo y la polinización cruzada de ideas que impulsan el descubrimiento moderno. Cada programador puede ser un explorador intrépido, y los descubrimientos que hace deben estar conectados con los talentos y las contribuciones de programadores de todo el mundo.

1 Understanding the Phenomena Of Cultural Bias With Examples
https://psychologenie.com/understanding-cultural-bias-with-examples

Stack Overflow Developer Survey 2017
https://insights.stackoverflow.com/survey/2017#overview

3 Here’s Why Walmart Stumbled on The Road To China
http://fortune.com/2016/02/21/why-walmart-stumbled-on-road-to-china/

Accelerating For Impact: 2018 Gender Imperative
https://www.mercer.com/our-thinking/when-women-thrive-accelerating-for-impact.html

 

Fuente: latam.mercer.com

Comparte con un amigo

Facebook
Twitter
LinkedIn
WhatsApp

Conoce todo lo que podemos hacer por ti

Agenda ahora una cita con uno de nuestros asesores

Horario de atención

 8:30am — 6:00pm L-V

También puedes leer…

¿Trabajas en Alia?​

Accede a tu portal de colaborador

¿Buscas empleo?

Conoce nuestra oferta laboral
Alia
corporativo