El uso de herramientas basadas en la Inteligencia Artificial ha demostrado potenciar exponencialmente las capacidades de las personas
En los últimos años, la Inteligencia Artificial (IA) ha emergido como un tema de gran relevancia. El uso de herramientas basadas en esta tecnología ha demostrado potenciar exponencialmente las capacidades de las personas. Sin embargo, es importante reconocer que junto con sus beneficios evidentes, existen implicaciones a menudo desapercibidas y que podrían tener impactos negativos. Estos desafíos deben ser abordados de manera proactiva para asegurar que el avance de la IA sea equitativo y sostenible en el largo plazo.
Una de las implicaciones más apremiantes tiene que ver con la ética, destacándose dos retos principales: la toma de decisiones autónoma y la transparencia algorítmica. En el primero, nos enfrentamos a la capacidad de los sistemas de IA para determinar acciones sin intervención humana.
Te puede interesar: Suma Hidalgo 127 casos de Covid-19
Únete a nuestro Canal de Whatsapp y recibe las noticias en tiempo real https://bit.ly/3S0OztH
Por ejemplo, un sistema de selección de personal entrenado con datos en los que el 80% son hombres y el 20% mujeres, podría mostrar preferencia por candidatos masculinos. Si extendemos este escenario a otros grupos sociales, las consecuencias podrían ser aún más significativas. Nos enfrentamos entonces a preguntas cruciales: ¿Cómo abordar los sesgos implícitos para no afectar a grupos históricamente marginados? ¿Qué medidas implementar para que la IA beneficie equitativamente a todos los segmentos?
En segundo lugar, está el desafío de la transparencia algorítmica, la capacidad de explicar los criterios en la toma de decisiones. Esta transparencia es fundamental para garantizar la confianza. Por ejemplo, en un sistema de recomendaciones, no sólo es importante recibir nuevas opciones, sino también entender qué datos se utilizaron y cómo se analizaron. Sin embargo, es inquietante que muchas empresas se muestren reticentes a brindar estos detalles. Situaciones así subrayan la necesidad de mejorar los marcos regulatorios, con el inconveniente que las propuestas legislativas suelen ser lentas y difíciles de consensuar.
En el Tecnológico de Monterrey en Hidalgo, abordamos activamente estos aspectos y educamos a los estudiantes en el uso responsable de la IA. A nivel institucional, nos comprometemos a cumplir con los principios de la Declaración de Montreal, cuyo objetivo es promover un enfoque ético y humano en la IA para garantizar que beneficie a la sociedad en su conjunto.
Eduardo Cendejas y Grettel Barceló
Escuela de Ingeniería y Ciencias
Tec Campus Hidalgo
