En las diferentes empresas y organizaciones se maneja mucha información que en ocasiones puede ser sensible o que de una u otra manera debe ser protegida y darle un uso ético. Por ello existen dos pilares para un manejo adecuado de datos:
- Proteger la información y la individualidad de los usuarios
- Garantizar la ética en los análisis de la organización
Cada vez son más las empresas que usan datos para la toma de decisiones y también son más las personas que ayudan a su procesamiento y análisis. Eso hace que no debamos actuar por inercia y que empiecen a surgir reglamentos o pautas para el correcto manejo de la información que deben seguir estos dos pilares. Conozcámoslos a detalle.
1. Proteger la información y la individualidad de los usuarios
Toda la información que recolecta y almacena una institución tiene que ser mediante procesos seguros y tecnología segura.
Usuarios y usuarias confían en nuestros sistemas sin tener necesariamente un conocimiento profundo de la tecnología que lo respalda. Eso nos otorga la responsabilidad de garantizar que no haya fugas de información o potenciales ataques cibernéticos hacia nuestra base de datos.
En el caso de incluir ventas virtuales en nuestra página, debemos tomar las medidas para prevenir una vulnerabilización del método de pago del usuario. Por esta razón, recientemente han surgido nuevos esfuerzos orientados a robustecer los modelos y los sistemas digitales, así como la tecnología blockchain.
Otra advertencia a tener en cuenta es que nuestros análisis de datos no pueden revelar la identidad o la conducta individual de usuarios y usuarias, sino que tenemos que pensar en agregar los datos para garantizar la privacidad e integridad de cada uno.
Nuestros estudios tienen que sacar conclusiones a partir de clústeres o un conjunto de información. Sí es correcto usar algoritmos personalizados para recomendación de productos, como en el caso de sistemas de recomendación utilizados en Netflix o YouTube, pero solo si es para el beneficio final del usuario. Aun así, no es algo que se cree exclusivamente para un consumidor en particular, sino para un tipo de usuario al que el usuario final puede pertenecer.
2. Garantizar la ética en los análisis de la organización
Los datos que revelan características sociodemográficas o económicas de nuestros clientes (como edad, género o salario) tienen que ser especialmente justificados desde el momento en el que los recolectamos.
La pregunta correcta para decidir si pedimos un dato es ¿qué análisis voy a hacer si obtengo esta información? Y, consecuentemente, ¿qué estrategia corporativa derivará del procesamiento de esos datos? Así, podemos evitar llegar a conclusiones sesgadas o discriminatorias.
Un ejemplo a prevenir son los análisis por género que derivarán en un mensaje similar a “Las mujeres hacen…. versus los hombres hacen…”. En la gran mayoría de los casos esta distinción no va a aportar valor y será meramente una deducción discriminatoria.
En casi todos los sectores y casos de estudio vas a encontrar que la información puede llevarnos a conclusiones que vulnerabilizan o ponen en riesgo a la sociedad, pero también encontrarás nuevas oportunidades sociales y de negocio.
La idea es que como expertas en tecnología empecemos a familiarizarnos con el concepto Data for good para potenciar que los datos hagan transformaciones sociales.
En la actualidad son pocas las organizaciones que están apostando por la transformación a partir de los datos fuera de los intereses particulares del negocio. Solemos otorgar esta responsabilidad al gobierno y a las instituciones sin ánimo de lucro. Sin embargo, son las empresas privadas las que constantemente recolectan información de ámbitos muy diversos y con altos grados de profundidad. Es relevante que desde ellas empiece a surgir la iniciativa para contribuir al cambio desde los datos en los que son expertas.
La economía colaborativa también incluye la colaboración en información o data sharing. El balance ideal para el diseño de políticas públicas tiene que incluir especialistas en ámbitos sociales, pero también especialistas técnicos que puedan respaldar esas narrativas con información medible.
¡Aprende a aplicar la ética en el uso de datos para Data Science!
Si te interesa conocer más sobre posibles casos en los que los datos puedan originar un dilema ético o, del contrario, en una oportunidad para una mejora social, te invito al Curso de Ética y Manejo de Datos para Data Science e Inteligencia Artificial donde tendré el gusto de ser tu profesora.
Curso de Ética y Manejo de Datos para Data Science e Inteligencia Artificial
