Protección de Datos al Usar IA en el Trabajo Diario
Contenido del curso
IA en la toma de decisiones financieras
Implementando una cultura de IA en tu equipo de finanzas
Protección de Datos al Usar IA en el Trabajo Diario
Contenido del curso
Protección de Datos al Usar IA en el Trabajo Diario
¿Estás considerando utilizar herramientas de IA en tus tareas del día a día? Aquí te contamos cómo puedes hacerlo de forma segura con el objetivo de proteger tus datos financieros y la información de tu empresa.
Evalúa que existan controles mínimos de seguridad. Asegúrate que las plataformas, modelos o tecnologías que vayas a utilizar incluyan medidas de seguridad, control de usuario o que puedan tener doble factor de autenticación para minimizar los riesgos de un uso indebido del servicio.
Aplica también un control de gastos a través de límites de uso siempre que la plataforma lo permita para configurar el monto de dinero máximo permitido y una vez se alcance, el permiso va a rechazar cualquier petición. Esto es muy útil para minimizar riesgos asociados al mal uso de una plataforma de IA.
Caso de Estudio: Data Leak en Samsung
https://mashable.com/article/samsung-chatgpt-leak-details
En Abril del 2023 los empleados de Samsung compartieron accidentalmente información confidencial mientras usaban ChatGPT para obtener ayuda en el trabajo. Si bien la compañía previamente había permitido a sus equipos usar ChatGPT para verificar código fuente, se informó de tres equipos internos de empleados de Samsung que filtraron involuntariamente información confidencial a ChatGPT.
Esa información, desde ese momento, quedó disponible para que ChatGPT alimentara su modelo.
Samsung tomó medidas inmediatas al limitar la capacidad de carga de ChatGPT a 1024 bytes por persona e investigó a las personas involucradas en la filtración. Como en este y otros casos, la política de datos de ChatGPT anuncia que usa la información suministrada para entrenar sus modelos a menos que el usuario solicite optar por no participar y en la guía de uso se advierte explícitamente a los usuarios no compartir información sensible en las conversaciones.
¿Cómo dar de baja tu información de ChatGPT?
OpenAI proporciona el siguiente formulario para solicitar la eliminación de tu información sensible del modelo. Con esto puedes garantizar que esos datos que compartas en la herramienta no van a ser usados para otros propósitos.
Security tips
Algunos aspectos de privacidad a tener en cuenta son:
Uso limitado y propósito específico:
Imparcialidad: Verificar que los algoritmos no tomen decisiones (o respondan) sobre personas o individuos puntuales. Esto podría generar problemas legales.
Mínimo dato posible y limitar almacenamiento: No recolectar datos innecesarios, anonimizar la mayor cantidad de datos posibles, limitar consultas o queries, aplicar políticas de safe-delete de datos periódicamente, no ubicar links en datasets, restringir la cantidad de stakeholders que tienen acceso a los datos y aplicar cifrado de almacenamiento con algoritmos matemáticos robustos.
Transparencia: El usuario final debe conocer aspectos relevantes del modelo como documentación, detalles de dataset, trazabilidad y explicabilidad del modelo.
Derechos de privacidad (opt-out data): En cuanto a los datos personales utilizados por los modelos AI, el dueño de esos datos puede aplicar sus derechos.
Precisión: Se debe asegurar que los datos obtenidos sean de fuentes confiables y debe existir garantía de integridad.
Consentimiento: Básicamente es tener las herramientas para evidenciar que los dueños de los datos personales utilizados han aceptado el uso en modelos de AI.
Siguiendo estas recomendaciones tienes lo necesario para sacarle provecho de forma segura a las herramientas de inteligencia artificial y convertirla en un aliado que te ofrece ventajas para trabajar de forma más efectiva y productiva.
Jesús Orlando Bautista Vidal
Estudiante
Juan R. Vergara M.
Estudiante
Fernando Sánchez Mejía
EstudianteFernando Sánchez Mejía
Estudiante
Eduardo Pérez
Estudiante
Fabio Emilio Buiza Lopez
EstudianteFernando Sánchez Mejía
Estudiante
JUAN CARLOS RAMIREZ GARCIA
Estudiante
camilo plata
EstudianteTeodoro Ernesto Gutierrez Palmito
Estudiante
Karla Xiomara Efigenio Zepeda
EstudianteHaris Orlando Sandoval de la Cruz
EstudianteEver Mauricio Reyes Ramos
EstudianteEver Mauricio Reyes Ramos
Estudiante
JAIME ENRIQUE MACHADO
EstudianteJAIME ENRIQUE MACHADO
EstudianteJAIME ENRIQUE MACHADO
EstudianteSalvador Antonio Mendoza Vargas
EstudianteBrayan Garcia
Estudiante
Sindy Johana Albornoz Pardo
EstudianteSindy Johana Albornoz Pardo
Estudiante
MAURICIO ENRIQUE BERNAL ARIAS
EstudianteAristóteles nos enseñó que la verdadera sabiduría se encuentra en actuar con prudencia. Al aplicar esta enseñanza al uso de la inteligencia artificial, reconocemos la importancia de tomar decisiones informadas, considerando tanto los aspectos éticos como los posibles riesgos. Siguiendo el camino de la prudencia, utilizamos la inteligencia artificial de manera responsable, maximizando sus beneficios y minimizando cualquier impacto negativo en nuestra sociedad.
Gran reflexión.
Muy buena cita.
Tambien deberian incluir un curso de Seguridad con IA o Seguridad para ChatGPT
Resumen
Generado por chatGPT
Es interesante saber que se puede dar de baja los datos propios de Chat GPT (aunque igual la gente de open ai los vera sin hacerlos publicos). Las 7 recomendaciones de seguridad me parecen idoneas y apropiadas. Gracias
Interesante. A mi me apasiona la seguridad
¿Por qué es mejor limitar el almacenamiento?
Limitar el almacenamiento y aplicar políticas de safe-delete (borrado seguro) reduce drásticamente la superficie de ataque en caso de una brecha de seguridad. Imagina que guardas todos tus recibos bancarios de los últimos diez años en una caja de zapatos; si alguien roba la caja, tiene acceso a toda tu vida financiera. Si, por el contrario, destruyes los recibos que ya no necesitas, el daño potencial es mínimo. En el mundo de los datos y la inteligencia artificial, retener información innecesaria no solo aumenta los costos de infraestructura, sino que te expone a graves problemas legales y de cumplimiento normativo. Al recolectar solo lo esencial, anonimizar la información y programar la eliminación automática de datasets antiguos, proteges la identidad de los usuarios y garantizas que tu empresa opere bajo un marco de transparencia y responsabilidad. Menos datos almacenados significa menos riesgo que gestionar.
¿Por qué es mejor limitar el almacenamiento?
Limitar el almacenamiento y aplicar políticas de safe-delete (borrado seguro) reduce drásticamente la superficie de ataque en caso de una brecha de seguridad. Imagina que guardas todos tus recibos bancarios de los últimos diez años en una caja de zapatos; si alguien roba la caja, tiene acceso a toda tu vida financiera. Si, por el contrario, destruyes los recibos que ya no necesitas, el daño potencial es mínimo. En el mundo de los datos y la inteligencia artificial, retener información innecesaria no solo aumenta los costos de infraestructura, sino que te expone a graves problemas legales y de cumplimiento normativo. Al recolectar solo lo esencial, anonimizar la información y programar la eliminación automática de datasets antiguos, proteges la identidad de los usuarios y garantizas que tu empresa opere bajo un marco de transparencia y responsabilidad. Menos datos almacenados significa menos riesgo que gestionar.
¿Cómo evito que la IA use mis datos?
La clave está en tomar el control activo de las configuraciones de privacidad de la herramienta que estés utilizando. Por defecto, muchas plataformas de inteligencia artificial asumen que estás de acuerdo con donar tus interacciones para mejorar sus algoritmos. Para detener esto, debes buscar la opción de opt-out o exclusión voluntaria. En plataformas populares, esto suele estar en el menú de configuración bajo etiquetas como Data Controls o Privacy. Al desactivar el historial de chat o solicitar explícitamente que no se utilicen tus datos para el entrenamiento, creas un muro de contención. Además, es una excelente práctica aplicar el principio de mínimo dato posible: si necesitas que la IA redacte un correo para un cliente, usa nombres ficticios como Cliente A y omite cifras reales. Piensa en la IA como un consultor externo al que le das solo el contexto estrictamente necesario para hacer el trabajo, sin revelarle los secretos internos de tu negocio.
¿Es posible borrar mi información de OpenAI?
Sí, es totalmente posible y es un derecho que tienes como usuario. OpenAI y otras empresas serias de tecnología proporcionan formularios específicos y opciones de configuración para solicitar la eliminación de tu información sensible de sus sistemas. Piensa en esto como el derecho al olvido en el entorno de la inteligencia artificial. Si por error tú o alguien de tu equipo compartió un documento confidencial, un fragmento de código propietario o datos financieros en un prompt, no todo está perdido. Debes actuar rápido y utilizar los canales oficiales de soporte de la plataforma para ejercer tu derecho de opt-out y solicitar la purga de esos datos. Para evitar llegar a este punto de emergencia, lo más inteligente es configurar las cuentas corporativas desde el día uno para que rechacen el uso de datos con fines de entrenamiento, garantizando que tu información sea procesada únicamente para darte la respuesta en el momento y luego sea descartada.
No necesito
Parece que ves la protección de datos como un tema ajeno a tu rutina. Pero dime, ¿alguna vez has usado un chat para resumir un correo de un cliente o redactar un informe con datos internos?
¿Cómo garantizas que esa información no termine alimentando el modelo de otra empresa?
No
Claro, Ever. Si no hay dudas por ahora, vamos a lo práctico: ¿cuál es el riesgo más grande que ves al subir información sensible de la empresa a una IA pública?
A veces la respuesta está en los detalles que ignoramos. ¿Qué es lo primero que haces para verificar si una herramienta es segura antes de usarla?
¿Es posible borrar mi información de OpenAI?
Sí, es totalmente posible y es un derecho que tienes como usuario. OpenAI y otras empresas serias de tecnología proporcionan formularios específicos y opciones de configuración para solicitar la eliminación de tu información sensible de sus sistemas. Piensa en esto como el derecho al olvido en el entorno de la inteligencia artificial. Si por error tú o alguien de tu equipo compartió un documento confidencial, un fragmento de código propietario o datos financieros en un prompt, no todo está perdido. Debes actuar rápido y utilizar los canales oficiales de soporte de la plataforma para ejercer tu derecho de opt-out y solicitar la purga de esos datos. Para evitar llegar a este punto de emergencia, lo más inteligente es configurar las cuentas corporativas desde el día uno para que rechacen el uso de datos con fines de entrenamiento, garantizando que tu información sea procesada únicamente para darte la respuesta en el momento y luego sea descartada.
¿Cómo evito que la IA use mis datos?
La clave está en tomar el control activo de las configuraciones de privacidad de la herramienta que estés utilizando. Por defecto, muchas plataformas de inteligencia artificial asumen que estás de acuerdo con donar tus interacciones para mejorar sus algoritmos. Para detener esto, debes buscar la opción de opt-out o exclusión voluntaria. En plataformas populares, esto suele estar en el menú de configuración bajo etiquetas como Data Controls o Privacy. Al desactivar el historial de chat o solicitar explícitamente que no se utilicen tus datos para el entrenamiento, creas un muro de contención. Además, es una excelente práctica aplicar el principio de mínimo dato posible: si necesitas que la IA redacte un correo para un cliente, usa nombres ficticios como Cliente A y omite cifras reales. Piensa en la IA como un consultor externo al que le das solo el contexto estrictamente necesario para hacer el trabajo, sin revelarle los secretos internos de tu negocio.
¿Cuándo debo aplicar la anonimización de datos?
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
¿Cuándo debo aplicar la anonimización de datos?
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
¿Cuándo debo aplicar la anonimización de datos?
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
Como empresarios siempre debemos tener en cuenta la seguridad de la información que le suministremos ala ia por seguridad de nuestro personal con los movimientos de la empresa yo por lo menos manejo chat gpt gratuito pero toda mi informacion esta segura
como paso ala otra clase ayuda
Ya termine
¡Bien hecho, Mauricio! Terminar es la parte fácil; lo difícil es que la lección no se te olvide al primer prompt que lances mañana.
Si tuvieras que explicarle a un compañero, en una sola frase, por qué no debe pegar datos confidenciales en un chatbot público, ¿qué le dirías para que realmente lo entienda?