¿Estás considerando utilizar herramientas de IA en tus tareas del día a día? Aquí te contamos cómo puedes hacerlo de forma segura con el objetivo de proteger tus datos financieros y la información de tu empresa.
Valida las garantías de privacidad de la información de las herramientas que vayas a implementar en tu flujo de trabajo. En el caso de OpenAI, la empresa que desarrolló ChatGPT, en su apartado de ‘Seguridad’, expone las herramientas de mitigación de riesgos, las mejores prácticas para un uso responsable y la monitorización para detectar el uso indebido de la tecnología.
Verifica la política de privacidad de producto. Puedes entender cuál es la información que recolectan, cuál es el propósito y cómo se emplea la información que decidas compartir con el modelo. Debes revisar además si en toda la implementación de IA dentro de tu trabajo están cumpliendo también las políticas de privacidad de tu empresa.
Evalúa que existan controles mínimos de seguridad. Asegúrate que las plataformas, modelos o tecnologías que vayas a utilizar incluyan medidas de seguridad, control de usuario o que puedan tener doble factor de autenticación para minimizar los riesgos de un uso indebido del servicio.
Aplica también un control de gastos a través de límites de uso siempre que la plataforma lo permita para configurar el monto de dinero máximo permitido y una vez se alcance, el permiso va a rechazar cualquier petición. Esto es muy útil para minimizar riesgos asociados al mal uso de una plataforma de IA.
En Abril del 2023 los empleados de Samsung compartieron accidentalmente información confidencial mientras usaban ChatGPT para obtener ayuda en el trabajo. Si bien la compañía previamente había permitido a sus equipos usar ChatGPT para verificar código fuente, se informó de tres equipos internos de empleados de Samsung que filtraron involuntariamente información confidencial a ChatGPT.
Un empleado pegó un código fuente confidencial en el chat para verificar si había errores.
Otro, compartió código con ChatGPT y "solicitó optimización de código".
Y un tercero, compartió una grabación de una reunión para convertirla en notas para una presentación.
Esa información, desde ese momento, quedó disponible para que ChatGPT alimentara su modelo.
Samsung tomó medidas inmediatas al limitar la capacidad de carga de ChatGPT a 1024 bytes por persona e investigó a las personas involucradas en la filtración. Como en este y otros casos, la política de datos de ChatGPT anuncia que usa la información suministrada para entrenar sus modelos a menos que el usuario solicite optar por no participar y en la guía de uso se advierte explícitamente a los usuarios no compartir información sensible en las conversaciones.
¿Cómo dar de baja tu información de ChatGPT?
OpenAI proporciona el siguiente formulario para solicitar la eliminación de tu información sensible del modelo. Con esto puedes garantizar que esos datos que compartas en la herramienta no van a ser usados para otros propósitos.
Security tips
Algunos aspectos de privacidad a tener en cuenta son:
Uso limitado y propósito específico:
Se deben establecer políticas de control de acceso a los datos personales utilizados para el entrenamiento del modelo.
Mantener el pool de datos en varias ubicaciones, aplicando esquemas de replicación de información o backup.
Imparcialidad: Verificar que los algoritmos no tomen decisiones (o respondan) sobre personas o individuos puntuales. Esto podría generar problemas legales.
Mínimo dato posible y limitar almacenamiento: No recolectar datos innecesarios, anonimizar la mayor cantidad de datos posibles, limitar consultas o queries, aplicar políticas de safe-delete de datos periódicamente, no ubicar links en datasets, restringir la cantidad de stakeholders que tienen acceso a los datos y aplicar cifrado de almacenamiento con algoritmos matemáticos robustos.
Transparencia: El usuario final debe conocer aspectos relevantes del modelo como documentación, detalles de dataset, trazabilidad y explicabilidad del modelo.
Derechos de privacidad (opt-out data): En cuanto a los datos personales utilizados por los modelos AI, el dueño de esos datos puede aplicar sus derechos.
Precisión: Se debe asegurar que los datos obtenidos sean de fuentes confiables y debe existir garantía de integridad.
Consentimiento: Básicamente es tener las herramientas para evidenciar que los dueños de los datos personales utilizados han aceptado el uso en modelos de AI.
Siguiendo estas recomendaciones tienes lo necesario para sacarle provecho de forma segura a las herramientas de inteligencia artificial y convertirla en un aliado que te ofrece ventajas para trabajar de forma más efectiva y productiva.
Protección de Datos al Usar IA en el Trabajo Diario
Aristóteles nos enseñó que la verdadera sabiduría se encuentra en actuar con prudencia. Al aplicar esta enseñanza al uso de la inteligencia artificial, reconocemos la importancia de tomar decisiones informadas, considerando tanto los aspectos éticos como los posibles riesgos. Siguiendo el camino de la prudencia, utilizamos la inteligencia artificial de manera responsable, maximizando sus beneficios y minimizando cualquier impacto negativo en nuestra sociedad.
Es interesante saber que se puede dar de baja los datos propios de Chat GPT (aunque igual la gente de open ai los vera sin hacerlos publicos). Las 7 recomendaciones de seguridad me parecen idoneas y apropiadas. Gracias
📚 CLASE: Protección de Datos al Usar IA en el Trabajo Diario
━━━━━━━━━━━━━━━━━━
🎯 IDEA PRINCIPAL
Establecer protocolos estrictos de gobernanza y privacidad al interactuar con modelos de IA, evitando la fuga de información confidencial o sensible en entornos empresariales y financieros.
━━━━━━━━━━━━━━━━━━
⚡ RESUMEN ULTRA RÁPIDO
🟢 Desactivar el historial de entrenamiento en plataformas públicas de IA para evitar filtraciones.
🟢 Anonymizar datos sensibles (nombres, identificaciones, montos exactos) antes de procesarlos.
🟢 Utilizar entornos empresariales privados o APIs dedicadas que garanticen confidencialidad contractual.
🟢 Implementar políticas de uso claras dentro del equipo para el manejo responsable de información.
━━━━━━━━━━━━━━━━━━
🔑 LO IMPORTANTE
🔵 La vulnerabilidad de datos ocurre cuando información propietaria se usa para reentrenar modelos públicos.
🟡 Las APIs corporativas ofrecen cláusulas de privacidad más estrictas que las versiones web gratuitas.
🔴 Subir estados financieros completos o bases de datos con información de clientes sin filtrar.
🔴 Asumir que las plataformas gratuitas mantienen los datos en privado por defecto.
🟣 La gobernanza de datos previene sanciones regulatorias y protege el activo reputacional del negocio.
━━━━━━━━━━━━━━━━━━
🧩 MODELO MENTAL
Dato Sensible → Enmascaramiento / Anonymización → Canal Seguro IA → Resultado Auditado
━━━━━━━━━━━━━━━━━━
🚀 ACCIONES PARA HOY
🟢 Revisar y desactivar la opción de entrenamiento en la configuración de privacidad de tu cuenta de IA.
🟢 Crear un plantilla de enmascaramiento para reemplazar datos reales con variables sintéticas (ej: Cliente X, $100).
🟢 Redactar una lista de verificación básica de seguridad para compartir con tu equipo antes de usar IA.
━━━━━━━━━━━━━━━━━━
🟣 VENTAJA PROFESIONAL
🟣 Estructura políticas de gobernanza de IA empresarial que mitiguen riesgos legales sin frenar la innovación.
🟣 Insider Hack: Si usas ChatGPT web con información semi-sensible, multiplica las cifras por un factor aleatorio constante antes de pegarlas y divide los resultados al final.
━━━━━━━━━━━━━━━━━━
📝 CIERRE
El usuario desprevenido expone activos de la empresa por rapidez; el profesional riguroso asegura la información antes de procesar.
Blindar la seguridad de tus datos hoy es el primer paso para una adopción sostenible de la inteligencia artificial.
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
Limitar el almacenamiento y aplicar políticas de safe-delete (borrado seguro) reduce drásticamente la superficie de ataque en caso de una brecha de seguridad. Imagina que guardas todos tus recibos bancarios de los últimos diez años en una caja de zapatos; si alguien roba la caja, tiene acceso a toda tu vida financiera. Si, por el contrario, destruyes los recibos que ya no necesitas, el daño potencial es mínimo. En el mundo de los datos y la inteligencia artificial, retener información innecesaria no solo aumenta los costos de infraestructura, sino que te expone a graves problemas legales y de cumplimiento normativo. Al recolectar solo lo esencial, anonimizar la información y programar la eliminación automática de datasets antiguos, proteges la identidad de los usuarios y garantizas que tu empresa opere bajo un marco de transparencia y responsabilidad. Menos datos almacenados significa menos riesgo que gestionar.
Limitar el almacenamiento y aplicar políticas de safe-delete (borrado seguro) reduce drásticamente la superficie de ataque en caso de una brecha de seguridad. Imagina que guardas todos tus recibos bancarios de los últimos diez años en una caja de zapatos; si alguien roba la caja, tiene acceso a toda tu vida financiera. Si, por el contrario, destruyes los recibos que ya no necesitas, el daño potencial es mínimo. En el mundo de los datos y la inteligencia artificial, retener información innecesaria no solo aumenta los costos de infraestructura, sino que te expone a graves problemas legales y de cumplimiento normativo. Al recolectar solo lo esencial, anonimizar la información y programar la eliminación automática de datasets antiguos, proteges la identidad de los usuarios y garantizas que tu empresa opere bajo un marco de transparencia y responsabilidad. Menos datos almacenados significa menos riesgo que gestionar.
La clave está en tomar el control activo de las configuraciones de privacidad de la herramienta que estés utilizando. Por defecto, muchas plataformas de inteligencia artificial asumen que estás de acuerdo con donar tus interacciones para mejorar sus algoritmos. Para detener esto, debes buscar la opción de opt-out o exclusión voluntaria. En plataformas populares, esto suele estar en el menú de configuración bajo etiquetas como Data Controls o Privacy. Al desactivar el historial de chat o solicitar explícitamente que no se utilicen tus datos para el entrenamiento, creas un muro de contención. Además, es una excelente práctica aplicar el principio de mínimo dato posible: si necesitas que la IA redacte un correo para un cliente, usa nombres ficticios como Cliente A y omite cifras reales. Piensa en la IA como un consultor externo al que le das solo el contexto estrictamente necesario para hacer el trabajo, sin revelarle los secretos internos de tu negocio.
Sí, es totalmente posible y es un derecho que tienes como usuario. OpenAI y otras empresas serias de tecnología proporcionan formularios específicos y opciones de configuración para solicitar la eliminación de tu información sensible de sus sistemas. Piensa en esto como el derecho al olvido en el entorno de la inteligencia artificial. Si por error tú o alguien de tu equipo compartió un documento confidencial, un fragmento de código propietario o datos financieros en un prompt, no todo está perdido. Debes actuar rápido y utilizar los canales oficiales de soporte de la plataforma para ejercer tu derecho de opt-out y solicitar la purga de esos datos. Para evitar llegar a este punto de emergencia, lo más inteligente es configurar las cuentas corporativas desde el día uno para que rechacen el uso de datos con fines de entrenamiento, garantizando que tu información sea procesada únicamente para darte la respuesta en el momento y luego sea descartada.
Parece que ves la protección de datos como un tema ajeno a tu rutina. Pero dime, ¿alguna vez has usado un chat para resumir un correo de un cliente o redactar un informe con datos internos?
¿Cómo garantizas que esa información no termine alimentando el modelo de otra empresa?
Claro, Ever. Si no hay dudas por ahora, vamos a lo práctico: ¿cuál es el riesgo más grande que ves al subir información sensible de la empresa a una IA pública?
A veces la respuesta está en los detalles que ignoramos. ¿Qué es lo primero que haces para verificar si una herramienta es segura antes de usarla?
Sí, es totalmente posible y es un derecho que tienes como usuario. OpenAI y otras empresas serias de tecnología proporcionan formularios específicos y opciones de configuración para solicitar la eliminación de tu información sensible de sus sistemas. Piensa en esto como el derecho al olvido en el entorno de la inteligencia artificial. Si por error tú o alguien de tu equipo compartió un documento confidencial, un fragmento de código propietario o datos financieros en un prompt, no todo está perdido. Debes actuar rápido y utilizar los canales oficiales de soporte de la plataforma para ejercer tu derecho de opt-out y solicitar la purga de esos datos. Para evitar llegar a este punto de emergencia, lo más inteligente es configurar las cuentas corporativas desde el día uno para que rechacen el uso de datos con fines de entrenamiento, garantizando que tu información sea procesada únicamente para darte la respuesta en el momento y luego sea descartada.
La clave está en tomar el control activo de las configuraciones de privacidad de la herramienta que estés utilizando. Por defecto, muchas plataformas de inteligencia artificial asumen que estás de acuerdo con donar tus interacciones para mejorar sus algoritmos. Para detener esto, debes buscar la opción de opt-out o exclusión voluntaria. En plataformas populares, esto suele estar en el menú de configuración bajo etiquetas como Data Controls o Privacy. Al desactivar el historial de chat o solicitar explícitamente que no se utilicen tus datos para el entrenamiento, creas un muro de contención. Además, es una excelente práctica aplicar el principio de mínimo dato posible: si necesitas que la IA redacte un correo para un cliente, usa nombres ficticios como Cliente A y omite cifras reales. Piensa en la IA como un consultor externo al que le das solo el contexto estrictamente necesario para hacer el trabajo, sin revelarle los secretos internos de tu negocio.
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
Debes aplicar la anonimización de datos antes de que la información toque cualquier modelo de inteligencia artificial o base de datos compartida. Este proceso es el equivalente digital a ponerle una máscara y distorsionar la voz a un testigo protegido. Si estás analizando tendencias financieras, evaluando el rendimiento de tu equipo o procesando encuestas de satisfacción, los nombres reales, correos electrónicos, números de teléfono o identificaciones fiscales no aportan valor analítico, pero sí representan un riesgo gigantesco de privacidad. La regla de oro es: si el algoritmo no necesita saber quién es la persona para darte un resultado útil, entonces esa información debe ser enmascarada o eliminada por completo. Implementar esta práctica desde el diseño de tus flujos de trabajo asegura que, incluso si ocurre una filtración accidental, los datos expuestos sean completamente inútiles para los atacantes, protegiendo así la integridad de tus clientes y empleados.
