⚠️ Protección de datos confidenciales al usar ChatGPT

Clase 6 de 23 • Curso de Prompt Engineering con ChatGPT

Contenido del curso

Comienza a usar ChatGPT

¿Cómo escribir prompts en ChatGPT?

Técnicas básicas de prompt engineering

Técnicas avanzadas de prompt engineering

Casos de uso de ChatGPT

Utiliza chats de IA para resolver problemas

23
¿Cómo vas a utilizar ChatGPT?
04:31 min

Tomar examen

Precauciones al usar ChatGPT con información sensible o confidencial

Como usuario o usuaria de ChatGPT, es importante que tengas precaución al compartir información sensible o confidencial a través del chatbot. Aunque ChatGPT es una herramienta útil y segura para la mayoría de las interacciones, no es infalible y siempre existe la posibilidad de que tus datos puedan ser comprometidos.

Aquí hay algunas precauciones que debes tomar al usar ChatGPT para proteger tu información sensible:

No compartas información personal identificable con el chatbot. Evita compartir información como tu nombre completo, dirección, número de seguro social, número de tarjeta de crédito o cualquier otra información que pueda identificarte personalmente.
No compartas información que esté protegida bajo un acuerdo de confidencialidad (ADC), acuerdo de no divulgación (en inglés Non-Disclosure Agreement o NDA). Esto podría meterte en problemas y afectar a la empresa u organizaciones con las que colabores.
Ten cuidado con la información médica. Esta información es especialmente sensible y debe manejarse con precaución. Consulta con tu profesional de la salud para compartir información sobre tus condiciones médicas, medicamentos o tratamientos con ChatGPT.
Evita compartir contraseñas. Los chatbots no necesitan esa información para proporcionarte ayuda.
No compartas información financiera como números de cuenta o información de tarjetas de crédito o débito.
Asegúrate de estar en un entorno seguro. Evita utilizar ChatGPT en redes públicas o abiertas de Wi-Fi. Utiliza una conexión segura y privada, como una red Wi-Fi doméstica, una conexión celular o una VPN.
Revisa los términos y condiciones de uso de ChatGPT. Asegúrate de leer los términos y condiciones de uso de ChatGPT y comprende cómo se maneja y protege tu información. Si tienes preguntas o inquietudes, ponte en contacto con el equipo de soporte de ChatGPT.

Adicional a estas recomendaciones, te sugiero leer la visión y propuesta de OpenAI para desarrollar y usar sistemas de IA seguros y responsables.

En conclusión, aunque ChatGPT es una herramienta útil para trabajar con inteligencia artificial, siempre es importante tener precaución al compartir información sensible o confidencial. Sigue estas precauciones para proteger tus datos y mantenerlos seguros. 🛡️

Comentarios

ANDRES FELIPE RINCON GRACIA

student•

Jajajaja a mi no me engañas profe XD, es broma

Eduardo Monzón

student•

😮😮😮😮

Camilo Vanegas

student•

Arturo Juárez Sánchez

student•

Igual que con los términos y condiciones, mas de la mitad se pasara a dar siguiente, a esta oportuna clase.

Eduardo Monzón

student•

Es lo más probable :/

Javier Ramos

student•

Absolutamente

Reinaldo Mendoza

student•

ja, a quien se le ocurriría darle la tarjeta de credito?

Rafael Rivera

student•

no falta, jajajajajaja

Mi Chu

student•

a alguien que conoce tus ultimos 4 digitos de tu tarjeta y quiere sacar el resto, usando las ya conocidas herramientas, para mejorarlas y sacar con mayor eficacia

Daniel Ortiz

student•

Interesante lo que chat gpt opina sobre el contenido para adultos, pense que debe ser algo recurrente que le pregunten, al final me dio los nombre de las paginas mas populares, lo cual es curioso pues es contradictorio porque segun el no se puede restringir el acceso al contenido, pero al ser sensible para cierto publico si se hace.

daniel fonque

student•

Podría recomendarte mejor usar un FW Free llamado sophos , lo virtualizas o lo instalas en una PC como tu prefieras y harás ese manejo de trafico de páginas adultos por categoría y puertos específicos , podrás darle mejor seguridad perimetral a lo que tu hijos ven , usar el archivo HOST no es una practica buena ya que deberás poner a mano cada dominio y esto es muy loco ! , , el contra de poner un FW casero es que deberás tenerlo siempre UP

Saludes ¡

Fernando Caicedo Albarello

student•

Excelente que consideres estas precauciones en casa. Te felicito.

Considera que también puedes construir reglas de acceso en el router o en el repetidor y evitar que se pueda acceder a través de toda la red. Saludos!

Andres Sanchez

student•

Información muy importante que muchas personas ignoran por el hype de usar estas herramientas, pero qué consecuente a esto podrían sufrir vulneraciones.

Rodrigo Alles

student•

Protección de datos confidenciales al usar ChatGPT

La protección de datos confidenciales es una preocupación importante al utilizar ChatGPT, ya que el modelo puede recopilar y almacenar información confidencial al procesar entradas y generar respuestas. A continuación, se presentan algunas medidas de seguridad y buenas prácticas que pueden ayudar a proteger los datos confidenciales al utilizar ChatGPT.

1. Utilice una plataforma segura y confiable

Es importante utilizar una plataforma de ChatGPT segura y confiable para evitar posibles violaciones de seguridad. Busque una plataforma que cuente con medidas de seguridad sólidas, como la encriptación de datos y la autenticación de usuario.

2. No proporcione información confidencial

Evite proporcionar información confidencial a ChatGPT, como contraseñas, números de seguridad social o información financiera. Si necesita proporcionar información confidencial, utilice una plataforma segura y confiable que cifre los datos y proteja su privacidad.

3. Establezca limitaciones de acceso

Establezca limitaciones de acceso a los datos procesados por ChatGPT. Limite el acceso solo a las personas que necesitan ver o utilizar la información y asegúrese de que la información sea almacenada y transmitida de manera segura.

4. Elimine datos confidenciales

Elimine los datos confidenciales procesados por ChatGPT tan pronto como sea posible. Esto ayudará a minimizar el riesgo de que la información se exponga o se use de manera inapropiada.

5. Revise las políticas de privacidad y seguridad

Antes de utilizar ChatGPT, revise las políticas de privacidad y seguridad de la plataforma para asegurarse de que sus datos estén protegidos de manera adecuada. Asegúrese de que la plataforma cumpla con los estándares y regulaciones de privacidad y seguridad aplicables.

En general, es importante tomar medidas de seguridad y buenas prácticas para proteger los datos confidenciales al utilizar ChatGPT. Al utilizar una plataforma segura y confiable, establecer limitaciones de acceso y eliminar datos confidenciales, puede minimizar el riesgo de violaciones de seguridad y proteger su privacidad.

Cesar Augusto Vega Lizarazo

student•

Luego le pregunte: ¿Es posible que si alguien escriba un prompt donde se coloca informacion privada o confidencial, quede grabada en los servidores de chatgpt?’ Respuesta: Es posible que si alguien escribe un prompt donde se coloca información privada o confidencial, quede grabada en los servidores de chatgpt.

Erick Jair Gonzalez Sanchez

student•

es importante recordar que este modelo da respuestas tan a doc por que es alimentada con datos, no se va a hacer ninguna discriminacion si se trata de datos personales

Sebastian Videa Burgos

student•

Que puede ocurrir si utilizamos ChatGPT mientras estamos conectados a una red pública o abierta de Wi-Fi?

Aurelio ML

student•

Hay varios peligros asociados con el uso de una red WiFi pública o abierta:

Espionaje: Las redes WiFi públicas no están encriptadas, lo que significa que cualquier persona que esté conectada a la misma red puede ver todo lo que se está transmitiendo, incluyendo tus contraseñas, información personal y financieras.
Ataques de phishing: Los ciberdelincuentes pueden crear redes WiFi falsas que parecen legítimas, con el objetivo de robar la información de las personas que se conectan a ellas. Esto se conoce como un "ataque de phishing".
Malware: Las redes WiFi públicas también son un objetivo común para los ataques de malware. Si te conectas a una red infectada, es posible que descargues malware en tu dispositivo, lo que puede dañar tus archivos, robar información personal o permitir que los ciberdelincuentes controlen tu dispositivo.
Suplantación de identidad: Los ciberdelincuentes pueden intentar suplantar tu identidad mediante el uso de técnicas como el "spoofing" o la creación de un sitio web falso que parezca legítimo para robar tus datos de inicio de sesión.

Para protegerse de estos peligros, es recomendable evitar el uso de redes WiFi públicas o abiertas para realizar transacciones financieras o enviar información sensible. Si necesitas conectarte a una red WiFi pública, asegúrate de utilizar una conexión VPN (Red Privada Virtual) y de no ingresar información personal o financiera a menos que esté en una conexión segura HTTPS. Además, asegúrate de tener instalado un software de seguridad en tu dispositivo y de mantenerlo actualizado.

Cesar Augusto Vega Lizarazo

student•

Le pregunte a chatgpt de Edge: Explicame, ¿Cómo se enterarían los demás si coloco código fuente confidencial y solo yo tengo acceso al chat desde mi equipo?’ Respuesta: Si el código fuente confidencial se comparte en un chat al que solo usted tiene acceso desde su equipo, es poco probable que alguien más tenga acceso a él. Sin embargo, si alguien más tiene acceso a su equipo o si el chat se comparte con otros usuarios, entonces existe la posibilidad de que alguien más pueda acceder al código fuente confidencial.

Miguel Gomez

student•

Les comparto el progreso del progreso de anotacion de clases mediante ChatGPT. En esta ocasión, las anotaciones se mantienen fieles al contenido original, prácticamente reorganizó la información. Aun no sigue del todo la estructura Cornell de anotación, pero en esta ocasión agregó Notas Adicionales, apartado que sí es del método Cornell. Aun así el prompt requiere de mejora para mejorar los resultados.

Nicolas Alpargatero

student•

5 meses después del curso ya hay un robot que se considera autoconsciente 👀🤖

Angie Lineth Villarroel

student•

Fernando Sánchez Mejía

student•

Tal como ocurre con muchas herramientas, las de IA también pueden ser propensas a cometer errores.
Estos errores abren la puerta a ciberataques, los cuales son perpetrados por individuos o entidades con el objetivo de extraer información que pueda comprometer la reputación de la empresa, la tuya o la de tus clientes.
Así es, es sumamente interesante conocer las propiedades de la seguridad de la información, que son Confidencialidad, Integridad y Disponibilidad.
Es fundamental evaluar que existan controles mínimos de seguridad en estas tecnologías, al igual que con cualquier otra, para garantizar un adecuado control de usuarios, autenticación y autorización. Es importante que tus usuarios cuenten con más de un factor de autenticación, no solo confiando en la contraseña, sino también utilizando una generación de token, con el fin de minimizar los riesgos de un uso indebido del servicio.
OpenAI te ofrece un formulario para solicitar la eliminación de tu información personal, lo que brinda garantías de que la información sensible no será utilizada para otros fines.
Es importante no confiar plenamente en la precisión de la respuesta de la IA, ya que puede estar desactualizada. ChatGPT es metaconsciente solo hasta septiembre del 2021 y, en ocasiones, puede cometer errores por falta de contexto.

Juan Jose Gutierrez Gutierrez

student•

Es la primera vez que me tomo tan de pecho algo, lo lei todo y hasta tome apuntes :)

Gerardo Antonio Fuentes

student•

yo he estado usando chat y es una locura se que no es el caso aun pero si parece que se puede salir de control ojala que no mientras a usarlo

Natalia E. Acero Castillo

student•

Solo se considera sensible la información que se comparta al chatbot? Por ejemplo si accedí con mi correo de gmail, también esta información seria sensible?

Aurelio ML

student•

En mi opinión, al ser tus datos de login no deberías de preocuparte porque funcionan de forma distinta y ya hay medidas de seguridad para que estén a salvo. La clase hace referencia a no pasar prompts que puedan comprometer tu información personal o la de tu empresa porque no sabemos que hace openai con los datos o si en un futuro puede haber una filtración

Haidy Flor Dueñas Perlacio

student•

por alguna razón no me carga el video #6 - Protección de datos confidenciales al usar ChatGPT, no puedo ver el video, pero sí todos los demás, puden ayudarme?

Juan Carlos Montilla Sánchez

student•

No es un vídeo. Es una guía o lectura

Victor Contreras

student•

Que pasa con las IA que se integran en los IDEs? tampoco son seguras? es decir herramientas como copilot utilizan el código de los démas para sugerirme algunas mejoras, pero se limita a eso nada más?

Victor Contreras

student•

Se lo pregunte a chat GPT y bueh... No es recomendable confiar en herramientas como Copilot al momento de gestionar información sensible. Aunque estas herramientas se basan en modelos de lenguaje avanzados y utilizan técnicas de seguridad y privacidad, todavía existen riesgos de seguridad y privacidad que deben ser considerados.

En particular, si está trabajando con información confidencial, es posible que la herramienta sugiera accidentalmente código que revele información confidencial o que reproduzca prejuicios o sesgos en el código generado. Además, es posible que los modelos de lenguaje utilizados por estas herramientas no estén completamente libres de prejuicios y que reproduzcan prejuicios en el código generado.

Por lo tanto, es importante ser cuidadoso al utilizar herramientas de IA como Copilot y asegurarse de que la información sensible no esté incluida en el código generado por la herramienta. Si se está trabajando con información confidencial, es mejor optar por soluciones de desarrollo más seguras y controladas.

ELIÉCER DORIA CASTRILLÓN

student•

Para mejorar las respuestas en ChatGPT, es fundamental seguir ciertos pasos:

Estructura clara del prompt: Define bien qué información buscas y proporciona contexto suficiente.
Consulta fuentes confiables: Siempre verifica la información con fuentes externas, especialmente si es crítica.
Itera y ajusta: Si la respuesta no es la esperada, ajusta el prompt o haz preguntas de seguimiento.
Aplica técnicas de prompting: Usa técnicas como Zero-shot o One-shot para guiar mejor a la IA.

Recuerda que la claridad y precisión en tus preguntas son clave para obtener resultados más útiles.

Diana Otálvaro Rodríguez

student•

ChatGPT tiene limitaciones diseñadas para proteger la privacidad y seguridad del usuario. No puede acceder a información personal ni realizar acciones físicas, lo que refuerza su enfoque en ser una herramienta de asistencia y no un agente autónomo. Además, actúa bajo políticas estrictas para evitar generar contenido inapropiado o que infrinja derechos. Estas restricciones son importantes para garantizar un uso responsable de la inteligencia artificial y proteger la confianza de los usuarios.

Alex Ivanov Montenegro Concha

student•

Que asegura, que nuestros datos privados, no sean utilizados por esta tecnologia, si relativamente no existe limite de conocimiento de la IA?

⚠️ Protección de datos confidenciales al usar ChatGPT

Comienza a usar ChatGPT

ChatGPT para prompt engineering

¿Para qué usar ChatGPT y prompt engineering?

Tu primera conversación con ChatGPT

¿Cómo escribir prompts en ChatGPT?

Cómo hablarle a ChatGPT: estructura de un prompt

Limitaciones y uso ético de ChatGPT