Seguridad en el Uso de Herramientas de Inteligencia Artificial

Clase 14 de 15 • Curso de Introducción a Ciberseguridad: Prevención de Ataques Informáticos

SEBASTIAN PATIÑO CARO

student•

He visto que muchas personas utilizan la API de ChatGPT a través de WhatsApp u otra red social. Esto podría ser un punto vulnerable de seguridad.

José Cárdenas

student•

No. el API es una interfaz. el API de chatGPT en whatsapp seria como usar ChatGPT oficial a traves de Whatsapp.

la cuestion es que si pones info sensible en ese prompt de whatsapp, el propietario de la API puede ser tu info y sonaste si es malicioso.

Alejandro Amaya Hincapié

student•

NO AFIRMO, pero el hecho de no usar ChatGPT o usar la APP oficial ya es un riesgo de seguridad o vulnerabilidad (Mala práctica). Es como chatear con una empresa importante pero usando un "PUENTE" (en este caso la API conectada a wtsp) en vez de Directamente Chatear con la empresa desde su página oficial o su CHAT EMPRESARIAL Oficial.

Javier Ramos

student•

Uso seguro de ChatGPT

validar que la aplicacion chatGPT que estas usando sea la oficial, especialmente la de la APP pues hay muchas chatgpt que no son oficiales y por tanto no son seguras

Como la reconozco?

El proveedor oficial de la APP es OpenIA
Los proveedores la marcan como oficial

William Ruiz

student•

gracias por tu aporte

SEBASTIAN PATIÑO CARO

student•

¿El no compartir información confidencial es porque ChatGPT guarda la información, o por el caso de que alguien acceda a nuestros chats y la vea?

Fernanda Vieira Jófili

student•

Porque ChatGPT usa la información que compartimos para entrenar su modelo otra vez.

Toño Herrera

student•

@sebastianpa138 por ambas razones y también por lo que comenta @fernandajofili

Feliz Triana Benavides

student•

Por eso yo me pongo de nickname nombres random graciosos. Como elsa Payo o Alam Brito, elzan Cudo. jaja. Nombres Clave.!

Rafael Martínez Rodríguez

student•

La clase se centra en el uso seguro de ChatGPT y las mejores prácticas de ciberseguridad. Los puntos clave incluyen:

Uso de la aplicación oficial: Asegúrate de descargar la versión oficial de ChatGPT de OpenAI para evitar riesgos de seguridad.
Cuidado con la información sensible: No compartas datos personales o de la empresa, ya que ChatGPT utiliza estos datos para entrenar su modelo.
Vulnerabilidades: Reconoce que siempre existe el riesgo de exposiciones de información.
Verificación de información: Consulta fuentes confiables para validar respuestas de IA, ya que pueden contener sesgos o errores.

Edgar Emilio Ramírez Paz

student•

Me da mucho gusto que se actualicen los cursos a las tecnologías actuales, muchas gracias.

Daniel Zarazua Aguilar

student•

mismo chat gpt te sugiere no comnpartir info sensible

Jafet Brito

student•

U.u eso es verdad, al principio no habia una app oficial de chat gtp, eso genero problemas, tambien cuando salio el anuncio de GTA VI, habia ads de "Descarga el juego ahora mismo" Todavia ni sale XD

Nicoll Rodriguez

student•

En tu cuenta de ChatGPT puedes desactivar que tus datos se usen para entrenar futuros modelos.

Abre ChatGPT
Ve a Configuración
Entra a la sección Controles de datos.
Allí encontrarás la opción “Entrenamiento de modelos” o “Mejorar ChatGPT”.
Desactívala

Javier Ramos

student•

Cuando ChatGpt alusina podemos suponer que .. Se la fumo verde? XD

Alejandro Amaya Hincapié

student•

Deja de tragar entero e InFórmate

Una de las NO CUALIDADES de Freddy Vega es la humildad, PERO CON JUSTA CAUSA. Por algo nos pone profes de la Calidad de MARIANA GÓMEZ en cuanto a espero y conocimiento, pasión y dedicación.

Cree la mitad, investiga el doble, siempre, si no te dejan tarea, busca que invstigar del tema que aprendas y cuestionalo todo (Como dice Neil Degrasse - COSMOS 20214)

Alejandro Amaya Hincapié

student•

Ahí me perdonan el tono Despota, es simulado, yo soy un amor y una madre.

JUAN MIGUEL VALVERDE GALVEZ

student•

ChatGpt me ha funcionado.

Juan Carlos Rosero Villamizar

student•

La seguridad en el uso de herramientas de inteligencia artificial se basa en varias prácticas clave. Primero, es fundamental usar aplicaciones oficiales, como ChatGPT de OpenAI, para evitar riesgos de seguridad. Además, no debes compartir datos personales en estas plataformas, ya que la información ingresada puede ser utilizada para entrenar modelos y podría no ser privada. Finalmente, verifica siempre la información generada, ya que estas herramientas pueden tener sesgos o cometer errores. Mantenerse informado sobre las políticas de seguridad y privacidad es esencial para una utilización segura.

Fabián D. Escobar Toledo

student•

Excelente complemento para ChatGPT!

Cristian Eduardo Carreño Martínez

student•

Genial!!!

Samuel Soto Hoyos

student•

Es importante "limpiar" los datos que vamos a compartir con sistemas externos.

Kevin Giraldo

student•

Un LLM (Large Language Model) es un tipo de modelo de inteligencia artificial diseñado para procesar y generar texto. Estos modelos, como GPT-3, utilizan redes neuronales profundas para entender patrones en grandes volúmenes de datos textuales. Se entrenan con información de diversas fuentes y pueden realizar tareas como redacción, traducción y conversación. Sin embargo, es importante tener cuidado al usarlos, ya que pueden manejar información sensible de manera inapropiada y no siempre son precisos. En Platzi, puedes aprender más sobre cómo utilizarlos de forma segura.

Luis Auyadermont

student•

chatgpt nos puede ayudar , últimamente los hackers han mejorado sus técnicas

Jafet Brito

student•

Si con chatgtp si encontre muchos falsos links.

Cristian Eduardo Bernal

student•

Uso seguro de ChatGPT

validar que la aplicación ChatGPT que estás usando sea la oficial, especialmente la de la APP, pues hay muchas ChatGPT que no son oficiales y, por tanto, no son seguras

¿Cómo la reconozco?

El proveedor oficial de la APP es OpenIA
Los proveedores la marcan como oficial