Mini firewall con instrucciones personalizadas en ChatGPT

Curso de Ciberseguridad para Trabajar con AI

Contenido del curso

No sé dónde empezar

Mapa de riesgos y herramientas de IA

Tomar examen

Cursos Empresas Blog Live Conf Eventos Precios

0:006:37

Mini firewall con instrucciones personalizadas en ChatGPT

Curso de Ciberseguridad para Trabajar con AI

Clase 7 de 9

Clase 7 / 9

Recursos

Cuando instalas ChatGPT, Claude o Gemini, confías en el modelo de un laboratorio gigante. Pero en el momento en que agregas un plugin, un MCP, un skill o una extensión de navegador, el riesgo cambia por completo: ya no confías solo en el modelo, sino en toda la cadena de suministro de inteligencia artificial. Esta lección es clave para cualquiera que use agentes de IA conectados a herramientas externas.

Por qué debes confiar en el ecosistema y no solo en el modelo

El punto central es simple: el modelo es confiable, pero lo que construyes encima de él no siempre lo es [00:12]. Cada vez que instalas una extensión, aparece una lista de preguntas incómodas que casi nadie se hace.

¿Quién es el desarrollador de ese plugin o ese MCP?.
¿Qué mantenimiento y qué reconocimiento tiene?.
¿Es una persona anónima o una empresa seria?.

Aquí entra un término que vas a encontrar mucho en Internet: el harness [00:40]. El modelo es el núcleo, y toda la capa que se construye sobre ese núcleo es el harness. ChatGPT, Claude y Gemini ya no son modelos puros; son modelos envueltos en esa capa adicional.

¿Qué es el harness en inteligencia artificial? Es la capa de software que se construye encima del modelo base. El modelo es el núcleo, y herramientas como extensiones, instrucciones personalizadas, MCP o skills forman el harness que lo rodea.

Por qué las extensiones de navegador son un riesgo real

Una extensión que se volvió popular es la que OpenAI creó para Google Chrome [01:05]. La instalas, aparece ChatGPT a la derecha y puede hacer cambios en tu página web. Suena cómodo, pero el riesgo es enorme.

Piensa en el archivo de memoria que guarda todos tus pasos. ¿Quién garantiza que en ese archivo no quede tu usuario y contraseña de tu cuenta bancaria? [01:30]. Al darle acceso al browser, le das acceso a mucho más de lo que crees.

No le des acceso a todo el browser.
No le des acceso a las cookies.
No le des acceso a tu local storage.
No le des acceso a lo que escribes en el navegador.

Aunque confíes en el proveedor, como OpenAI, tienes que aplicar la lógica [01:45]. La información queda en memoria, y en cualquier momento das clic a una conexión, instalas un MCP o un skill, y ese skill puede atacarte. El resultado es siempre el mismo: cuenta hackeada, dinero perdido, correo y redes sociales comprometidos, todo por instalar una extensión que nunca debiste instalar.

¿Por qué es peligrosa la extensión de ChatGPT para el navegador? Porque puede acceder a cookies, local storage y todo lo que escribes. Si luego instalas un skill malicioso, esa información puede ser robada y usarse para hackear tus cuentas.

Cómo crear un mini firewall con instrucciones personalizadas

La forma más adecuada de protegerte es la que ya estás haciendo: capacitarte y conocer los patrones de ataque [02:30]. Pero hay una herramienta extra. ChatGPT, Claude y Gemini te permiten crear un prompt que funciona como un mini firewall para proteger tu ecosistema.

En ChatGPT lo encuentras así: ve a Settings, luego a Personalización, y ahí busca la sección de instrucciones personalizadas o Custom Instructions [03:10]. Es un campo de texto que da a ChatGPT contexto extra para todos tus chats.

Lo interesante es cómo encaja esto en el concepto de harness: el modelo está al fondo, y cuando le escribes algo, tu mensaje pasa primero por esta instrucción antes de llegar al modelo [03:50]. Funciona casi como un proxy o un firewall.

Qué debe incluir tu prompt de seguridad

El prompt que se comparte en los recursos establece una autorización obligatoria para acciones externas [04:10]. La regla base es clara: nunca ejecutar una acción que publique, envíe, comparta o modifique información fuera de ChatGPT sin pedir autorización expresa.

Esto incluye enviar correos, mensajes, posts, comentarios, subir o compartir archivos, cambiar permisos o ejecutar cualquier acción con un efecto externo irreversible. Lo que sí puede hacer sin permiso es preparar borradores, previsualizaciones o propuestas.

Antes de ejecutar una acción externa, el modelo debe cumplir cuatro pasos:

Mostrarte exactamente qué se va a enviar, publicar o modificar.
Indicarte en qué aplicación o servicio ocurrirá.
Preguntarte explícitamente si autorizas esa acción.
No ejecutar nada hasta recibir una respuesta afirmativa explícita.

¿Cómo evito que mi IA ejecute acciones sin mi permiso? Agrega una instrucción personalizada que obligue al modelo a pedir autorización antes de enviar, publicar o modificar algo externo. Debe mostrarte qué hará, dónde y esperar tu confirmación.

Un consejo final sobre este tipo de reglas: no entres en pánico ni escribas 500 líneas de reglas [05:30]. Si lo haces, vas a confundir al modelo y a dispersar su foco. Sé conciso, con reglas específicas y directas, como esos cuatro ítems. Esa es una forma muy efectiva de prevenir los hackeos que vimos a lo largo del curso.

¿Ya revisaste qué permisos le diste a tus extensiones de IA? Cuéntame en los comentarios qué reglas agregarías a tu propio mini firewall.

Daniel Medina Vindigni

Hace 15 horas

Recurso:

## Autorización obligatoria para acciones externas

Nunca ejecutes una acción que publique, envíe, comparta, modifique o haga accesible información fuera de ChatGPT sin solicitar primero mi autorización expresa.

Esto incluye, entre otras acciones:

* Enviar correos electrónicos, mensajes o respuestas.

* Publicar posts, comentarios o contenido en sitios web o redes sociales.

* Subir archivos a servicios externos.

* Compartir archivos, documentos o enlaces.

* Cambiar permisos de acceso o visibilidad.

* Crear o modificar contenido en aplicaciones conectadas.

* Enviar formularios o información a terceros.

* Ejecutar cualquier acción que produzca un efecto externo irreversible o visible para otras personas.

Puedes preparar borradores, previsualizaciones y propuestas sin solicitar autorización.

Antes de ejecutar la acción externa:

1. Muéstrame exactamente qué se va a enviar, publicar o modificar.

2. Indícame en qué aplicación o servicio ocurrirá.

3. Pregunta explícitamente: **"¿Autorizas que ejecute esta acción?"**

4. No ejecutes la acción hasta recibir una respuesta afirmativa explícita después de esa pregunta.

No interpretes una solicitud inicial como "envía este correo" o "publica esto" como autorización final. Siempre debe existir un segundo paso de confirmación inmediatamente antes de ejecutar la acción.

Mapa de riesgos y herramientas de IA

Un token robado, tres horas, empresa entera

Sanitizar datos antes de compartirlos con un LLM

Por qué ChatGPT, Claude y Gemini responden distinto

Prompt injection: cómo un documento engaña a tu IA

Por qué validar los outputs de la IA es obligatorio

Mínimo privilegio: el riesgo oculto de los plugins IA

Mini firewall con instrucciones personalizadas en ChatGPT

Usa la IA a tu favor: audita la seguridad de la IA con prompts

¿Cuáles son los datos que más ponen en riesgo profesionistas en LATAM?

Mini firewall con instrucciones personalizadas en ChatGPT

Progreso del curso

Mapa de riesgos y herramientas de IA

Recursos

Recursos