Cómo saber si una IA me da información confiable

Identificar la informaciones falsas para evitar problemas de tus Datos.
LLM:
1.- tiene bases de datos por tiempos especificos.
2.- Convalidar de Informacion Vigentes almomento del diseño de ChapGPT
3.- Falta de explicabilidad
4.- No realizan Operaciones Matematicas
5.- Son mas rapidos con problemas con Logica que los humanos.
6.- Sesgos aproblemas ambiguos o implicitos.
7.- OUTPUT por el marco de referencia que tu le das en el PROMT , toman tu postura.
8.- Alto nivel de respuesta.
9.- Recomendacion Validar Fact Cheking
10.- Mantenerte ACTUALIZADO en las mejoras de AI
11.- ESTANDARES ETICOS

Respuesta alucinante: respuesta que parece creíble, pero carece de sentido en el contexto de la conversación.

Motivos de alucinación en una IA:

• Falta de entrenamiento (de datos específicos).
• Poco entendimiento del contexto (necesita recibir uno).
• Limitación del uso por desconocer el funcionamiento interno.
• No realiza un proceso matemático en tiempo real (se basa en el entrenamiento que recibió de las bases de datos).
• Sesgos a problemas ambiguos o implícitos.

Buenas prácticas para evitar sesgos en procesos financieros:

1. Valida con un fact cheking la información del modelo de IA:

•    Evita confiar ciegamente y verifica con fuentes confiables.
  

1. Mantente informado y actualizado:

•   Interactúa con diferentes sistemas para medir la confiabilidad del output que recibes.
  

1. Enriquece las ideas de AI con fuentes expertas:

•   Obtener la información más reciente sobre el tema.
  

1. Sigue los estándares éticos que establece la organización:

•   Dar prioridad a la privacidad, protección de datos e información financiera confidencial.
  

Estrategia a nivel equipo o empresa

1. Crea políticas para el uso de IA:

•   Garantizar que los miembros del equipo sean los responsables directos de tomar decisiones evitando que la IA las tome por ellos.
  

1. Capacita a tu equipo en el uso de AI:

•   Mantenerse informado, promover una cultura de uso responsable de AI y realizar conversaciones complejas para llegar a acuerdos.
  

1. Establece un equipo de compliance AI:

•   Tener en cuenta los cambios regulatorios y políticas de uso. Así como la realización de auditorías y mantener la documentación transparente para demostrar el cumplimiento.
  

1. Promueve una cultura de “Human in the loop”:

•   La IA se usa como ayuda y no como un sustituto de los seres humanos. Es necesario tener un equipo capacitado para garantizar con la supervisión humana y evitar dependencia siega de las salidas generadas por AI.
  

Requerimientos para implementar estrategia a nivel de equipo - empresa.

1. Crear políticas para el uso de IA: reglas y políticas claras y éticas.
2. Capacita a tu equipo en el uso de IA.
3. Establece un equipo de compliance IA: Confiabilidad de datos.
4. Promueve una cultura como ayuda de la IA y no como una sustitución del ser humano.

Recomendaciones:

1. Valida con un fact checking toda la información proporcionada por una IA.
2. Mantente informado y actualizado sobre IA
3. Enriquece las ideas de IA con fuentes expertas y propios conocimientos sobre el tema.
4. Sigue las reglas y estándares éticos de tu organización.

Una buena práctica en donde trabajo es que cada vez que ingresas a alguna página que tenga opciones de IA generativa (el mismo chatGPT pero también otras plataformas como Notion) te sale automáticamente un aviso de no compartir información confidencial cuando utilices estas herramientas.
Me pareció interesante porque cada vez que requiero el uso de una ya estoy más conciente de no compartir nada delicado.

Como saber su una IA esta Alucinando

Técnicas para minimizar las alucinaciones de la IA

LLM reproducen muchos sesgos que los humanos también tenemos. Se ve fuertemente influenciados por nuestra postura.

Si quieres implementar una estrategia a nivel equipo o empresa.

1. Crear políticas para el uso de IA. Reglas claras para el uso de la tecnología.
2. Tu equipo debe ser los responsables directos de la toma de decisiones.
3. Define los mecanismos de revisión periódica del desempeño de los sistemas de IA.
4. Capacita a tu equipo el en uso de IA.
5. Establece un equipo de compliance IA para garantizar el uso ético y responsabilidad del sistema.
6. Certifica que el uso de IA apoya a la sociedad con la calidad y confiabilidad de los datos que uses.
7. Ten en cuenta los cambios regulatorios y políticas de uso.
8. Realiza auditorias y mantén la documentación transparente para garantizar el complimiento.
9. Promueve una cultura de “Human in the loop” lo que significa que la IA se utiliza como ayuda en vez de como sustituto. Para evitar una dependencia ciega de las respuestas generadas por IA.

Para evitar caer en errores:

1. Validar con un fact checking la información del modelo. Nunca confíes ciegamente en sus recomendaciones.
2. Mantente informado sobre los últimos avances de IA
3. Enriquece las ideas de de IA con fuentes expertas y tus propios conocimientos sobre el temas.
4. Sigue las reglas y estándares éticos de tu organización.

los modelos de lenguaje grandes (LLM) pueden tender a adoptar la postura del usuario, según el marco de referencia que le den en el prompt. Esto se debe a que los LLM están entrenados en un conjunto de datos masivo de texto y código, que refleja las opiniones y creencias de los humanos que lo crearon.

Por ejemplo, si un usuario le da a un LLM un prompt que sugiere que la pena de muerte es un castigo moralmente correcto, el LLM es más probable que genere texto que apoye la pena de muerte. Esto se debe a que el LLM ha aprendido a asociar la pena de muerte con la moralidad en el conjunto de datos de entrenamiento.

Si entra basura vas a recibir basura.

Esto me recuerda el cuento del traje invisible de rey. Sobre un rey que confió ciegamente en lo que le decían sus consejeros de un tela especial que solo podían ver los inteligentes. El rey confiado desfilo por las calles del reino, todos lo celebraron excepto un niño que se burlo del rey, y el rey ante tal vergüenza adopto al niño como consejero para que le dijera si es que esta a punto de cometer una tontearía.

Yo lo relaciono por el tema de que ChatGPT siempre esta seguro de lo que dice y muchas veces te dice lo que quieres oír.

los modelos de lenguaje grandes (LLM) pueden tender a adoptar la postura del usuario, según el marco de referencia que le den en el prompt. Esto se debe a que los LLM están entrenados en un conjunto de datos masivo de texto y código, que refleja las opiniones y creencias de los humanos que lo crearon.

• Sesgo de género: Los LLM pueden sesgarse a favor o en contra de un género en particular. Por ejemplo, un LLM entrenado en un conjunto de datos de texto y código que está dominado por hombres puede ser más propenso a generar texto que es sexista o discriminatorio contra las mujeres.
• Sesgo racial: Los LLM pueden sesgarse a favor o en contra de una raza en particular. Por ejemplo, un LLM entrenado en un conjunto de datos de texto y código que está dominado por blancos puede ser más propenso a generar texto que es racista o discriminatorio contra las personas de color.
• Sesgo de clase: Los LLM pueden sesgarse a favor o en contra de una clase social en particular. Por ejemplo, un LLM entrenado en un conjunto de datos de texto y código que está dominado por personas de clase media puede ser más propenso a generar texto que es clasista o discriminatorio contra las personas de clase baja.

Para prever estos sesgos se recomienda en un curos de Coursera Auditar las IA’s

Para hacer operaciones matemáticas con ChatGPT puedes utilizar pluggins

Los LLM pueden ser muy precisos y eficientes en la resolución de problemas con lógica. Sin embargo, también pueden reproducir muchos sesgos que los humanos poseemos.

ChatGPT es una herramienta poderosa para explicar y resolver problemas matemáticos. Sin embargo, no es perfecto. Una de sus limitaciones es que no puede resolver operaciones matemáticas por sí mismo. Esto puede ser una limitación para los usuarios que necesitan que ChatGPT resuelva operaciones matemáticas de manera rápida y precisa.

Excel y otras herramientas de hoja de cálculo son una buena opción para realizar procesos matemáticos. Estas herramientas son precisas y eficientes, y ofrecen una amplia gama de funciones y capacidades.

ChatGPT si es bueno para explicar un problema matemático y hacer resolver el problema con lógica, cuando se trata de procesos matemáticos es mejor seguir usando Excel u otra herramienta.

ChatGPT no tiene una calculadora interna, cuando le pides una operación matemática, reproduce una respuesta en internet en vez de resolver el problema en tiempo real.

Sobre el como la IA puede entender un idioma tambien se expresa en el curso de Curso de Inglés para el Uso de Herramientas de Inteligencia Artificial en donde se explica que puedes tener una caja donde esta adentro un humano con el mejor diccionario al Chino. Tu le escribe un texto de un lado de la caja y del otro lado te lo devuelve la traducción. Tu como no sabes mucho del idioma puedes confiar en el, pero la pregunta interesante es ¿En verdad entiende el idioma o solo te muestra la traducción palabra por palabra?

Eso lo comporte con ChatGPT cuando le pedí una frase para una prenda de vestir.
ChatGPT dijo:

• You use a coat.

Lo que es incorrecto porque cuando hablamos de prendas de vestir lo correcto es:

• You wear a coat.

Eso lo se porque tome los cursos de Platzi y Duolingo, por eso detecte el error.

Para saber más de como usar ChatGPT para practicar tu ingles. puedes ver mi Tutorial

Falta de explicabilidad: ChatGPT no tiene la capacidad de resolver operaciones matemáticas por sí mismo. Cuando se le pide que realice una operación matemática, no la resuelve en tiempo real, sino que busca la respuesta en internet.

Los LLM son muy buenos para entender el contexto de los prompts que escribes, pero a menudo necesitan que seas más específico para generar los resultados que necesitas. Cuanto más los uses, sobre el mismo tema, mejor entenderán el contexto basándose en la información que les has dado.

Las alucinaciones también se pueden ver en el curso de Prompt Engieneering. Las alucinaciones se da porque las IA no tiene un porcentaje de que tan seguro esta de una respuesta.

Los modelos de lenguaje grandes (LLM) almacenan información en su base de datos durante un tiempo limitado. Si las respuestas que busca dependen de que la información sea actual, existe un alto riesgo de error.

Resumen

Generado por ChatGPT a partir de los aportes de otros estudiantes

Identificar Información Falsa y Mantener la Confianza en Datos

• LLM (Large Language Models) tienen bases de datos por periodos específicos.
• Convalidar información vigente al diseño de ChatGPT.
• Falta de explicabilidad en resultados de IA.
• No realizan operaciones matemáticas en tiempo real.
• Velocidad en resolver problemas lógicos.
• Sesgos en problemas ambiguos o implícitos.
• OUTPUT depende del marco de referencia.
• Respuestas con alto nivel de respuesta.
• Validar con fact-checking.
• Mantenerse actualizado en mejoras de IA.
• Observar estándares éticos.

Motivos y Estrategias para Evitar Alucinaciones en IA

• Alucinaciones: respuestas creíbles pero incorrectas.
• Falta de entrenamiento específico.
• Limitación de contexto y entendimiento.
• Complejidad en explicabilidad interna.

Buenas Prácticas para Evitar Sesgos en Procesos Financieros

1. Validar información con fact-checking.
2. Mantenerse informado y actualizado.
3. Enriqucer con fuentes expertas.
4. Seguir estándares éticos.

Estrategias a Nivel de Equipo o Empresa

1. Crear políticas para el uso de IA.
2. Capacitar al equipo en uso responsable.
3. Establecer equipo de compliance IA.
4. Fomentar “Human in the Loop” para supervisión.

Identificar Alucinaciones y Asegurar Información Fiable

• IA puede alucinar: respuestas creíbles pero incorrectas.
• Factores: falta de entrenamiento, contexto y explicabilidad.

Recomendaciones para Garantizar Confianza en IA

1. Validar con fact-checking.
2. Mantenerse actualizado y bien informado.
3. Complementar con conocimiento experto.
4. Cumplir reglas y estándares éticos.

Estrategias Organizacionales para Uso Seguro de IA

1. Establecer políticas claras para uso de IA.
2. Capacitar al equipo en uso responsable de IA.
3. Crear equipo de compliance para asegurar confiabilidad.
4. Promover “Human in the Loop” para supervisión y garantía.

Si necesitas un proceso matemático es mejor utilizar Excel

Las Alucinaciones en ChatGPT

ChatGPT y otros LLM son propensos a lo que se conocen como alucinaciones.

Definitivamente debemos establecer un reglamento y politicas de uso interno con los LLM, es necesario normar la seguridad de datos y de ser posible mantener los datos de forma interna. Gracias por los consejos.

La seguridad de la información es vital para el buen desempeño de estos modelos de IA

Factores que llevan a una IA a alucinar: 1) Falta entrenamiento de datos específicos del campo de finanzas. 2) Poco nivel de entendimiento del contexto. Necesitan de aclaración y especificación para que puedan entender el contexto. 3) Falta de explicabilidad. Complejidad de entender el funcionamiento interno.

Decimos que la IA está alucinando cuando te da una respuesta que suena creíble pero es de hecho incorrectas o carece sentido.

LLM: Large languajes models

Los modelos de IA no son perfectos. Es indispensable identificar información potencialmente falsa.