Este video es excelente para conocer un poco más de Bayes Theorem: https://www.youtube.com/watch?v=R13BD8qKeTg
Incertidumbre y probabilidad
¿Qué es la probabilidad?
Probabilidad en machine learning
Fundamentos de probabilidad
Tipos de probabilidad
Ejemplos de cálculo de probabilidad
Ejemplos avanzados con probabilidad
Distribuciones de probabilidad
¿Qué es una distribución?
Distribuciones discretas
Usando la distribución binomial
Distribuciones continuas
¿Cómo estimar una distribución?
MLE (Maximum Likelihood Estimation)
¿Qué es MLE?
MLE en machine learning
Regresión logística
Aplicación de regresión logística
Inferencia bayesiana
Teorema de Bayes
Bayes en machine learning
Retos finales
You don't have access to this class
Keep learning! Join and start boosting your career
If you already have an account,
Resources
What is Bayes' theorem?
Bayes' theorem is a fundamental pillar in Bayesian statistics, which emerges as a different interpretation of the probabilities associated with random events. This perspective is opposed to the frequentist view and allows one to adjust initial beliefs in the light of new evidence. Formulated as a mathematical expression, Bayes' theorem combines four key elements:
- A priori (prior) probabilities: Denote the initial beliefs about the occurrence of an event.
- Evidence: Represents new information obtained through observations or experiments.
- Likelihood: Indicates the probability of observing that evidence given the initial belief.
- Posterior probability: Calculated by updating the a priori belief using the available evidence.
How to apply Bayes' theorem in real problems?
To better understand the use of Bayes' theorem, let's consider a practical example: breast cancer screening by mammography. It is common to mistakenly think that a device sensitivity of 80% directly implies an 80% chance of having cancer if the test is positive. However, with Bayes, we can perform a deeper analysis:
-
Problem Definition:
- A woman over 40 undergoes a mammogram.
- The sensitivity of the test is 80%, i.e., if she has cancer, the probability of a positive result is 0.8.
-
Initial Data:
- A priori probability of having cancer (p(Y=1)): Based on population data, 0.0004 (0.04%).
- False Positives: The probability of a positive result in women without cancer is 10% (0.1).
-
Application of Bayes' Rule:
The posterior probability, the one we are really interested in, calculated with these data, informs us that, although a positive result is a warning sign, the probability that it actually involves cancer is only 3.1%.
# Example calculation in Python, if desired:from sympy import Symbol, solve
# Defining probabilitiesP_Y1 = 0.0004 # A priori probability of having cancerP_X_given_Y1 = 0.8 # Sensitivity of the testP_X_given_Y0 = 0.1 # False positives
# Probability of not having cancerP_Y0 = 1 - P_Y1
# EvidenceP_X = P_X_given_Y1*P_Y1 + P_X_given_Y0*P_Y0
# Posterior ProbabilityP_Y1_given_X = (P_X_given_Y1 * P_Y1) / P_XP_Y1_given_X.evalf()What is the impact of Bayes' theorem on the interpretation of results?
The mammography example illustrates a common error in interpreting probabilities without considering the full context, leading to fallacies by ignoring a priori probabilities. Applying Bayes' theorem provides more accurate insight, especially when dealing with sensitive topics such as health. The implications are wide-ranging:
- Clarity in medical decisions: it helps not to make decisions based on misinterpretation of results.
- Improvement in machine learning algorithms: The Bayesian approach is fundamental to adjust models and make predictions based on new evidence.
This knowledge not only corrects common errors when interpreting scientific evidence, but is also crucial in the development of technologies that rely on continuous and accurate data updates. We encourage students to delve deeper into this theorem and explore its practical applications, a path that enriches both critical thinking and technical competence.
Contributions 56
Questions 4
Sort by:
Teorema de Bayes
Este teorema permite actualizar nuestras probabilidades a medida que acumulamos evidencia.
Dicta que la probabilidad a posteriori es igual a la verosimilitud por la probabilidad a priori sobre la probabilidad de la evidencia, matemáticamente:
P(A|B) = P(B|A)P(A)/P(B)
Es importante tambien tener claro el tema de los tipos de errores, matriz de confusión y demas métricas breve intro
Investigando encontré que el 39.5% de las personas recibirán un diagnostico positivo de cancer en algún momento de sus vidas, por lo que sustituyendo el valor que se había puesto de 0.004 por 0.395, el resultado calculado fue que el 83.9% de los casos que dan positivo a una prueba, realizada con un aparato con las características que propone el ejercicio, serán realmente pacientes con cancer.
Decidí añadir el cálculo de qué probabilidad hay de tener cáncer después de recibir un test negativo.
Aparece un suceso interesante, y es que la probabilidad es de sólo 0.7%, pero sigue siendo más alta que la de tener cáncer sin ninguna otra información.
Teorema de Bayes
El teorema de Bayes refleja una filosofia de interpretacion muy diferente sobre las probabilidades que obtenemos de sucesos aleatorios.
Esta compuesta de 4 elementos:
- Probabilidades a Priori: probabilidad que refleja la creencia inicial que se tiene de sucesos o creencias de una variable aleatoria. Tal creencia inicial no refleja necesariamente la realidad
- Evidencia: probabilidad obtenida de la evidencia dada por los experimentos de la vida real. Modifica las probabilidades iniciales.
- Verosimilitud: probabilidad de las evidencias condicionadas por las probabilidades iniciales de las creencias sobre los eventos de una variable aleatoria. Probabilidad de obtener esa evidencia dada una creencia inicial
- Probabilidad Posteriori: probabilidad de observar un evento A dada la evidencia B
El Teorema de Bayes permite actualizar o modificar la creencia inicial sobre las probabilidades de un evento aleatorio. Esto corrige el problema de la Escuela Frecuentista en el que las probabilidades no coinciden con las probabilidades teoricas
Este teorema permite actualizar nuestras probabilidades a medida que acumulamos evidencia. Dicta que la probabilidad a posteriori es igual a la verosimilitud por la probabilidad a priori sobre la probabilidad de la evidencia,
Soy sólo yo o alguien más se dió cuenta de que lado de la Fuerza está Francisco ? 😃
Les recomiendo este video para que profundicen un poco sobre este teorema. Esta muy bien explicado
- pequeño truco: “sensibilidad de…”
<https://www.youtube.com/watch?v=CP4ToX5Tyvw>
por si se pierde en los comentarios de la gente quejandose en lugar de buscar solucion, les comparto el link que me ayudo en 3 minutos entender el teorema de bayes.
A mi parece que ambas teorías se complementan entre si.
Aparato de medición
Entonces quiere decir que si me hago un examen y me da que tengo cáncer tengo el 80% que tenga cáncer P(y=1|x=1)=0,8?
No , el aparato no me dice esto, solo dice que si uno de verdad tiene cáncer el aparato tiene un 80% de haber calculado bien P(x=1|y=1)=0,8.
Hay algo raro en estas cuentas, más allá de que los cálculos estén bien hechos.
3,1% la probabilidad de que tengas cáncer si la prueba da positivo es del 3%. La probabilidad de que tengas un cáncer si un estudio como una mamografía es positivo, debería de ser muy alta, mucho más que la propia verosimilitud.
Si alguien esta tomando este curso, tengo algo que agregar la P(X=1 | Y=0) = 0.1, creo que no es la correcta - no serial el espejo de sensitividad es decir de 0.2
Teorema de Bayes mostrado por 3Blue1Brown, de lo mejor que hay junto con el de Veritasium
interpretacion del teorema
si se dan cuenta ya tenías una probabilidad de que tuvieras cáncer antes de hacerte un examen, al hacerte el examen solo actualizaste esa probabilidad. De esto trata el aplicar el teorema de bayes, osea actualizar tus probabilidades de que suceda un evento en el moemnto que tengas informacion nueva sobre el evento
Mediante averiguar un poco de historia ya el concepto del Teorema de Bayes sale sólo:
"El teorema de Bayes debe su nombre al Reverendo Thomas Bayes (1701–1761), quien fue el primero en mostrar cómo emplear nuevas certezas para trastrocar creencias"
A mí me ayudó a afianzar el concepto … espero les sirva también.
-
Basado en un video que vi, el cual recomiendo que lo vean para que entiendan el apunte como tal, este explica la forma visual del teorema de bayes aqui dejo el video
-
Y me base en un ejemplo que vi en los apuntes que tambien recomiendo mucho sobre probabilidad de una estudiante de platzi, aqui dejo el link
Test Medico: Mamografía (sensibilidad del %80)
Hipotesis: De que la persona tenga cáncer (y)
Evidencia: Examen salga positivo (x)
- p( y = 1 ) = 0.004
- p( y = 0 ) = 0.996
- p( x = 1 | y = 1) = 0.8
- p( x = 1| y = 0 ) = 0.1
les recomiendo que vean la pagina https://matemovil.com/
explican a detalle estadística para los que necesiten reforzar.
La mejor expliación grafica de bayes :
https://www.youtube.com/watch?v=Fi6G48j0IZ4
que super ejemplo de la clase, me encanto el contraste
El Teorema de Bayes es clave en la medicina moderna. Permite calcular la probabilidad de que un paciente tenga una enfermedad basándose en resultados de pruebas. Por ejemplo, una prueba con 90% de precisión y un 5% de falsos positivos podría dar un resultado positivo, pero con el Teorema de Bayes, la probabilidad real de tener la enfermedad podría ser tan solo del 15.1%. Esto muestra la importancia de no depender solo de un resultado positivo, sino también de considerar otros factores. ¡Una herramienta crucial para diagnósticos más precisos!
creo que queda de sobra mencionar que hay que tener cuidado con los datos del video y no deben usarse para interpretar información de la vida real
la mastografía es un ejemplo y no aplica para estos cálculos ya que se reporta dicho estudio en grados o categorías, cada uno con distintas probabilidades para el diagnóstico de cáncer de mama
que por cierto, me gustaría que en algún momento se incluyeran las relaciones de verosimilitud (likelihood ratios) para el cálculo de probabilidad post test
Es interesante el uso del teorema de bayes. Este nos permitira trabajar con los datos sin ningun problema.
Asta lo que es facil de comprender, como es el teorema de Bayes, lo vuelve algo complicado, realmente se esfuerza en confundir al estudiante, es una maravilla.
Para los que quieran profundizar en el Teorema de Bayes: https://youtu.be/nY7NeaA0lFc?si=0SvAIqJ2oHGgwqIQ
Mis apuntes tienen más enlaces recomendados en Youtube que contenido de la clase ._. jeje
Este video da una explicación intuitiva del teorema de bayes:
Excelente explicación de la fórmula
jajajajajajaj
De ahí podemos inferir que la dichosa máquina desinforma de más que lo que informa sobre el estado del paciente.
Excelente explicación, ya tenía tiempo que no veía el teorema de Bayes, me sirvió para desempolvar.
Este video es muy bueno y ademas trae una relfexion…
https://www.youtube.com/watch?v=D7KKlC0LOyw
El Teorema de Bayes
- Es un principio estadístico que describe cómo la probabilidad de un evento cambia a medida que se recolecta más información. Es una herramienta fundamental en la inferencia estadística, ya que permite calcular la probabilidad de un evento dado otro evento. El teorema se formula matemáticamente como:
P(A|B) = P(B|A) * P(A) / P(B)
Donde P(A|B)
-
Es la probabilidad de que ocurra el evento A dado que ocurre el evento B, P(B|A) es la probabilidad de que ocurra el evento B dado que ocurre el evento A, P(A) es la probabilidad de que ocurra el evento A y P(B) es la probabilidad de que ocurra el evento B.
-
El teorema de Bayes se utiliza en una variedad de campos, incluyendo la medicina, la inteligencia artificial, el aprendizaje automático, la inferencia estadística y la ciencia de datos. Por ejemplo, se utiliza para calcular la probabilidad de un diagnóstico dado un conjunto de síntomas, o la probabilidad de que un correo electrónico sea spam dado su contenido.
-
Es importante mencionar que el teorema de Bayes se basa en la suposición de independencia de los eventos, es decir, que el hecho de que un evento ocurra no afecta la probabilidad de que otro evento ocurra. En algunos casos esta suposición no se cumple y se deben tomar medidas adicionales para manejar esta dependencia.
Ejemplo donde se utiliza el T. de Bayes
Suponga una mujer de 40 años que tiene que hacer un test medico conocido como Mamografia. El tecnico indica que el dispositivo de deteccion del cancer tiene una sensitividad del 80%. En terminos probabilisticos quiere decir que: sabiendo que el paciente tiene cancer, cual es la probabilidad de que dispositivo de positivo
P(x=1, y=1) = 80% = 0.8
donde
y --> indica si tiene o no tiene cancer. y = 1:cancer, y = 0 no cancer
x --> examen de mamografia positivo o negativo. x = 1 positivo, x = 0 negativo
La sensitividad es un parametro que se obtiene a partir de resultados que ya estaban verificados, es decir, para verificar la eficiencia del aparato toman un conjunto de pacientes que ya tienen cancer y usan el aparato para ver que tan efectivo es al detectar el cancer (de esa muestra el aparato solo fue capaza detectar el 80%)
Tendemos a pensar que el 80% es la probabilidad de tener cancer lo cual es una falacia: se ignora el conocimiento previo de la creencia inicial de lo que realmente es tener cancer. La probabilidad de tener cancer, dejando de lado condiciones previas (los dispositivos deteccion) es distinta.
Siguiendo con el ejercicio, la probabilidad prior (creencia inicial) de que un paciente tenga cancer viene dado por:
P(y=1) = 0.004
Los falsos positivos son las probabilidades de que el aparato haya arrojado resultados erroneos (Probabilidad de que el conjunto de paciente no tengan cancer y den positivo por el aparato). Viene dada por:
P(x=1 | y=0) = 0.1
Nos falta calcular la evidencia la cual es una Probabilidad Marginal y se obtiene de la sumatoria de las probabilidades conjuntas de x sobre todos los posibles valores de y:
P(x) = Sumatoria(P(x,y)) sobre todas las y
Y ademas sabemos que la probabilidad conjunta es igual al producto de obtener x dado el conocimiento previo de ‘y’ por la probabilidad de que suceda ‘y’
P(x) = Sumatoria(P(x|y)P(y)) sobre todas las y
Esto se representa en nuestro caso como la probabilidad de que el examen de positivo P(x=1) es la suma de la probabilidad de que el examen de positivo sabiendo o no que el paciente tenga cancer P(x=1 | y) por la probabilidad de que el paciente tenga o no cancer P(y)
P(x=1) = Sumatoria(P(x = 1 | y)P(y)) sobre todas las y
Como la variable ‘y’ tiene dos estados posibles entonces
P(x=1) = P(x=1 | y=1)P(y=1) + P(x=1 | y=0)P(x=0)
= 0.8 * 0.004 + 0.1 * 0.996
= 0.1028
En lo que estamos interesados en la probabilidad posterior: qué tan probable es que dado el conocimiento de que el examen salio positivo el paciente tenga cancer. La probabilidad posterior se calcula como sigue:
P(y=1|x=1) = P(x=1 | y=1)P(y=1) / P(x=1)
= 0.8 * 0.004 / 0.1028
= 0.031 = 3.1%
Lo que quiere decir que si el examen da positivo con el dispositivo, la probabilidad de que tenga cancer es de 3,1%
Cual es la probabilidad de que yo observe los elementos A, dada la evidencia B es igual a la probabilidad a posteriori
Quizas conozcan a este muchacho, tiene un video que nos puede ayudar a complementar nuestro entendimiento del teorema de Bayes:
https://www.youtube.com/watch?v=GoSbdo-lIIA
les recomiendo este video para entenderlo desde una perspectiva mas geométrica e intuitiva 😉
Les dejo un excelente video en español donde explican muy bien el teorema de Bayes.
video
Considero que este apartado el profesor hizo parecer el Teorema de Bayes un poco más complicado de lo que es, y creo que es debido a la extracción de los datos. Aun así, es bastante gratificante repasar todo esto que aprendí en la universidad, pero eché de menos el diagrama para representar el teorema de Bayes.
Video explicativo del teorema de Bayes https://www.youtube.com/watch?v=D7KKlC0LOyw
Les dejo mis apuntes
He tomado dos cursos de estadistica (universidad y colegio) y nunca me explicaron que los frecuentistas y bayesianos son paradigmas distintos. Excelente explicacion
El calculo de la evidencia es 0.1028 (0.0996 + 0.0032)
el teorema de bayes mediante la acumulación de evidencia, permite actualizar las probabilidades.
La probabilidad que se ve que se escribe P(B | A) se le llama likelihood que se traduce como verosimilitud , y esto es la probabilidad de observar tambien un evento llamado B sabiendo que tambien ha sucedido otro evento llamado A.
https://www.youtube.com/watch?v=xfz7Gfbd2Bg para reforzar el teorema de Bayes
Buenas noches.
Para afianzar más el concepto de la clase y demás temas de machine learning, recomiendo el libro de Pattern Recognition and Machine Learning de Christopher M. Bishop. Pueden verlo en este enlace.
Saludos cordiales.
Want to see more contributions, questions and answers from the community?