Fundamentos de IA
¿Qué es inteligencia artificial?
Inteligencia artificial en nuestro día a día
¿Qué puede y qué NO puede hacer IA?
Conceptos y aplicaciones de IA
Data science y sub usos de IA
¿Cómo funciona el machine learning?
Casos de éxito y áreas de oportunidad con IA en la industria y empresas
Quiz: Fundamentos de IA
Deep learning: IA a profundidad
¿Qué es y cómo funciona el deep learning?
¿Cuándo utilizar y cuándo NO deep learning?
Quiz: Deep learning: IA a profundidad
Inteligencia artificial aplicada
Visión artificial
Procesamiento de Lenguaje natural: PLN
Aprendizaje por refuerzo
Inteligencia artificial generativa: ChatGPT y Dall-E
Quiz: Inteligencia artificial aplicada
Machine learning Open-source
Hugging Face 101: modelos
Hugging Face 101: Spaces
Quiz: Machine learning Open-source
Importancia de las matemáticas para desarrollar IA
¿Por qué es importante el álgebra lineal para IA?
¿Por qué es importante el cálculo para IA?
¿Por qué es importante la estadística y probabilidad para IA?
Quiz: Importancia de las matemáticas para desarrollar IA
Ética y uso de datos en IA
Ética en inteligencia artificial y datos
Dilemas éticos en inteligencia artificial
Data4Good
Quiz: Ética y uso de datos en IA
El futuro con IA
¿Qué nos depara el futuro con IA?
Reflexiones y cierre
No tienes acceso a esta clase
¡Continúa aprendiendo! Únete y comienza a potenciar tu carrera
Aportes 112
Preguntas 2
La Inteligencia Artificial (IA) presenta varios dilemas éticos relacionados con el uso de datos, entre los que se destacan:
Privacidad y seguridad de los datos.
Responsabilidad y transparencia.
Derechos de autor y propiedad intelectual.
Consentimiento informado.
Sesgo de datos
La inteligencia artificial (IA) se ha convertido en una herramienta poderosa y ampliamente utilizada en diversas industrias y campos, desde la salud hasta la seguridad nacional. Sin embargo, a medida que la IA se vuelve más sofisticada y omnipresente, surgen una serie de dilemas éticos que deben ser abordados. En este artículo, exploraremos algunos de los dilemas éticos más comunes en la IA.
Los algoritmos de IA se entrenan con datos, y si esos datos contienen sesgos y discriminación, la IA también reflejará estos prejuicios. Por ejemplo, si un algoritmo de IA se entrena con datos históricos que contienen prejuicios raciales o de género, el algoritmo también puede mostrar estos prejuicios en sus decisiones. Esto puede llevar a decisiones injustas y discriminación, lo que puede ser perjudicial para los individuos y las comunidades afectadas.
La IA a menudo se utiliza para recopilar, almacenar y analizar grandes cantidades de datos personales. Si estos datos no se manejan adecuadamente, pueden poner en peligro la privacidad y seguridad de las personas. La falta de medidas de seguridad adecuadas o la recopilación de datos sin el consentimiento informado de las personas pueden conducir a la violación de los derechos de privacidad.
A medida que la IA se vuelve más sofisticada, se vuelve más difícil rastrear cómo se toman las decisiones y quién es responsable de esas decisiones. La falta de transparencia en el proceso de toma de decisiones puede llevar a la falta de responsabilidad, lo que puede ser peligroso para los individuos y la sociedad en general.
La IA también puede tener un impacto significativo en el empleo, especialmente en aquellos trabajos que son susceptibles a la automatización. Si bien la automatización puede aumentar la eficiencia y reducir los costos, también puede llevar a la pérdida de empleos y a la creación de una brecha económica. Esto puede tener un impacto significativo en la sociedad, especialmente en aquellos que ya enfrentan desigualdades económicas y sociales.
La IA es una herramienta poderosa que puede tener un impacto significativo en la sociedad. Sin embargo, también puede plantear una serie de dilemas éticos que deben abordarse. La eliminación de los sesgos y la discriminación, la protección de la privacidad y la seguridad de los datos personales, la transparencia y la responsabilidad en la toma de decisiones, y el impacto en el empleo y la economía son solo algunos de los dilemas éticos que deben considerarse al implementar la IA. Es importante abordar estos dilemas éticos de manera proactiva y responsable para asegurar que la IA se use de manera justa y ética.
Youtube + IA
Un ejemplo que no deja de molestarme cada vez mas es youtube. He encontrado evidencia de ingenieria inversa aplicada a la red neuronal que controla las recomendaciones. Esto le da mucho poder al contenido basura sobre la plataforma, ya que se pueden encontrar formas de confundir a las personas con contenido que no es el esperado a partir de una carnada basada en ingenieria inversa de la red neuronal de las recomendaciones. Esto es un problema particularmente grave para videos cortos o shorts, porque se puede controlar la narrativa (heroes y villanos) de fragmentos de videos a partir de los titulos y el contenido asociado a cierto tipo de ideologias. Proximamente, el problema seran videos directamente falsos indistinguibles de la realidad. En este caso, la unica regulacion posible que se me ocurre, es una prueba de humanidad que resulte en una carga de responsabilidad que idealmente no limite la libertad de expresion, pero que limite el alcance de las personas generando contenido basura a partir de bots. Por otro lado, los usuarios deberian tener control sobre algunos parametros de la red neuronal, con el proposito de personalizar y tener poder sobre las recomendaciones que uno recibe.
Hola, además de Data4Good pueden explorar AI4Good en el siguiente link: https://aiforgood.itu.int/ creo que se sincroniza con la prioridad de reconocer la ética en estos escenarios.
El dilema ético de Instagram es que genera infelicidad y adicción entre los jóvenes. Propaga estándares de belleza irreales y conduce a la depresión en muchos jóvenes.
Me surgen algunas dudas:
El ejemplo que viene a la mente es Instagram donde salío eso del reporte interno que sabían que su red es perjudicial para adolescentes.
Artículo al respecto: aquí
Pues se me ocurre Twitter. Actualmente una infinidad de Twits son generados por Inteligencia Artificial, que pueden estar moldeando ya a día de hoy nuestras opiniones. Un gran problema ético y moral.
El dilema ético de Instagram es que genera infelicidad y adicción entre los jóvenes. Propaga estándares de belleza irreales y conduce a la depresión en muchos jóvenes.
Los apuntes de la clase:
Por ejemplo Twitter cuando le cerró el perfil a Donald Trump. Es un ejemplo de cómo solamente por temas ideológicos, se le limita la libertad de expresión a una persona.
Una red social que genera dilemas éticos es Facebook, como ejemplo de esto me gustaría citar el caso de Cambridge Analytica en el 2016, donde se acusa a la consultora de haber manipulado de forma inadecuada información de más de 50 millones de usuarios de la red para alterar la selección de candidatos a la presidencia en el 2016.
Artículo al respecto: https://www.amnesty.org/es/latest/news/2019/07/the-great-hack-facebook-cambridge-analytica/
Con lo visto en clase, siento mucha más responsabilidad a la hora de desarrollar proyectos de IA, pues con mis errores no sólo puedo entregar respuestas incorrectas o sesgadas, sino que puedo provocar daños reales a mis usuarios.
Los datos están en todos los sectores de la sociedad y economía.
Los modelos afectan la vida de las personas ya que como los datos son personas loa algoritmos cambiaran la forma en como nos comportamos. Una mala decisión en la definición de un algoritmo puede causar daños a gran escala.
Cuidado con los errores ya que si basura entra a nuestro algoritmo basura saldrá y tendremos problemas éticos debido a los sesgos en nuestro modelo. Ya que nos aleja de la verdad en vez de hacer predicciones que no acerquen a ella misma.
Resumen: Los dilemas de la ética en la AI son de suma importancia ya que los datos los datos está presentes en todos los sectores y los algoritmos tienen un impacto en nuestra vida ya se bueno o malo, por lo tanto hay que ser consientes con lo algoritmos que hacemos y meticulosos con los datos que metemos ya que pueden estar sesgados o que falte información y por lo tanto puede que nos aleje de la verdad y afecte la vida de los demás
Que en primera instancia va a existir desplazamiento de empleos o labores que se han estado automatizando como en el marketing o diseño.
Es importante abordar estos dilemas éticos para garantizar que la inteligencia artificial se utilice de manera responsable y justa. Los responsables políticos, los desarrolladores y los usuarios de la IA tienen un papel importante que desempeñar en la promoción de prácticas éticas y la protección de los derechos humanos en un mundo cada vez más automatizado.
La inteligencia artificial (IA) está cada vez más presente en nuestra vida diaria y se espera que su uso continúe expandiéndose en el futuro. Con este creciente uso, también surgen varios dilemas éticos relacionados con la IA. Aquí se presentan algunos ejemplos:
Sesgo algorítmico: los algoritmos de IA pueden ser sesgados si los datos utilizados para entrenarlos están sesgados. Esto puede resultar en decisiones discriminatorias o injustas. Por ejemplo, un algoritmo de selección de currículum que se entrena en datos históricos de empleados puede sesgarse en contra de los candidatos de ciertas etnias o géneros.
Privacidad de los datos: la IA se basa en grandes cantidades de datos, lo que puede poner en peligro la privacidad de las personas. Si los datos no se manejan adecuadamente, pueden exponer información personal como nombres, direcciones y números de seguro social.
Responsabilidad y transparencia: los algoritmos de IA pueden tomar decisiones importantes que tienen un gran impacto en las personas. Si algo sale mal, es importante que las personas puedan responsabilizar a alguien. Además, es importante que los algoritmos sean transparentes, para que las personas puedan comprender cómo se toman las decisiones.
Autonomía: la IA puede ser utilizada para automatizar trabajos y procesos, lo que puede tener un impacto en la autonomía de los trabajadores. También puede ser utilizada en sistemas de armas autónomas, lo que plantea preocupaciones éticas sobre la responsabilidad por las acciones de estas armas.
Empleo: la IA puede ser utilizada para automatizar trabajos, lo que puede resultar en la pérdida de empleos. También puede cambiar la naturaleza de ciertos trabajos, lo que puede tener un impacto en la calidad de vida de los trabajadores.
En Instagram se presentó un dilema ético respecto a la visualización de seguidores (esta información genera en los usuarios presión social y baja autoestima). Ellos analizaron la posibilidad de dar menos relevancia a esa información (aunque a la fecha esos cambios no se dieron).
DILEMA ÉTICO: El que vivimos los creadores de contenido que no queremos ser adictos a ninguna red, porque tenemos que “no llorar y facturar”.
Soy una artista polifacética. Y los rumores de uso y abuso de esta red me dictaban que usuarias de bellas y sensuales tenían mayores visitas que contenido cultural y/o educativo.
Para mí tenía más sentido entonces (en lugar de ser escritora, bailarina de tango, opinadora o marketera) ser bailarina de samba (cosa que también hice un tiempo).
Favorable para la bailarina de samba Tik Tok con 614 visitas en mi primera publicación, con sólo 2 seguidores y 10 likes. Mientras que Instagram se queda atrás con una buena publicación de tango con 236 visualizaciones y 16 likes; y en Instagram llevo tiempo trabajando mi marca.
Con esto concluyo dos dilemas éticos:
afrodescendiente jaja
el que es negro es negro… moreno moreno y ya
basta de progresismo
En mi caso personal, me estoy alejando casi completamente de Twitter. Pese a que es mi red social favorita para emitir algún comentario. Me queda la sensación que no hay espacio para para el debate, pero sí un campo muy fecundo para la discusión y el odio. En donde todo, es blanco o negro. A veces me pregunto, ¿cuánto de culpa tendrá twitter del ambiente bélico? Existe una tasa enorme de cuentas falsas, hechas exclusivamente para denigrar personas o bien para atacar una visión política que se considere opuesta a la propia.
Un claro ejemplo de dilema ético en ChatGPT es el bias u orientación política que presenta.
Hay varios papers y evidencias que demuestran que ChatGPT tiene orientación hacia la izquierda.
Esto me parece muy grave, debería ser neutro, de otra manera es una herramienta de doctrina ideológica.
Al menos Sam ya ha admitido que es un problema y un punto a mejorar en el modelo.
Saludos. 😄
Pueden extender este tema con la charla que dio Carlos Alarcon en la Platzi Conf 2021.
Yo tengo un buen dilema. Si una IA hace mejor trabajo que una inteligencia, digamos, natural ¿debemos frenarla? :S
inteligencia artificial y frenología, una buena combinación ?
La ética y la moral de Facebook son temas debatidos y discutidos ampliamente debido a la influencia y el alcance global de esta plataforma de redes sociales. A continuación, se presentan algunos aspectos relevantes sobre la ética y la moral de Facebook:
Privacidad y protección de datos: Facebook ha enfrentado críticas relacionadas con la privacidad y la protección de datos personales de los usuarios. Se ha cuestionado si la empresa ha cumplido adecuadamente con la responsabilidad de salvaguardar la información personal y garantizar el control y consentimiento del usuario sobre sus datos.
Desinformación y manipulación: La propagación de noticias falsas y la manipulación de la información en la plataforma han sido motivo de preocupación. Facebook ha sido objeto de críticas por su papel en la difusión de desinformación y por no tomar medidas suficientes para combatirla de manera efectiva.
Responsabilidad en la moderación de contenido: La plataforma se enfrenta al desafío de moderar y gestionar el contenido publicado por sus usuarios. Existen debates sobre qué tipo de contenido debe permitirse y qué límites deben establecerse para evitar la propagación de discursos de odio, violencia y contenido perjudicial.
Impacto en la sociedad y la democracia: Facebook ha sido objeto de escrutinio por su papel en la polarización de la sociedad y su influencia en los procesos democráticos, como las elecciones. Se ha debatido si la plataforma ha tomado medidas adecuadas para abordar estos problemas y promover un entorno en línea más saludable y justo.
Es importante destacar que Facebook ha implementado diversas políticas y medidas para abordar estos desafíos éticos y morales. Sin embargo, la evaluación de su efectividad y cumplimiento ético sigue siendo objeto de debate y análisis continuo.
En general, la ética y la moral de Facebook se centran en cuestiones relacionadas con la privacidad, la protección de datos, la desinformación, la moderación del contenido y el impacto social. Estos temas han llevado a reflexionar sobre la responsabilidad de la empresa en el uso adecuado de su plataforma y en la promoción de valores éticos y morales en beneficio de sus usuarios y la sociedad en general. De hecho, hay un artículo del 2019 del portal “ComputerWeekly”, refente a este tema: https://www.computerweekly.com/es/cronica/El-dilema-de-Facebook-a-pesar-del-escandalo-la-privacidad-no-paga.
Me dejaste pensando cuando dices que los datos son personas y cualquier modificación que se realice ya sea en una app , o un servicio controlado con AI puede cambiar a la persona D:
En general todas comparten el mismo dilema ético de fondo: quieren absorver tu tiempo y atención para ganar más dinero.
Y al mismo tiempo, poner paños de aguita al establecer “parámetros” para evitar la adicción.
Si bien se trata de hallar un equilibrio, lo cierto es que la balanza se inclina hacia las grandes corporaciones y solamente legislan lo mínimo cuando los peligros tocan la puerta.
Muy recomendado el curso de la profesora sobre ética en el uso de datos.
…
Un ejemplo en el que pienso es TikTok, que ha sido criticada y hasta llevada a instancias judiciales en Estados Unidos debido al tema del uso de datos de los usuarios y la protección de los mismos.
No hay que olvidar el caso de “Cambrige Analitics” sobre el uso del manejo de datos y la manipulación de las personas…
Actualmente TikTok, esta generando adicción de contenido, y de paso el marketing como ve una oportunidad lo usa, esto en un tiempo va a ser contraproducente, el exceso tiene consecuencias la historia lo ha mostrado
Siempre me he cuestionado porque las redes sociales castigan con censura las imágenes donde se muestran pezones de “mujer” y no pasa nada con los pezones de “hombres” y pongo entrecomillado ya que está categorización de hombre mujer me parece algo anticuado
Facebook: se que las politicas comerciales y en general permiten que fb pueda manejar las fotos e imagenes y sus derechos de autor, sin embargo, sería muy bueno y tener mucho cuidado y si es posibleusar IA con el fin de ver cuantas cuentas podrían tener el mismo contenido, si estan verificadas o no y si existiera duplicidad cuál es el motivo de ello, pues se presta para problemas de seguridad de la informacion de cada usuario
En el caso de la generación de imagenes desde texto, que tiene sesgos cuando le pides crear imagenes de personas.
Instagram se me ocurre pero ya cualquier red social que haga uso de algoritmos avanzados ya es un indicio al fin y al cabo la herramienta es neutra, la forma en la que la usamos es la cuestión. Lo curioso esta ahora en como se construye esa tecnología es decir que intención tiene el creador.
Que gran caso el que pone Silvia, muy clarito para ejemplificar lo del sesgo ético
La red social en la que pienso es TikTok, debido a que es una de las plataformas de redes sociales más populares, y estos son los dilemas éticos:
Protección de datos y privacidad: TikTok ha enfrentado críticas sobre sus prácticas de recopilación de datos y su falta de transparencia en cuanto a cómo utiliza y comparte la información personal de los usuarios, lo que plantea preocupaciones éticas relacionadas con la privacidad y la seguridad de los datos.
Contenido inapropiado y potencial daño psicológico: La facilidad con la que se puede compartir y difundir contenido en TikTok plantea desafíos en la moderación y el control de contenido inapropiado, incluidos los desafíos peligrosos y el acoso en línea.
Influencia y manipulación: La capacidad de los algoritmos de TikTok para dirigir contenido específico a los usuarios puede plantear preocupaciones éticas sobre la manipulación de la opinión pública y la influencia en el comportamiento de los usuarios, lo que a su vez plantea interrogantes sobre la autonomía de los individuos y la responsabilidad de la plataforma en la difusión de información.
Explotación y seguridad de los usuarios más jóvenes: Dado que TikTok es popular entre los adolescentes y niños, existe una preocupación por la explotación y la seguridad de estos usuarios más jóvenes, lo que incluye la exposición a contenido inapropiado, la interacción con extraños y posibles riesgos de abuso en línea.
Esto esta muy relacionado a un aporte asqueroso que comente en este modulo de un imbecil que sugeria un modelo para detectar ladrones, La IA es muy util pero tiene aun muchas fallas y usarla para tareas como esa lleva a injusricia. Excelente clase y si ese imbecil esta por ahi le recomiendo que repace esta clase al menos mil veces,
El dilema ético de todas las redes sociales siempre ha sido la sobre exposición no solo de personas sino de actividades que realizan las personas, porque en la mayoría de los casos son versiones distorsionadas o completamente diferentes a la realidad que todos nosotros vivimos como seres humanos.
Indiscutiblemente la primera red social en la que pienso al relacionarla con dilemas éticos es TikTok.
Ya está muy claro el nivel de adicción que tiene esta app. Directamente afectan la vida de las personas. Más allá del consumismo que se ha generado y las extensas jornadas de tiempo que le dedicamos a esta aplicación, suelo ver sus efectos en la psicología de las personas.
Es muy frecuente ver comentarios en los vídeos de TikTok donde las personas dicen “estaba triste y este video me alegró”, “tenía depresión y me hiciste reir”, entre otros. Este tipo de comentarios pueden verse de dos formas: (1) Ok, TikTok los está ayudando o (2) ¿Es acaso TikTok el reemplazo de otras formas de felicidad?
Depender de una aplicación, y el uso de la información que le entregamos, a nivel emocional, creo que es un gran dilema a nivel ético para quienes las desarrollan, pero también para quienes las consumimos.
En la actualidad, está el caso polémico caso Open AI donde se recolectan los datos biométricos del iris de las personas a cambio de algo de dinero y que algunos gobiernos han indagado que se harán con esos datos de tantas personas.
TikTok ha sido objeto de escrutinio en relación con la recopilación y el manejo de datos personales de los usuarios, lo que plantea preocupaciones éticas sobre la privacidad y la seguridad de los datos.
Me parece interesante como tiktok puede y su algortimo pueden impactar demsasidado en nostros solo por su porpio beneficio de generar dienero y/o robar información pueden mostrar contenido basura y fake news el cual nos aleja de la relidad solo por el hecho de mantenernos pegados al telefono. Hoy en día creemos todo lo que vemos, pero todo lo que vemos es verdad o solo es basura. AL FINAL SIEMPRE LAS MENTIRAS SUENAN MAS QUE LA VERDAD
Redes sociales, cada una tendrá su problema. Sin embargo Tik-Tok me llama la atención algo que escuche y vi en youtube una cuestión ética para afrontar es que el Tiktok de américa muestra entretenimiento y tonterías como gente danzando haciendo pranks y en general cosas de ese estilo. Mientras que en China por ejemplo los contenidos que se muestran son de lograr cosas importantes, en ciencia, en tecnología, en disciplinas deportivas. Cosas que realmente trascienden e impactan nuestra humanidad como especie. Nosotros tomamos modelos de referencia de lo que vemos,escuchamos de manera reiterada y lo compartimos con otros semejantes en nuestros círculos sociales lo retroalimentamos constantemente y de allí nacen unas aspiraciones y deseos del ser humano en cada sociedad, país… etc.
Entonces si dejamos esta cuestión de un Tiktok así durante unos años 5 o 10 años con esos contenidos. Donde en países de América de forma indirecta se les enseña a sus generaciones a desear y ser idiotas. Y a Los habitantes de China de forma indirecta se les enseña a que deben ser grandes, sabios, poderosos, generadores de valor a la sociedad a lograr cosas realmente importantes. ¿Que va a salir de aquí a unos años?
Creo que algo fundamental a entender de esta clase es que si nuestras muestras (datos) con los que entrenamos al modelo presentan tendencias, es decir, no son lo suficientemente aleatorias, tarde o temprano el modelo tendrá un sesgo proyectado a partir de las tendencias de nuestras muestras
-El en caso de sezgo racial comentado por la profe sucede que si tomas los datos en US es sabido el hecho de que pese a ser 12% de la de la poblacion general los Afro/Amer. tienden a ser 40% de la población carcelaria. Si los comparas con los Anglos/Amer. tienen 6 veces mas posibilidad de estar en prision, 2 veces mas vivir en la pobreza extrema y 10 veces menos patrimonio familiar.
Fuente BBC Mundo.
Yo: Humano Humano Afrocaribeno.
Lo importante de los modelos de IA es la cantidad de datos correctos son entrenados, en el caso de los sesgos raciales quien decide que tipos de datos ingresan al entrenamiento de ML? y como sabemos si esta sesgado o no la interpretacion de la misma…
Una pregunta Capciosa 😄
Algunas redes sociales promuebe la inclusión e idología de genero pero al mismo tiempo sensura y excluye valores princios morales que los clasifican como ofensivo.
Adicción y salud mental: Las redes sociales pueden ser adictivas y tener un impacto negativo en la salud mental de los usuarios. Se plantea el dilema ético de cómo promover un uso responsable de estas plataformas y minimizar los efectos negativos en la salud de las personas.
Expresar discursos de odio, segregación de cualquier tipo y menosprecio de la calidad humana en las redes sociales, podrían ser dilemas éticos.
Yo me atrevería a generalizar sobre este contexto, creo que todas las redes sociales están padenciendo de este mal, si se puede decir así. He visto los comentarios publicados por los compañeros de este curso donde describen sus puntos de vista para red social en particular. Creo que debemos tener mucho cuidado con este aspecto, por ejempo he visto como facebook ha permitido muchísimo contenido falso con link y todo, donde cualquier persona puede ser engañado.
creo que la parte más sencilla de ignorar al crear modelos de IA son los sesgos de los datos. Me agrada recordar para esto, el sesgo del superviviente.
Durante la guerra mundial los aviones que regresaban con severos daños hacian creer a las personas que eran esas zonas donde se debia aumentar el blindaje, pero contrario a esa idea, los aviones que regresaban tenian daños en esas zonas por tratarse de las menos vitales. El sesgo es que, al contrario de lo que en un inicio se creía, lo que debia de reforzarse eran las zonas con menos daños.
26/30 Dilemas éticos en inteligencia artificial
Evitar los sesgos éticos es decir, cuando se genera un desvío de la verdad, producido por un sesgo (BAIAS ) input al sistema el cual va a seguir generando resultados desviados
Algoritmizaron (o intentaron) a Cesare Lombroso
La ética y la moral en el contexto de la inteligencia artificial (IA) se refieren al estudio y la aplicación de principios éticos y morales en el desarrollo, la implementación y el uso de sistemas de IA. Estos conceptos buscan guiar las decisiones y acciones relacionadas con la IA para asegurar que se realicen de manera responsable, justa y respetuosa hacia los seres humanos y la sociedad en general.
La ética en la IA implica examinar las implicaciones éticas de los sistemas de IA y cómo se pueden abordar los dilemas éticos que pueden surgir. Se centra en cuestiones como la privacidad, la transparencia, la equidad, la responsabilidad y el impacto social de la IA. La ética en la IA busca asegurar que los sistemas de IA sean diseñados y utilizados de manera ética y que promuevan el bienestar humano.
La moral en la IA se refiere a los estándares y valores morales que se aplican a la toma de decisiones y acciones en el ámbito de la IA. La moral implica considerar qué está bien y qué está mal en el desarrollo y uso de la IA, y cómo se deben tomar decisiones éticas en situaciones difíciles. La moral en la IA se basa en principios como la justicia, la no maleficencia, la beneficencia y el respeto a la autonomía.
En resumen, la ética y la moral en la IA se enfocan en garantizar que los sistemas de IA sean desarrollados y utilizados de manera ética, considerando el impacto en las personas y la sociedad en general. Estos conceptos buscan establecer principios y normas que guíen el comportamiento responsable y ético en el campo de la IA.
Tiktok, tiene un sesgo progresista, por cuanto tiende a censurar los contenidos que parecen ir en contra de las ideas y comportamientos progresistas.
Aquí tienes algunos ejemplos de dilemas éticos relacionados con la inteligencia artificial (IA):
Privacidad y recopilación de datos: La IA a menudo requiere grandes cantidades de datos para funcionar de manera efectiva. Sin embargo, el acceso y uso de datos personales plantea preocupaciones éticas sobre la privacidad y el consentimiento informado de los individuos. El dilema radica en encontrar un equilibrio entre la utilidad de la IA y la protección de la privacidad de las personas.
Discriminación algorítmica: Los algoritmos de IA pueden estar sesgados y perpetuar discriminaciones existentes en la sociedad, como el género, la raza o la orientación sexual. Esto puede llevar a decisiones injustas en áreas como el reclutamiento, la selección de candidatos o la concesión de préstamos. Abordar este dilema ético implica garantizar la equidad y la imparcialidad en el diseño y la implementación de los algoritmos.
Toma de decisiones autónomas: Cuando la IA toma decisiones autónomas, como en sistemas de vehículos autónomos o en sistemas de toma de decisiones médicas, se plantea el dilema de quién es responsable en caso de un error o daño. Determinar la responsabilidad legal y ética en estos casos complejos es un desafío.
Reemplazo de empleos: El uso creciente de la IA y la automatización plantea preocupaciones éticas sobre el impacto en el empleo humano. La implementación de sistemas de IA puede resultar en la pérdida de empleos y la necesidad de reentrenamiento o reconversión laboral para los trabajadores afectados.
Autonomía y toma de decisiones éticas: A medida que la IA se vuelve más sofisticada, puede surgir la pregunta de si las máquinas deben tener autonomía para tomar decisiones éticas. Por ejemplo, en situaciones críticas en las que se requiere tomar decisiones difíciles, como en la atención médica, ¿puede confiarse en que una máquina tome la mejor decisión ética?
Estos son solo algunos ejemplos de los dilemas éticos que pueden surgir en el campo de la inteligencia artificial. A medida que la tecnología avanza, es importante abordar estos dilemas y buscar soluciones que promuevan el beneficio humano y la justicia social.
En mi opinion, el caso que ha demostrado que la información puede ser usada de manera poco ética es el caso de Facebook, Cambridge Analytics y el posicionamiento de Trump como presidente de ños estados unidos, donde se usó el sesgo para manipular las personas.
De igual manera, como se ha mostrado que Tik Tok toma todos los posibles datos del usuario que, además de invasivo, se le da mucha información que puede usar con fines individualistas
Facebook y lo que sucedió en 2018
El algoritmo de TikTok
Es de conocimiento general que el algoritmo de Tiktok privilegia el contenido que provoca adiccion como el contenido sexualizado mientras que otros contenidos son disminuidos. Mientras en China la misma aplicacion privilegia contenido mucho menos sexualizadp. Sin duda, es de analizar el impacto de los gobiernos en como regular los algoritmos y como el uso de los datos personales puede ser usado para manipular la opinion publica con respecto a un paisa o una personaje en particular.
El problema es que el ser humano no está capacitado intelectualmente para definir la ética, la ética básicamente no existe, por esto no podremos definirla, concretamente es algo muy filosófico
Quiero analizar algunos problemas éticos con los que se enfrenta Uber, que aunque no sea una red social es interesante de analizar por los efectos que tiene en América Latina. Aquí describo tres retos éticos:
-Socios y seguridad social. Uno de los problemas con los que se encuentran es que al no haber una relación patronal entre uber y el conductor, el socio adquiere toda la responsabilidad social de sí mismo y no cuenta con ningún tipo de seguridad social ni prestaciones. Para Uber como empresa es cómodo pues es más fácil tener socios que empleados, sin embargo esto puede mejorar el servicio en algunos casos pero no mejora la calidad de vida de los empleados.
-Competencia: Aunque ofrece una serie de ventajas para los clientes con respecto a los taxis tradicionales como el registro de viajes, pago con tarjeta, compartir ubicación, también es cierto que el piso de competencia con los taxistas locales no es parejo, pues estos no tienen que pagar las consesiones que pagan los taxistas. Si bien, la presencia de varios servicios y la competencia puede promover la mejora, al UBER no pagar pago por placas especiales ante gobierno (concesión) está en ventaja competitiva, y el piso no es parejo.
-Seguridad: Al ser un modelo de socios, Uber no toma responsabilidad sobre los posibles problemas que se puedan generar respecto a la seguridad de los empleados o de los pasajeros. En contextos sociales difíciles como lo es América Latina, los conductores se enfrentan a inseguridad y violencia. En México se han documentado en medios de comunicación estos riesgos para los conductores: Robos, asesinato a conductores, problemas con taxistas locales. En el caso de los pasajeros han tenido problemas como: acoso de conductores, casos de abuso sexual con pasajeras ebrias.
¿Qué debería hacer Uber ante esta situación? ¿Sacar las manos y dejar todo en manos de los socios conductores o hacer políticas empreariales para trabajar con estos retos éticos?
Una red social que se me viene a la mente es TikTok, fue creado para entretenimiento y el formato de videos cortos no te permite tener una estimación del tiempo que llevas mirando videos, generando cierta adicción y reduciendo la productividad de las personas
Piensa en una red social que utilices. Escribe que dilemas éticos podría estar generando
La red social Instagram genera dilemas éticos al restringir palabras relacionadas con Dios y la religión, pero dejando sin problema que la gente escriba vulgaridades.
Dilemas éticos en inteligencia artificial
Los datos están en todos los sectores de la sociedad y economía.
Los modelos afectan la vida de las personas
Una mala decisión en la definición de un algoritmo puede causar daños a gran escala
Errores en la definición implican una réplica del error en la predicción.
En facebook e incluso youtube que tienen la libertad de que contenido mostrarte, a veces lo veo como un reflejo de tu realidad interna y mentalidad. Si solo piensas en temas tristes o de baja energía eso te muestro. El dilema ético ahi es que sin darte cuenta al continuar viendo eso refuerzas ese sentimiento, entonces se puede decir que las redes sociales pueden manipular nuestras emociones, para bien o para mal. Es una realidad sesgada.
si profe… pero todo eso NO LE IMPORTA A LA ELITE PSICOPATA QUE GOBIERNA ESTE MUNDO DESDE LAS SOMBRAS…
EL MARK ZUCKERBERG Y ELON MUSK SON SUS TITERES…
Y AL ZUCKER… NO LE INTERESA LA SALUD MENTAL NI VIDA DE NADIE…SOLO LE INTERESA EL $$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$$
POR ESO FRANCES HAUGUEN LO QUEMO EN LEÑA VERDE EN EL CONGRESO Y LOS CONGRESISTAS NADA LE HICIERON…ES MAS!!! A PARTIR DE ESE ESCANDALO EN INSTAGRAM CON LAS NIÑAS LO QUE LOS CONGRESISTAS LE ORDENARON A SU TITERE EL ZUCKERBERG FUE QUE LE CAMBIARA EL NOMBRE A META… Y LISTO!!! NO LE HICIERON NADA!!!
SON COMO EL GATO TODOS ESOS COMPLICES…
ESCONDEN SU PROPIA… BAJO LA ALFOMBRA…
La IA es una herramienta poderosa que puede tener un impacto significativo en la sociedad. Sin embargo, también puede plantear una serie de dilemas éticos que deben abordarse. La eliminación de los sesgos y la discriminación, la protección de la privacidad y la seguridad de los datos personales, la transparencia y la responsabilidad en la toma de decisiones, y el impacto en el empleo y la economía son solo algunos de los dilemas éticos que deben considerarse al implementar la IA. Es importante abordar estos dilemas éticos de manera proactiva y responsable para asegurar que la IA se use de manera justa y ética.
Los datos están todos los sectores de la sociedad y economía
Los modelos afectan la vida de las personas, porque los datos son personas, todos estos amodelos estadísticos algoritmos, preditcitovs, son modelos que van a cambiar el comportamiento de las personas.
Una mala decisión en la definición de un algoritmo puede causar daños a gran escala. Un potencial mal uso de los datos o una mala aplicación todos nos veremos afectados.
Errores en la definición implican una réplica del error en la predicción. Un sesgo existente, va a seguir replicándose.
Ejemplo: Sucedió en USA, era que una IA, a partir de una imagen del rostro, detectara si esta era potencialmente a cometer un crimen. Ponderaron varias variables físicas. Como se tenía más imágenes de personas blancas que afrodescendientes, se generó un sesgo ético, porque ponderaba más a las personas afrodescendientes.
Nunca olvidaremos esto:
Escándalo Facebook-Cambridge Analytica
Censura: las plataformas de redes sociales tienen el poder de censurar el contenido y limitar la libertad de expresión.
en instagram por ejempllo los usuarios pueden publicar contenido que infringe los derechos de propiedad intelectual, como fotografías o videos que no son suyos. además, los usuarios pueden ser víctimas de la violación de sus propios derechos de propiedad intelectual.
Todos los SECTORES DE LA ECONOMÍA se ven reflejados en datos, que van generando los usuarios día tras día.
Los modelos van a cambiar la FORMA DE VIDA de las personas. Las aplicaciones tienen una gran RESPONSABILIDAD por los efectos que pueden generar.
El modelo si tiene ERRORES o SESGOS los va a estar REPLICANDO en sus inferencias y predicciones.
EJEMPLO: una AI para predecir la probabilidad de que una persona cometa un crimen en base a los rasgos físicos. El error que se cometió fue entrenar con un dataset con mayor porcentaje de persona blancas que de afro descendientes. Entonces este algoritmo clasificaba a las personas afro descendientes con mayor probabilidad de cometer un crimen. Esta AI tenía un SESGO ÉTICO. Nos está ALEJANDO de la VERDAD.
Solución del reto de la clase⚡
🔵 Twitter:
Influencia en elecciones y política:
Twitter ha sido criticado por su papel en la propagación de noticias falsas y la manipulación de la opinión pública, lo que plantea dilemas éticos sobre su responsabilidad en la regulación de la información política en su plataforma.
DALL-E por ejemplo está generando imagenes digitales y ya no se sabe cuales son originales y cuales no , incluso replica pinturas hechas al oleo digitalizadas, considerando el estilo de un determinado pintor , esto genera un problema ético de derechos de autor.
Gracias
Realmente no sé si es un dilema ético pero me parece interesante cuanto menos. El algoritmo que utiliza Facebook para regular el contenido que se publica o que se escribe comete errores con bastante frecuencia y silencia a personas por cosas que realmente no son sancionables. En mi caso veo un dilema ético porque el libre discurso se ve afectado.
El dilema de las redes sociales establece que los usuarios somos un producto para estas empresas que compiten por el control, la influencia y el tiempo de sus usuarios.
En redes sociales como Instagram o Facebook los dilemas éticos más comunes son: engaños, estafas, invasión a la intimidad ajena, respeto de la propiedad intelectual…entre otros.
creo que un mal manejo del algoritmo de facebook es que usa temas controversiales y falsos contrarios a los gustos de la persona para generar polemica y odio o morbo
Se me ocurre otro dilema de sesgo que presenta la inteligencia artificial. Entrenar con datasets reales o datasets sesgados que reflejen una realidad objetivo deseada. Por ejemplo en la generación de imágenes para ciertos trabajos las IA suelen sesgar hacia un genero u otro, por ejemplo programadores hombres o modelos mujeres, lo cual es una realidad actual. El debate es si el algoritmo debería reflejar la realidad actual o una realidad sesgada en base a nuestra convicciones y en este ultimo caso quien define estas convicciones. Me parece algo interesante de plantear
Dilema ético: la gran mayoría de mujeres que además de maquillaje, ahora usan filtros de belleza AI del celular para poner fotos que no se corresponden a la realidad.
Lo hacen en redes sociales y en apps de citas.
Y cuando las ves en persona, no se corresponde.
Es deshonesto.
Estoy remetida en este cuento, y cada vez me engancho más, veo estas clases y no puedo dejar en pensar cómo una fan de la ciencia ficción en que Isaac Asimov en su saga de la fundación se planteó este tema ético hace mucho tiempo, cuando creíamos que el desarrollo de la IA era netamente ficción, Asimov plasmo en sus escritos las 3 leyes de la robótica los cuales tienen todo el sentido y este tema de la ética es profundamente relevante hoy en día. Genial
¿Quieres ver más aportes, preguntas y respuestas de la comunidad?