Ética del NLP y los límites del lenguaje IA
Curso de Ética y Manejo de Datos para Data Science e Inteligencia Artificial
Contenido del curso
Curso de Ética y Manejo de Datos para Data Science e Inteligencia Artificial
Clase 13 de 20
Clase 13 / 20
Hugo Montoya Diaz
Juan R. Vergara M.
Juan Camilo Maldonado Perez
Daniel Alejandro Castro Figueroa
Alfonso Andres Zapata Guzman
Alfonso Andres Zapata Guzman
Jhojan Ramirez
Fernando Jesús Núñez Valdez
Hector eduardo ordoñez
Arely Marisol Zea Wellmann
Avilio de Jesús Muñoz Vilchez
Leandro Tenjo
Juan Pablo Cuenca Ludeña
Juan Pablo Cuenca Ludeña
Roberto Adolfo Zarza Jimenez
Wilson Jurado Valbuena
Alberto Duque Villegas
Eduard Giraldo Martínez
Lina Paola Perdomo Rincón
Julio César Pineda Mora
Rodrigo Alles
Madison Eduardo Herrera Carrión
Paolo Quintero
Jorge Eliécer Ortiz Ballesteros
Jorge Eliécer Ortiz Ballesteros
Andres Sanchez
Sebastian Rodriguez
Santiago Rodriguez Chaves
Ricardo Bruni
Luis Renato Cabañas Rodríguez
Gracias por la infografía amigo.
¿Qué seguira en el 2030?
Hola :) Estudié Filosofía hasta la Maestría y quería comentarles sobre el asunto del "entendimiento" de las computadoras.
Silvia mencionó que las máquinas pueden "entender" un texto.
Esta afirmación es bastante problemática por dos razones. En primer lugar, uno puede decir que nosotros tenemos "intenciones". Es decir, yo puedo querer entender un texto o yo puedo querer lavarme los dientes o ser ingeniero, etc. En suma, para que se entienda algo, debe haber un agente con intención. Sería bastante dudoso afirmar que las computadoras tengan intenciones: ¿Las computadoras buscan algo? ¿Tienen una vida mental en la cual eligen qué hacer y, por lo tanto, eligen entender un texto? Al parecer, las computadoras carecen de vida mental y, al menos hasta ahora, no parece que tengan intenciones sino que sus interacciones con humanos son un resultado de una computación algorítimica sumamente compleja.
En segundo lugar, toda intención y entendimiento requiere que poseamos consciencia, lo cual es difícil de afirmar respecto a una computadora. ¿Qué es la consciencia? Usualmente, la definimos como esta percepción nuestra de que todos nuestros sentidos y pensamientos están unificados. Es decir, todos asumimos que los 5 sentidos y nuestros procesos cognitivos están en un "centro". Yo afirmo que tengo consciencia porque puedo percibir unidamente todo lo que pienso, veo, huelo, siento, degusto u oigo. Eso es la consciencia. ¿Ocurre lo mismo en las máquinas? Es muy controversial afirmar que ocurra similar, porque no podemos comprobarlo empíricamente. Que una computadora "actúe como humano" no quiere decir que esté consciente, salvo que creas que todo humano es solo una colección de algoritmos. No obstante, no podemos comprobar que exista verdadera consciencia.
Por estas dos razones, podemos decir que las computadoras computan información y usan algoritmos complejos junto a una gran cantidad de información para generar el output que responde a una pregunta. Pero no podemos decir que "entiendan"; no poseen ni intención ni consciencia.
Una cosa que siempre he notado, es que nosotros definimos la consciencia, el estar vivo, desde el yo, es decir, desde el ambito del humano, y todo lo que carezca de estos atributos automaticamente lo señalamos como no humano, pero sucede algo, y es que al igual que las matematicas, la fisica, la filosofia y demas ramas del entendimiento humano, han sido creadas en base a convenciones sociales, moldeadas si o si por nosotros, y esto no quiere decir que estan sean las unicas maneras de ver el universo, sino que en caso de por ejemplo existir una sociedad avanzada de alienigenas que no comparten lo que nosotros creemos que es la vida, la creencia de uno u otro conjunto estaria errada?
Por eso yo generalizaria diciendo que como nosotros creemos que es la inteligencia y la vida segun nuestra convencion social, las maquinas quizas nunca lleguen a demostrar vida o inteligencia, pero a imagen y semejanza de nuestro modo de ver esto.
Ya seria un debate decidir si porque somos participes en la creacion de estas maquinas ellas debe basar o no en este criterio para juzgar si tienen vida o no.
Yo pongo un supuesto algo alocado, y si creamos estas maquinas y nunca las definimos como inteligentes, pero por alguna razon desaparecemos como especie y ellas quedan autosustentandose y autoaprendiendo a optimizarse poco a poco, se le quitaria ya el señalamiento de no ser seres vivos o no?
Añadiria algo, no, una computadora no puede ser un ser humano, porque por el mismo motivo que un humano no puede ser un delfin, o un humano no puede ser un perro, o un arbol, o cualquier otra especie viva sobre la faz de la tierra, y viceversa tampoco sucede, porque bi'ologicamente hablando, ya no hablando del ser ni nada de eso, el humano y cualquier otro ser se compone en conjunto de todas sus celulas, osi lo vemos algo mas macro, de sus organos y demas componentes.
Aplicando el principio GIGO, si metes paja en una maquina, saldra allgo hecho de paja, no hecho de otro material, si metes algo basado en ceros y uno, saldra algo basado en eso, si usas organicos salen seres vivos.
Pero si, si creo que van a superar las maquinas a la humanidad en algun momento, y aun asi, tendremos la desfachatez de nuestro ego de decir que no, que ellas no son mejores porque no estan vivas.
Alcanzara y tiene muchas posibilidades de supernos en conocimientos y velocidad de procesamiento de información. Pero, creo que sera muy complejo que pueda tener la sensibilidad humana.
También creo eso! Aunque creo que si simularan las emociones, sí nos "engañarían" de que la emoción es genuina. Ya que entre humanos podemos fingir emociones y muchas veces caemos o es posible "engañarnos" entre humanos.
exacto, comparto la misma opinión.
Justamente hoy salió publicada una noticia en la BBC sobre un ingeniero de Google que habla de su Chatbot LaMDA quien asegura tener derechos laborales, como colaborador y agente de valor para la empresa y se identifica con el pronombre It.
En el artículo de prensa titulado "Los IAs de Alibaba y Microsoft superan a los humanos en las pruebas de lectura" puedes leer más sobre el test desarrollado en la Universidad de Stanford donde quedó demostrado los avances alcanzados por los chatbot.
Lo correcto seria ver a las maquinas como un super poder que es extension del humano y no como su remplazo.
Hay cosas que las maquinas no pueden hacer sin nosotros y cosas que nosotros no podemos hacer sin ellas.
🤖🤝🧑🏻💼
100% de acuerdo compañero. De todas maneras NO deja de ser alucinante el poder y el avance de las máquinas (IAs).
Frase reformulada por CHATGPT:
Las máquinas son una extensión de nuestras habilidades y no nuestro reemplazo. Trabajando juntos, humanos y máquinas pueden lograr cosas increíbles.
Detalle
Las máquinas son una extensión de nuestras habilidades y no nuestro reemplazo. Al igual que un superpoder, las máquinas nos brindan una capacidad mejorada para realizar tareas y resolver problemas. Sin embargo, hay cosas que las máquinas no pueden hacer sin nuestra intervención, y hay cosas que nosotros no podemos hacer sin ellas.
Es importante recordar que las máquinas son herramientas diseñadas para hacernos la vida más fácil y mejorar nuestra eficiencia, no para reemplazarnos por completo. Mientras trabajamos juntos, podemos lograr cosas que de otra manera serían imposibles. Las máquinas nos brindan la oportunidad de ampliar nuestras capacidades y alcanzar nuevos niveles de éxito y logro.
En lugar de ver a las máquinas como una amenaza a nuestro trabajo o nuestro lugar en el mundo, debemos verlas como una oportunidad para crecer y mejorar. Trabajando juntos, humanos y máquinas pueden lograr cosas increíbles.
Recomiendo la serie de videos en you tube The Age of A.I.
He usado GPT3 con GitHub Copilote por varios meses antes de que se volviera de pago, y la verdad es que al usarla te vuelves mucho más rápido para programar, muchas veces tenemos tareas repetitivas que sabemos que tenemos que hacer, pero hacerlas nos lleva mucho tiempo, con esta herramienta se sentía como que adivinara tu mente y tenías la sensación de hacer todo mucho más rápido, mejor y más estándar. Personalmente creo que esta tecnología, como todo, si se usa de forma correcta puede generar un gran avance en la humanidad y a nosotros como individuos.
Sin duda algunas NLP podrán superar en conocimiento y sensibilidad humana al promedio de las personas frente a algunas tareas determinadas. Lo anterior implica que:
Pienso que estamos tratando de solucionar el problema por el lado que no es. Al tratar de hacer un algoritmo con sentimientos, no sería muy rentable. Las máquinas se crearon para solucionar problemas y como tú dices, hacerlo rápidamente. . Nosotros, por el contario, al tener sentimientos, fallamos al usar la lógica y combinamos todas esas sensaciones, lo cual lleva, en ocasiones, a tomar malas decisiones. . Hay que recordar que los sentimientos son producto de reacciones químicas en el cerebro, que en el pasado esas experiencias nos hicieron sentir bien o mal.
Puede competir con el conocimiento pero no creo que con la sensibilidad
Vengo del futuro a decirles que Chatgpt con GPT 4.0 sí revolucionó el mercado. 👍
Ética y Procesamiento de Lenguaje Natural (NLP)
El Procesamiento de Lenguaje Natural (NLP, por sus siglas en inglés) es una rama de la Inteligencia Artificial que se encarga de que las máquinas comprendan y generen lenguaje humano. Esta tecnología tiene un gran impacto en nuestras vidas y presenta importantes implicaciones éticas.
Sesgos en el Procesamiento de Lenguaje Natural
Uno de los principales problemas éticos del NLP es la presencia de sesgos en los modelos de lenguaje. Estos sesgos se generan a partir de los datos utilizados para entrenar los algoritmos y pueden llevar a discriminaciones en el trato a diferentes grupos de personas.
Por ejemplo, un modelo de lenguaje entrenado con datos que reflejan estereotipos de género, podría ser utilizado para tomar decisiones discriminatorias en el ámbito laboral o educativo.
Privacidad de los datos
Otra implicación ética importante del NLP es la privacidad de los datos. El procesamiento de grandes cantidades de datos de lenguaje humano puede revelar información sensible sobre las personas, lo que puede llevar a la vulneración de su privacidad.
Es importante que los responsables de la recolección y procesamiento de datos de lenguaje humano tengan en cuenta la privacidad de los usuarios y establezcan medidas para proteger sus datos.
Automatización de decisiones
El uso del NLP en la automatización de decisiones también plantea cuestiones éticas. La toma de decisiones automatizada basada en el lenguaje humano puede llevar a la discriminación y a la violación de los derechos humanos.
Es necesario que se establezcan regulaciones y medidas para garantizar que las decisiones tomadas por algoritmos de NLP sean justas y no violen los derechos humanos.
Conclusión
En conclusión, el Procesamiento de Lenguaje Natural tiene importantes implicaciones éticas que deben ser consideradas en su desarrollo y aplicación. Es necesario que se establezcan regulaciones y medidas para garantizar que esta tecnología no sea utilizada para la discriminación o violación de los derechos humanos.
¿Podría una IA simular la conciencia humana?
Actualmente no, pero en el momento de se pueda replicar la conciencia humana será en el momento en el que creemos vida artificial y esa vida podría crear vida en lo que avance lo suficiente y el ciclo podría repetirse infinitamente. Hay una teoría de universos simulados al respecto bastante interesante
ya lo hizo con gptchat, pero no sólo la podría simular sino que podría ser sintiente.
a su vez hay una empresa que basada en chats de whatsapp logra simular a un ser querido que falleció con fines terapéuticos y muchos usuarios según la empresa sienten como si en efecto hablasen con su ser querido
Les recomiendo una reflexión sobre la habilidad de las máquinas desde una perspectiva de la consciencia y sintiencia.
Procesamiento del Lenguaje Natural (NLP)
La inteligencia artificial supera al ser humano
GPT-3
Este NLP no puede alcanzar el conocimiento y sensibilidad humanos, ya que la IA no puede crear, solo puede decir información basada en como ha sido entrenado, y la inteligencia humana no se puede entrenar.
Teconologias como CODEX de OPEN AI y GitHub Copilot que quieren desarrollar codigo a partir de lenguaje natural: SI escribo en el editor de codigo, Mesa con un pelota roja encima, este programa ya lo hace con gran efectividad sin tener que programar una sola linea de codigo. Tengo un video de la conferencia de Microsoft de este año 2022 donde grabe esto, si a alguien le interesa verlo me deja el comentario y yo le envió el video.
Realmente no creo que la maquina por mas NLP ni deeplearning alcance a igualar la emociones humanas. esa característica es algo que no pueden tener las maquinas. Es parecido a afirmar que pudieran llegar a tener sentimientos, podrán procesar, y tener datos de que es cada emoción pero sentir es algo que no podrán hacer. y por lo mismo no podrán alcanzar la sensibilidad de los humanos.
Por el momento creo que el NLP si bien puede acceder a mucha más información, pero no toda es veraz y eso puede llevar a conclusiones erróneas. Además es necesario para los humanos que nos hablen como humanos, considerando aspectos emotivos empáticos y cualitativos. Los Chat bots o algoritmos todavía no pudieron llegar a eso y creo que si bien van a seguir avanzando, dificilmente lleguen a tener esos sentimientos que tenemos los humanos, por lo que estimo que por mucho tiempo, lo humano marcará la diferencia.
La linea divisoria entre un algoritmo y la capacidad humana es principalmente en la expresión emotiva, el ejercicio del altruismo, la interpretación del arte, la necesidad espiritual y la elaboración de preguntas existenciales.
