30

¿Es posible regular la inteligencia artificial? 2 posturas que generan controversia

15416Puntos

hace un año

El rápido crecimiento y desarrollo de la IA plantea importantes desafíos y preocupaciones. Dado que es un campo en constante crecimiento e innovación, es necesario establecer políticas y regulaciones para garantizar que la IA se desarrolle de manera responsable y sostenible.

Untitled(88).png

Desafíos sociales y éticos del uso de la Inteligencia Artificial (IA)

Existen múltiples desafíos o retos en los que como sociedad debemos enfocarnos y convertirlos en oportunidades o velar porque su impacto económico, ético y social sea mínimo.

1. Impacto en el mercado laboral

Uno de los principales desafíos que presenta la IA es su impacto en el mercado laboral y mas un con un paper reciente de OpenAI que muestra las profesiones mas expuestas al impacto en IA.

Untitled(89).png

La automatización de trabajos que antes requerían la intervención humana puede llevar a la pérdida de puestos de trabajo y a la creación de una brecha económica y social. Por ello, es importante que se establezcan políticas y medidas para proteger a los trabajadores y para garantizar que la automatización no se convierta en un obstáculo para el desarrollo económico y social.

Por otro lado, se sabe de antemano que toda revolución tecnológica trae consigo cambios laborales. Es completamente natural y está bien que ciertos roles, en los que el humano es desaprovechado en tareas repetitivas, tiendan a desaparecer.

Untitled(90).png

2. Privacidad de datos

Otro aspecto importante a considerar es la privacidad y seguridad de los datos. La IA se basa en la recopilación y análisis de grandes cantidades de datos. Por lo tanto, es necesario establecer marcos éticos y legales para proteger la privacidad y seguridad de los datos.

Además, es fundamental garantizar que se utilicen de manera responsable y transparente. Un caso muy importante es el hecho de que Italia bloqueó el uso de ChatGPT por violaciones a GDPR.

Untitled(91).png

3. Desarrollo responsable de IA

Es importante que se fomente la investigación y el desarrollo de la IA de manera responsable y sostenible. Los laboratorios de investigación y las empresas que trabajan en el desarrollo de la IA deben estar comprometidos con la ética y la transparencia en todas las etapas del proceso.

Es necesario establecer frameworks que permitan el desarrollo de la IA de manera responsable y que reduzcan su impacto económico y social negativo.

Untitled(92).png

2 propuestas para regularizar el uso de IA

Existen algunas propuestas hechas por gobiernos, emprendedores, founders, docentes, expertos y laboratorios de investigación sobre la regulación de IA y su uso responsable. Durante la semana anterior, destacaron especialmente dos eventos.

1. Pause Giant AI Experiments

Elon Musk, Steve Wozniak, Stuart Russell y otros fundadores y docentes han publicado una carta abierta solicitando que se detenga la investigación en IA superior a GPT4 durante 6 meses para amortiguar el posible impacto en la sociedad.

A continuación, se presentan los principales puntos de la propuesta:

  • Los laboratorios de IA y expertos independientes deben trabajar juntos para desarrollar protocolos de seguridad compartidos durante la pausa.
  • La investigación y el desarrollo de IA deben centrarse en mejorar la precisión, seguridad, interpretabilidad, transparencia y robustez de los sistemas actuales.
  • Los desarrolladores deben colaborar con los políticos para establecer sistemas de gobernanza sólidos, incluyendo autoridades reguladoras, supervisión, seguimiento y responsabilidad por daños causados por IA.
  • Al pausar y reenfocar el desarrollo de IA, la humanidad puede disfrutar de un futuro próspero y permitir que la sociedad se adapte.
Untitled(93).png

2. PETITION FOR KEEPING UP THE PROGRESS TEMPO ON AI RESEARCH

Laion AI, uno de los laboratorios open source más grandes, propone la instalación de una supercomputadora internacional financiada públicamente con 100,000 aceleradores de IA para entrenar modelos de código abierto. Esto asegurará la independencia tecnológica y los principios democráticos.

  • Luchar contra la dependencia de instituciones y naciones sin transparencia ni responsabilidad pública, centrada en los grandes laboratorios de investigación.
  • Invitar a la UE, EE. UU., Reino Unido, Canadá, Australia y otros países a colaborar en un centro de investigación de supercomputación de código abierto, similar al proyecto CERN pero orientado a IA.
  • Hacer accesibles modelos avanzados de IA, como GPT-4, para investigadores e instituciones en todo el mundo, mejorando la investigación académica, la transparencia y la seguridad de datos.
  • Establecer laboratorios con niveles de seguridad bien definidos para investigación de alto riesgo en seguridad IA, compartiendo resultados de forma transparente.
  • Fomentar un entorno de investigación transparente, consciente de la seguridad y colaborativo, en lugar de obstaculizar el desarrollo de IA y limitar el escrutinio público (o sea, no pausar la investigación en IA).

Construyamos el futuro

La IA es una fuerza transformadora y con un gran potencial para mejorar la vida de las personas. Sin embargo, es necesario establecer políticas y regulaciones para garantizar que su desarrollo sea responsable y sostenible.

La regulación de la IA es un desafío complejo, pero es fundamental para garantizar que la IA tenga un impacto positivo en la sociedad y en el mundo en general.

Te dejo algunos enlaces que pueden interesarte:

¡Sígueme en Instagram/Twitter/TikTok como @alarcon7a para hablar sobre IA y temas relacionados a los datos!

Alarcon7a
Alarcon7a
alarcon7a

15416Puntos

hace un año

Todas sus entradas
Escribe tu comentario
+ 2
3
69294Puntos

En un curso de Coursera se menciona que las IAs, deben ser auditadas contantemente para evitar que caigan en sesgos.
Adicionalmente yo creo que cuando surgieron los drones, surgueron leyes y regulaciones de los mismos, como que no se puedan acceder a ciertas areas, como zonas turisticas porque estas consumiendo gratuitamente. Otro ejemplo es que se desarrollaron armas para desactivar drones porque estos pueden acceder a zonas militarizadas y de igual forma adquirir información.
Analagomanete de esas regulaciones que exite con los drones, ahora se esta aplicando con las IA que cada vez son mas complejas.
Algo que yo veía mucho en las peliculas de ciencia ficción, tipo Ghost in the Shell, Odisea en el espacio 2001, Blade Runner, se plantea la gobernavilidad de las IAs; es decir que tanto dejo que la IA tenga control sobre mi negocio, sobre mis datos, sobre mis dispositivos, e inclusive sobre mi mismo.

3
37499Puntos
un año

Muy interesante el post, pero pienso que no se va detener el avance de las IAs hasta que se llegue al tope matemático o tecnológico en la aplicación a gran escala, opinó que detrás de estas grandes empresas y laboratorios hay intereses economicos y politicos (vean los casos de expertos éticos que son retirados de sus cargos) exigiendo más resultados y sí no lo hacen ellos lo harán en otros lados del mundo por eso la mejor alternativa es subirse, estudiar y entender mejor cómo utilizar estos modelos en nuestros trabajos o vidas cotidiana.

1
69294Puntos
un año

Estoy de acuerdo con el compañero, mucho que investigar, muchas áreas de negocios.

2
33669Puntos

Genial post, la verdad algo tan disruptivo enfrenta muchos retos. Es fascinante ver como se desarrolla todo tan rápido.

1
69294Puntos
un año

Estoy de acuerdo contigo, es facinante.