2.2 ¿Cómo utilizar LangChain en mi equipo?
La barrera de entrada es cada vez más pequeña, los costos actuales son cada vez menores. Se necesita de un ingenier@ de software
que sea capaz de programar un sistema que permita la concurrencia de muchos usuarios haciendo multiples peticiones al mismo tiempo.
Se necesita un equipo de software capaz de implementar de forma eficiente el cómo se utiliza un API.
Respecto a los datos y seguridad: si vamos a utilizar un proveedor (OPENAI, COHERE, etc.) hay que conocer la política de privacidad
del uso de los datos (pero realmente los datos sí los pueden conocer ellos y hay que ser conscientes de ello). Si la privacidad
de los datos es fundamental para tu empresa y no quieres que estén en un servidor, puedes utilizar modelos, embeddings y bases
de datos open source.
En el futuro serán vitales las personas que conozcan los sistemas open source que pueden ser utilizados de forma local,
como les podemos entrenar para los datos específicos de nuestro problema a resolver. El tiempo en que una empresa pueda
implementar LangChain y LLMs recae más en puestos de ingeniería de software más que en puestos de data scientist o ml engineer.
El punto es saber cómo conectar con las APIs, escalarlas y después conectar con un proveedor de nube, para que corra el modelo.
Se necesita pensar en:
- La privacidad de los datos
- La concurrencia de las peticiones
- ¿Qué vas a hacer con la información extraída?
¿Quieres ver más aportes, preguntas y respuestas de la comunidad?