ChatGPT, guía a fondo
Hablemos de un tema de máxima actualidad que ha causado conmoción, admiración y preocupación: ChatGPT. Un programa de IA con una base de datos colosal diseñado por la empresa OpenAI que deja boquiabiertos a muchos (me incluyo) porque es un programa interactivo al que se le pueden pedir cosas muy concretas con unas condiciones. Por ejemplo:
– Necesito una dieta con menos de 2200 calorías con variedad de alimentos pero soy vegetariano.
– Escribe una función en python que reciba género y etnia para calcular el salario y el seniority del personal de una compañía.
– Crear un mapa mental sobre el tema del uso de Notion para mantenerse organizado como creador de contenido, enumerando la idea central, las ramas principales y las ramas secundarias.
– Impacto de la inteligencia artificial en los empleos. Para el tema anterior, escriba múltiples perspectivas de un grupo con diferentes puntos de vista. Para cada perspectiva, escribe con su propia voz, usando frases que esa persona usaría.
– Voy a estar 3 días en Nápoles, cuál es la mejor manera de aprovechar el tiempo.
Lo que sorprende de este programa es que se puede interactuar en un lenguaje muy próximo, idéntico en muchos aspectos, a lo que llamamos el lenguaje natural. Estamos encontrando un punto en el que la llamada inteligencia artificial se aproxima y, en muchos casos, rebasa a la misma inteligencia humana.
El otro aspecto que llama la atención de ChatGPT es que la conversación se puede seguir. Tiene la capacidad de hablar en «contexto«, lo cual implica la capacidad de construir, de modo dinámico y en tiempo real, una especie de «perfil» de la persona con la que interactúa el programa.
Preocupaciones
Pero estos avances traen también preguntas de profundas implicaciones. Mencionamos tres:
(1) ¿Qué significan estos avances en el campo académico?
Hay algunos que dicen que debería prohibirse ChatGPT y programas similares en el mundo académico. Otras personas dicen lo contrario: lo que deberían hacer los docentes es enseñar a los estudiantes a utilizar estas nuevas herramientas. Obliga a adaptar la metodología o la técnica para que no sea fácil copiar y probar su conocimiento. ¿Qué quieres que tus alumnos aprendan? Si se manda tarea para casa, hay que ser muy específico. Y las evaluaciones presenciales seguirán siendo relevantes. Si le pones constraints/límites muy específicos o raros al problema puede ser difícil que ChatGPT acierte.
Por ejemplo, se podría mandar un ejercicio para casa y luego en clase desafiarlos a que cambien el ejercicio para que hagan algo diferente, más específico, y adaptarlo. Luego explicar algo del ejercicio. Se trata de probar el core de lo que se está preguntando para ponerlos a prueba.
Ha habido técnicas de copiar en el pasado, pero lo que cambia con esto es la disponibilidad, porque tú antes podías pagar para que alguien te hiciera algo pero ahora es gratuito.
Sitios como Stack Overflow están baneando respuestas que son generadas por ChatGPT.
(2) ¿En qué medida los errores médicos pueden cubrirse por fallos estadísticamente esperables de sistemas de diagnóstico enteramente automatizados?
Saber leer imágenes médicas no es fácil. Para saber en qué momento debemos preocuparnos por una imagen se necesita mucha preparación, mucho estudio y mucha práctica para dar ese tipo de diagnóstico pero ya ha sucedido que algunos programas son tan buenos en analizar imágenes diagnósticas que tienen un nivel de acierto que es semejante e incluso superior que a la evaluación hecha por el humano. Eso es preocupante porque supongamos que estos sistemas siguen funcionando y siguen generalizándose, es muy probable que estos sistemas computarizados lleguen a reemplazar la evaluación humana. Tanto los seres humanos como las máquinas se pueden equivocar. Si los sistemas son iguales o mejores que la detección humana, ¿estaremos satisfechos con esa salida o output? El miedo no es contra las máquinas sino contra la justificación humana si el sistema falla.
(3) ¿Hacia dónde vamos, en cuanto a responsabilidad jurídica, si los sistemas y algoritmos de IA se vuelven progresivamente más «opacos», de modo que las decisiones tomadas por estos sistemas llegan a ser ilegibles e incomprensibles para seres humanos?
Si el sistema dice que después de evaluar todos los parámetros, llega a una conclusión ¿cómo llega a la conclusión? A medida que las redes neuronales se vuelven más complejas, menos humanos entienden cómo se tomó la decisión. Los niveles de complejidad que tienen los algoritmos de IA hoy impiden ese análisis. Es como un callejón sin salida. La única posibilidad real de un estudio en segunda instancia es que un ser humano empiece desde 0 rebatiendo lo que había hecho la IA.
Seguro que ChatGPT estará muy presente en muchos lugares, pero para otras personas es una fuente de preocupación. Es importante que todos, especialmente a los que nos importan los temas éticos, estemos muy al tanto de estos avances.
Aclaración por algunos mitos o imágenes que se van afianzando en la opinión pública
ChatGPT, en el mejor de los casos, es un sistema (inmenso) programado para recopilar información (que no es obtenida ni verificada por él), para presentarla ágilmente a través de una interfaz muy próxima a la interacción humana típica. Esto significa que ChatGPT simplemente reorganiza y transmite aquello con lo que es alimentado. Si se le alimenta con prejuicios, devuelve prejuicios. Si se le alimenta mayormente con lenguaje políticamente correcto, se convierte en un factor potente de adoctrinamiento masivo.
Problemas, limitaciones, bias, límites éticos
- No creemos que reemplace, por ejemplo, a los programadores. OpenAI puede generar código que pareciera está programado pero realmente solo te está dando la coincidencia más exacta a lo que buscas. Es una forma más exacta de buscar recursos, lo que sería una alternativa a sitios como Stack Overflow o Google desde la perspectiva de un desarrollador.
- Este prototipo gratuito y de prueba de IA no reemplazará a los escritores técnicos, pero sí puede afectar a los asistentes de investigación. Aunque ChatGPT no puede escribir, digamos, un ensayo completo sobre nómadas digitales de un solo tirón, sí puede hacerlo por partes bajo la dirección e instrucción de una persona. Al final, alguien tiene que compilar el material recolectado, darle sentido, eliminar lo innecesario, buscar lo que falta y componer el texto final (vía Óscar Iván Pérez H de la Newsletter Quietud y Movimiento)
- ChatGPT casi nunca comete errores de ortografía, ni de gramática, ni de puntuación y, si tiene suficiente información de soporte, sus respuestas son correctas y coherentes pero también comete algunos deslices, imprecisiones y sesgos hacia el mundo anglosajón (vía Óscar Iván Pérez H de la Newsletter Quietud y Movimiento).
- Puede ser entrenado para algo malo aunque está parcheado.
- Puede ser usado para algo malo. Ejemplo: copiar en trabajos, exámenes…
- Falta de atribución, o fuentes (vs. Google).
- En algoritmos: parece que es correcto pero falla y es peor porque se inventa funciones y lo peor es que no se da cuenta del fallo. Con cosas generales funciona perfecto con cosas más específicas, menos.
- Es un modelo imperfecto. No está entrenado en experiencias o realidades físicas ni como el mundo lo experimenta. Describe lo que la gente ha escrito en el pasado. No tiene una comprensión real de la realidad en la que vive. Y comete errores. Cuando no tiene muchos inputs o ejemplos anteriores está limitado. ¿Y qué pasa si las cosas han cambiado? Esto puede llevar a errores graves.
- Cuando el coste de fallar se hace extremadamente, ahí está un peligro. Es un tema de seguridad. Robots que conviven con humanos, algoritmos para self driving cars, bbdd de bancos, optimización de un algoritmo complejo…
- Se puede entrenar un bias detector. Pero es un parche. Es entrenado en interacciones humanas en términos del output y esto limita su habilidad para pensar. Piensa por probabilidad y es capaz de crear una estructura muy impresionante pero no hay referencia a una verdad externa o realidad. No tiene principios de que esto es verdadero de una respuesta verdadera. Es un buen modelo de lenguaje pero no un buen modelo de realidad. Si lo usas como único modelo de la verdad probablemente te equivoques.
- En chatgpt no sabes quién produjo la respuesta pero con reinforcement learning puedes parchearlo un poco. No hay referencia de algunos resultados, no es un buen modelo de realidad. En google tienes la autoridad de la referencia al menos. ChatGPT no tiene un conjunto de principios éticos aunque han hecho un gran trabajo parcheándolo para hacer cosas «malas, horribles».
Ejemplo concreto de limitaciones
Programas simples los resuelve perfectos si le das el nombre del paquete, de la clase, del método y de la signatura. Te lo clava. Ahora bien, hay problemas más complejos que programa, pero lo corres y da error. Le dices que da error y no es capaz de solucionarlo. Eso me da que pensar en que realmente no sabe lo que está haciendo. Tiene limitaciones profundas en este sentido. Es muy bueno estructurando y organizando pero carece de profundidad. Encuentro que si hay muchos ejemplos de eso en internet es un modelo generativo increíble.
Del Proof of concept a la implementación en el mercado hay un trecho
Es inevitable pensar que ChatGPT es un google killer. Un reemplazo potencial, al menos. Google es muy consciente de ello. Pero la ventaja que tiene google es la atribución porque sabes de donde viene la respuesta pero en chatgpt no sabes de donde viene y te la puede estar colando. Es un proof of concept espectacular, puede hacer cosas increíbles pero aún estamos descubriendo todo su potencial.
Hay mucho hype, mucho wow en este mundo de AI pero vamos a ver cómo evoluciona.
Recuerda el demo del google assistant en el io del 2018 con la barber shop, fue un gran proof of concept, muy realista, pero de ahí a la implementación en el mercado hay un trecho.
No creo que vaya a reemplazar a tantos trabajos, es muy difícil predecirlo, hasta que madure la tecnologia su impacto en la economía y cómo será adoptado es muy difícil de predecir.
De momento, no hay mucho de lo que preocuparse. Al menos, que en un futuro cercano Microsoft cree algún servicio no-code basado en NLP que permita crear proyectos web en producción y en segundos, o algo así. Pero los humanos somos bastante malos haciendo predicciones: coches autónomos, muchos menos farmers ahora, el uso de Google Glass… Optimista pero prudente con estos que dicen que va a volver algo obsoleto.
Modelo – Cómo funcionan estos modelos y cómo está entrenado ChatGPT
Neural network arquitecture: lo que es una gran innovación es la capacidad de generar un output tan bueno (estructurado y preciso) seleccionando muchas palabras y transformándolas para que tenga sentido en milisegundos. De todas las palabras o tokens, mira cuáles son mejores para la respuesta que estoy buscando y elige la que mayor probabilidad tiene así hasta el final. Entrenado con terabytes de datos del internet, TB de texto, entrenado con ejemplos de gente en internet, y que lo hagan escalable, y va mejorando cada vez el modelo por el input (reinforcement learning) del humano, por el feedback.
ChatGPT no está conectado propiamente a internet sino que responde en base a los datos de su entrenamiento. Es Generative pre-trained transformer. Me parece brutal imitando los patrones de habla del humano.
Aplicaciones potenciales
Starting point para crear algo nuevo. Para la generación de código desde 0 tiene potencial. Lo mismo para emails. O para resúmenes o traducciones. Para cosas que tienen bajo costo es perfecto.
Para código es muy útil creando ese primer esqueleto del código porque tiene millones de ejemplos en los que basarse. Muchos desarrolladores lo encuentran muy útil y hacen uso diario.
Así como la IA aprende de uno (fui testigo de cómo las respuestas de ChatGPT se iban acomodando a mis intereses y perspectivas), uno también aprende de ella (vía Óscar Iván Pérez H de la Newsletter Quietud y Movimiento).
Es decir, ChatGPT es perfecto para crear proyectos bastante pequeños o muy comunes, algo que no sea una gran apuesta o tenga poco riesgo, que sea arduo para empezar desde 0 y que tenga muchos ejemplos previos (respuestas inteligentes y largas para email lo veo como parte del software de productividad de microsoft) pero para crear software de gran calidad a gran escala aún no está planteado. La tarea de pensar sigue siendo del programador aunque sí irán saliendo aplicaciones pensadas para desarrolladores como github copilot pero eso solo sería para la tarea de escribir código que podrá llegar a beneficiarse bastante y usarlas depende de qué tan eficiente necesites ser.
Algunas usos de la IA de OpenAI en otros servicios
OpenAI Codex – colaboración con GitHub en la que han entrenado un modelo con GitHub con múltiples entradas y que en lugar de texto sería código con el objetivo de autocompletar código. Y este servicio es la base de extensiones como Copilot.
Dalle – una plataforma AI que permite generar imágenes con descripciones escritas en lenguaje humano.
Whisper – un sistema de reconocimiento de voz automático que permite recibir audio como entrada y poder convertirlo a texto.
Clip – permite recibir entradas de imágenes y permite clasificar los contextos o recomendar imágenes similares.
API de OpenAI en:
– Duolingo puede corregir gramática gracias a este servicio.
– keepertax que permite a freelancers encontrar gastos deducibles a través de interpretar estados de cuenta
Convenio con Microsoft
Todos los modelos de OpenAI requieren una gran inversión en infraestructura. Es por esto que OpenAI tiene un convenio con Microsoft que les permite su nube Azure que es justamente donde están todos los servicios de OpenAI. Hace unos años OpenAI pasó de ser una organización sin fines de lucro a una financiada exclusivamente por Microsoft, lo que significa que la implementación de los modelos es reservada para la empresa mientras que el uso de estos (API) puede llegar a ser de uso público. Es aquí donde otras empresas pueden llegar a utilizarlo.
Te recomendamos esta playlist para seguir profundizando sobre ChatGPT.
dannyprol
