IA Generativa · Inteligencia Artificial Generativa

La Inteligencia Artificial Generativa es una tecnología de IA que genera contenido automáticamente en respuesta a indicaciones escritas.

Introducción a la IA Generativa: la inteligencia artificial generativa es una tecnología de Inteligencia Artificial (IA) que genera contenido automáticamente en respuesta a indicaciones (prompts) escritas. El contenido generado incluye textos, códigos de software, imágenes, vídeos y música.

Introducción a la IA Generativa

La IA Generativa se entrena utilizando datos de páginas web, conversaciones en redes sociales y otros contenidos online. Genera sus resultados analizando estadísticamente la distribución de palabras o píxeles u otros elementos en los datos que ha ingerido, e identificando y repitiendo patrones comunes (por ejemplo, qué palabras suelen seguir a qué palabras).

Hay muchos otros tipos de aplicaciones de IA, que no involucran IA Generativa, que están teniendo un impacto en la enseñanza y el aprendizaje. Estos otros tipos de IA (conocidos como “enseñanza y aprendizaje con IA” o “AIED”) se abordarán con más detalle a medida que se desarrollen estas páginas web.

Puntos importantes a recordar:

IA Generativa parece precisa… pero no lo es.
IA Generativa parece inteligente… pero no lo es.
IA Generativa parece que entiende… pero no es así.

IA Generativa de texto

En respuesta a un mensaje (prompt) escrito por un humano, la IA Generativa genera texto que generalmente aparece como si lo hubiera escrito un humano.

Sin embargo, al igual que los textos escritos por humanos, los resultados de texto que la IA Generativa pueden ser superficiales, inexactos, poco confiables y llenos de errores.

“Los grandes modelos de lenguaje (Large Language Models) [que es la tecnología detrás de la IA Generativa de texto] son los máximos idiotas porque están diseñados para ser plausibles (y por lo tanto convincentes) sin tener en cuenta la verdad”.
Carissa Véliz, profesora asociada, Universidad de Oxford

A pesar de las apariencias, la IA Generativa de texto no comprende ni el mensaje escrito por el humano ni el texto que genera.

Cada vez que utilizamos una herramienta de IA Generativa de texto, debemos considerar su resultado desde una perspectiva escéptica.

Ejemplos de herramientas de IA Generativa de texto:

Bard (Google)
ChatGPT (OpenAI)
Claude (Anthropic)
Hugging Chat (HuggingFace)
Llama (Meta)

Tenga en cuenta que IAGenerativa.es no recomienda específicamente ninguna de las herramientas de esta lista.

Ejemplos de otras herramientas de IA Generativa creadas sobre herramientas de Inteligencia Artificial Generativa:

ChatPDF (resume y responde preguntas sobre los documentos PDF enviados).
Elicit (tiene como objetivo automatizar partes de los flujos de trabajo de los investigadores, identificando artículos relevantes y resumiendo información clave).
WebChatGPT (extensión de Google Chrome que brinda acceso a Internet ChatGPT para permitir conversaciones más precisas y actualizadas).
Microsoft ha incorporado ChatGPT en su motor de búsqueda Bing, y está implementando ChatGPT en todo su portfolio de Office.

Tenga en cuenta que IAGenerativa.es no recomienda específicamente ninguna de las herramientas de esta lista.

IA Generativa de imagen / vídeo / música

La IA Generativa de imágenes, vídeos y música puede generar resultados basados en indicaciones (prompts) escritas por humanos. Algunas también pueden responder a indicaciones visuales o musicales.

La apariencia de las salidas de la IA Generativa de imágenes, vídeo y música puede parecer novedosa. Sin embargo, normalmente son sólo combinaciones complejas de los millones de imágenes / vídeos / música que han ingerido durante su entrenamiento.

Por un lado, así es como suele funcionar la creatividad. Por ejemplo, la música rock and roll combinaba ideas del R&B, el góspel y la música country.

Pero lo más importante es que el Rock and Roll se basó en ideas de trabajos anteriores. Mientras tanto, la IA Generativa en realidad utiliza trabajos anteriores en sus productos y sin el consentimiento de los creadores originales.

Otro problema planteado por la IA Generativa de imagen es lo difícil que puede ser escribir un mensaje (prompt) eficaz. Por ejemplo, la innovadora imagen de IA Théâtre D’opéra Spatial requirió semanas de redacción rápida y ajuste de cientos de imágenes.

Ejemplos de herramientas de IA Generativa de imagen / vídeo / música:

DALL-E 2 (herramienta de IA Generativa de imágenes de OpenAI).
DreamStudio (herramienta de IA Generativa de imágenes de Stable Diffusion).
Midjour n ey (herramienta de IA Generativa de imagen).
Runway (herramienta de IA Generativa de vídeo).
Boomy (herramienta de IA Generativa de música).
Voicemod (herramienta de IA Generativa de música).

Tenga en cuenta que IAGenerativa.es no recomienda específicamente ninguna de las herramientas de esta lista.

¿Cómo funciona la IA Generativa?

Tanto la IA Generativa de texto como de imagen se basan en un conjunto de técnicas de IA que han estado disponibles para los investigadores desde hace años, y se han construido una encima de otra.

IA Generativa de texto

Aunque los términos que se enumeran a continuación se utilizan con frecuencia en las descripciones de IA Generativa, no es necesario comprender exactamente lo que significan. Lo más importante a tener en cuenta es la jerarquía de las tecnologías y su complejidad.

ChatGPT (y otras IA Generativa de texto) es un tipo de:

Transformador generativo preentrenado (GPT: un tipo avanzado de LLM)

que es un tipo de modelo de lenguaje grande (LLM: una representación masiva basada en ordenador de ejemplos de lenguaje natural)

que es un tipo de transformador de propósito general (un procesador de lenguaje ANN)

que es un tipo de Red Neuronal Artificial (RNA: un enfoque de ML inspirado en cómo funciona el cerebro humano, sus conexiones sinápticas entre neuronas)

que es un tipo de Machine Learning (ML: un enfoque de la IA que utiliza algoritmos para mejorar automáticamente su rendimiento a partir de datos)

que es un tipo de Inteligencia Artificial.

Problemas relacionados con el entrenamiento de un GPT de texto

Para que una IA Generativa de texto pueda generar texto, primero hay que entrenarla. Esto implica que la herramienta reciba y procese enormes cantidades de datos extraídos de Internet y de otros lugares. OpenAI informa, pero no lo confirma, que el entrenamiento de GPT4 implicó un millón de gigabytes de datos. El procesamiento de estos datos implica identificar patrones, como qué palabras suelen ir juntas (por ejemplo, “Feliz” suele ir seguido de “Cumpleaños”).

Huella de carbono

Entrenar un GPT requiere enormes cantidades de energía y genera indirectamente enormes cantidades de carbono, con importantes consecuencias para el cambio climático. Por ejemplo, se estima que el entrenamiento de GPT3 (el GPT utilizado por la primera versión de ChatGPT puesta a disposición del público) consumió 1.287 megavatios hora de electricidad y generó 552 toneladas de dióxido de carbono, el equivalente a 123 coches conducidos durante un año.

Bucle de retroalimentación

Otra preocupación es que cuando se entrenen los futuros GPT, es probable que los datos que ingieran incluyan cantidades sustanciales de texto generado por versiones anteriores de GPT. Este bucle autorreferencial podría contaminar los datos de entrenamiento y comprometer las capacidades de futuros modelos GPT.

Costes humanos

Una vez que se entrena el modelo de texto de IA Generativa, pero antes de usarlo, a menudo se verifica y refina en un proceso conocido como aprendizaje por refuerzo a partir de la retroalimentación humana (Reinforcement Learning from Human Feedback, RLHF). En RLHF, revisores humanos revisan y validan las respuestas de texto de la IA Generativa. Estos revisores humanos garantizan que las respuestas de la IA Generativa sean apropiadas, precisas y estén alineadas con el propósito previsto. A veces, el proveedor de IA Generativa establece lo que se conoce como “guarda raíles” para evitar que la IA Generativa genere materiales objetables.

En el desarrollo de ChatGPT, los revisores de RLHF eran en su mayoría trabajadores de países del sur global, como Kenia. A los trabajadores se les pagaba menos de 3 dólares por hora para revisar los resultados de ChatGPT e identificar cualquier material objetable o desagradable. Este trabajo ha tenido un enorme impacto negativo en muchos de los que participaron.

Cómo genera texto un GPT

Una vez que se ha entrenado el GPT, generar una respuesta de texto a un mensaje implica los siguientes pasos:

1. El mensaje se divide en unidades más pequeñas (llamadas tokens) que se ingresan en el GPT.

2. El GPT utiliza patrones estadísticos para predecir palabras o frases probables que podrían formar una respuesta coherente al mensaje (prompt).

El GPT identifica patrones de palabras y frases que comúnmente coexisten en su modelo de Big Data prediseñado (que comprende texto extraído de Internet y de otros lugares).

Utilizando estos patrones, el GPT estima la probabilidad de que aparezcan palabras o frases específicas en un contexto determinado.

Comenzando con una predicción aleatoria, el GPT utiliza estas probabilidades estimadas para predecir la siguiente palabra o frase probable en su respuesta.

3. Las palabras o frases se filtran a través de lo que se conoce como “guarda raíles” para eliminar cualquier contenido ofensivo.

4. Se repiten los pasos 2 a 3 hasta finalizar una respuesta. La respuesta se considera finalizada cuando alcanza un límite máximo de tokens o cumple con los criterios de parada predefinidos.

5. La respuesta se procesa posteriormente para mejorar la legibilidad aplicando formato, puntuación y otras mejoras (como comenzar la respuesta con palabras que un humano podría usar, como “Claro”, “Ciertamente”, “Estoy seguro” o “Lo siento”).

IA Generativa de imagen y música

La IA Generativa de imagen y música utiliza un tipo diferente de ANN conocido como Redes Generativas Adversiales (Generative Adversial Networks, GAN) que también se pueden combinar con Variational Autoencoders. Aquí, nos centramos en las GAN de imágenes.

Las GAN tienen dos partes (dos “adversarios”), el “generador” y el “discriminador”. El generador crea una imagen aleatoria en respuesta al mensaje escrito por un humano, y el discriminador intenta distinguir entre esta imagen generada y las imágenes reales. Luego, el generador utiliza el resultado del discriminador para ajustar sus parámetros y crear otra imagen.

Este proceso se repite, posiblemente miles de veces, y el generador genera imágenes cada vez más realistas que el discriminador es cada vez menos capaz de distinguir de las imágenes reales.

Por ejemplo, una GAN exitosa entrenada con un conjunto de datos de miles de fotografías de paisajes podría generar imágenes de paisajes nuevas, pero irreales, que son casi indistinguibles de fotografías reales.

Mientras tanto, una GAN entrenada en un conjunto de datos de música popular (o incluso música de un solo artista) podría generar nuevas piezas musicales que son muy similares, pero aún diferentes en estructura y complejidad de la música original.

¿Cuáles son las fortalezas y debilidades de la IA Generativa?

Algunos de los beneficios de la IA y por qué deberíamos evaluar críticamente sus resultados.

Fortalezas de la Inteligencia Artificial Generativa

La IA Generativa puede producir resultados diversos y aparentemente originales, creando contenido que quizás no se haya visto antes, basándose en patrones en los datos con los que fue entrenada.

La IA Generativa puede procesar e interpretar el lenguaje humano, lo que le permite generar respuestas contextualmente relevantes a las indicaciones (prompts) de los usuarios.

La IA Generativa puede procesar y generar texto en varios idiomas.

La IA Generativa se puede ajustar para diversas tareas y dominios, lo que los hace ampliamente aplicables (por ejemplo, chatbots, generación de contenido y traducción de idiomas).

La IA Generativa puede aprender patrones y representaciones a partir de grandes cantidades de datos, lo que les permite capturar matices en el lenguaje y generar resultados basados en los patrones que han visto durante el entrenamiento.

La IA Generativa puede recordar interacciones anteriores, lo que da como resultado experiencias de conversación más coherentes y relevantes para los usuarios.

La IA Generativa puede generar respuestas rápidamente, lo que permite interacciones rápidas y aplicaciones en tiempo real.

Debilidades de la Inteligencia Artificial Generativa

La IA Generativa puede generar información que parece objetiva, pero que es inexacta.

Es potencialmente peligroso que los modelos de IA Generativa parecen comprender el contenido que utilizan y generan, pero en realidad no lo comprenden. Esto podría llevar a que los usuarios hayan perdido la confianza en el resultado de la IA Generativa.

Los resultados de la IA Generativa imitan o resumen el contenido existente – en su mayoría sin el permiso de los propietarios de la propiedad intelectual – pero pueden dar la apariencia de creatividad.

La IA Generativa puede producir contenido que sea moral y éticamente preocupante, y su uso puede plantear cuestiones morales y éticas.

Entrenar y ejecutar modelos de IA Generativa puede requerir importantes recursos computacionales y energéticos.

Resultados de la Inteligencia Artificial Generativa

Los resultados de la IA Generativa deben moderarse para establecer “guarda raíles” que impidan que genere resultados inapropiados u ofensivos. Para ChatGPT, esto fue realizado por trabajadores mal pagados en Kenia, muchos de los cuales sufrían problemas de salud mental debido a la perturbadora producción que habían presenciado.

La IA Generativa se puede utilizar para generar automáticamente noticias falsas y deep fakes.

La IA Generativa está contribuyendo a la brecha digital. Se basa en enormes cantidades de datos y una enorme potencia informática, que en su mayoría sólo está disponible para las mayores empresas tecnológicas internacionales y unas pocas economías. Esto significa que la posibilidad de crear y controlar la IA Generativa está fuera del alcance de la mayoría de las personas, especialmente las del Sur Global.

Si bien entendemos en términos generales cómo funciona la IA Generativa, debido a su complejidad, generalmente es imposible saber por qué produce resultados particulares.

El resultado de la IA Generativa está inundando Internet. Esto plantea un riesgo recursivo interesante para futuros modelos GPT. Estos mismos recibirán entrenamiento sobre el contenido online que han creado modelos GPT anteriores (incluidos todos sus sesgos y errores).

La IA Generativa tiende a generar respuestas estándar que replican los valores de los creadores de los datos utilizados para entrenar los modelos. Esto puede limitar el desarrollo de opiniones plurales y marginar aún más las voces marginadas.

Más información:

Encuentre una amplia gama de comentarios y recursos para fundamentar sus propios puntos de vista. Tenga en cuenta que incluir un enlace en esta página no sugiere que la UCL apoye o respalde las opiniones expresadas.