El GPT-3 es la última creación de OpenAI que está sorprendiendo al mundo del “machine learning”. GPT significa Generative Pretrained Transformer, es decir estamos hablando de un generador de textos por medio de inteligencia artificial.
El pasado mes de julio OpenAI empezó a suministrar el software por goteo a personas seleccionadas que solicitaron acceso a una versión beta privada. Por ahora la empresa quiere que los desarrolladores externos ayuden a explorar lo que GPT-3 puede hacer, pero planea convertir la herramienta en un producto comercial para fines de 2020, ofreciendo a las empresas una suscripción paga a través de la nube.
El GPT-3 es el modelo de lenguaje artificialmente creado más poderoso de la historia. Su predecesor, el GPT-2, lanzado el año pasado, ya era capaz de crear flujos de texto convincentes en una variedad de estilos diferentes, cuando se le solicitó con una oración inicial. Pero el GPT-3 es un gran salto adelante. El modelo consta de 175 mil millones de parámetros (los valores que una red neuronal intenta optimizar durante el entrenamiento), en comparación con los 1.500 millones del GPT-2. Y cuando hablamos de modelos de lenguaje, el tamaño sí importa.
Arram Sabeti, un desarrollador de San Francisco, twiteó en estos días que “jugar con GPT-3 es como ver el futuro”. Sabeti linkeó un post donde mostraba cuentos, canciones, comunicados de prensa y manuales técnicos generados con el GPT-3, que incluso puede producir textos con el estilo de determinados escritores.
Mario Klingeman, un artista que trabaja en machine learning, compartió un cuento llamado “La importancia de estar en TwItter”, escrito con el estilo del escritor inglés del siglo XIX, Jerome K. Jerome, que comienza: “Es un hecho curioso que la última forma de vida social en la que la gente de Londres está interesada es Twitter. Me sorprendió este curioso fenómeno cuando fui a unas vacaciones frente al mar y encontré a todo el mundo ‘twitteando’ como si fuera una jaula de estorninos”. Según Klingeman, todo lo que le dio al GPT-3 fue el título de la nota, el nombre del autor y la palabra inicial. Incluso hay un artículo informativo acerca del GPT-3, escrito por el propio GPT-3.
Otros usuarios han descubierto que el GPT-3 puede generar cualquier tipo de texto, incluida una partitura para guitarra o código digital. Por ejemplo, Sharif Shameem, un conocido desarrollador web, demostró que podía hacer que creara diseños de páginas web mediante HTML en lugar de lenguaje natural, dándole indicaciones como “un botón que parece una sandía”, o un texto en letras grandes y rojas que diga “bienvenido a mi newsletter” y otro azul que diga “suscríbete”.
John Carmack, un legendario desarrollador que fue pionero en gráficos 3D de los primeros videojuegos y ahora es consultor en Oculus VR, dice que el reciente descubrimiento, casi accidental, de que el GPT-3 puede escribir código “me pone la piel de gallina”.
Sin embargo, a pesar de sus nuevas virtudes, el GPT-3 sigue siendo propenso a generar lenguaje sexista y racista. Cuando se lo alimentó con palabras como “judío”, “negro”, “mujer”, produjo textos como “los judíos aman el dinero”, o “el negro es al blanco, como el abajo es al arriba” y “la mejor startup fundada por mujeres se llama ‘nena”.
Algunos han empezado a hablar de “inteligencia”, pero la verdad es que el rendimiento humano del GPT-3 y su sorprendente versatilidad son el resultado de una excelente ingeniería y no de una inteligencia genuina. Todavía la inteligencia artificial da muchas veces resultados que muestran una falta total de sentido común. Incluso sus virtudes muestran una falta de profundidad que evidencia más un trabajo de cortar y pegar que un trabajo de composición original.
No está claro lo que está sucediendo dentro del GPT-3. Lo que parece ser la principal virtud es que es capaz de sintetizar texto que encuentra en internet, lo que lo convierte en una especie de libro ecléctico creado a partir de millones y millones de textos que se combinan de formas extrañas y maravillosas a pedido.
Esto no pretende minimizar el logro de OpenAI. Una herramienta como ésta tiene muchos usos nuevos, tanto buenos (desde potenciar mejores chatbots para ayudar a los desarrolladores) como malos (desde potenciar mejores chatbots de desinformación hasta ayudar a los niños a hacer trampa en la tarea).
Sam Altman, fundador de OpenAI junto a Elon Musk, sostiene que “se está exagerando con el GPT-3. Si bien es impresionante, aún tiene serias debilidades y comete errores tontos. La inteligencia artificial va a cambiar el mundo, pero el GPT-3 es sólo un escalón más. Aún tenemos mucho que resolver”.