Creado a fines de 2015, OpenAI es una organización de investigación de inteligencia artificial sin fines de lucro, respaldada y cofundada por Elon Musk y otros profesionales de la industria cibernética. Con más de sesenta investigadores y apoyo financiero de Microsoft, AWS e Infosys, OpenAI ha desarrollado a 'GPT-2', un modelo de inteligencia artificial (IA) capaz de comprender y completar textos, continuar la historia o narración, responder preguntas adaptándose a diferentes estilos de escritura y resumir un guión.
"GPT-2 es un modelo extendido de transformación de lenguaje con 1.500 millones de parámetros, formado en un conjunto de datos de 8 millones de páginas web", dice OpenAI a través de su blog. “El sistema se basa en métodos de aprendizaje automático, que sirven para mejorar su rendimiento tanto por la calidad del resultado como por la variedad de funciones posibles”, informó la compañía.
[single-related post_id="1037498"]
El modelo fue entrenado con un solo objetivo: tener éxito en la predicción de la siguiente palabra en un texto, al conocer todas las palabras anteriores. Es por eso que la amplia muestra de textos administrados al sistema sirvió para crear esta capacidad. “Hemos capacitado un modelo de lenguaje no supervisado a gran escala que genera párrafos de texto coherentes, logra un rendimiento de vanguardia en muchos puntos de referencia de modelado de idiomas y realiza una comprensión de lectura rudimentaria, traducción automática, respuesta a preguntas y resumen, todo sin entrenamiento específico a la tarea”, aseguró en el comunicado.
A modo de ejemplo, los investigadores le dieron a GPT-2 un texto escrito por humanos para que el sistema continuara con la narración. "En un hallazgo impactante, un científico descubrió una manada de unicornios que viven en un valle remoto, previamente inexplorado, en las montañas de los Andes. Aún más sorprendente para los investigadores fue el hecho de que los unicornios hablaban un inglés perfecto", dice el texto original.
La IA, por su parte, generó el resto del artículo: "El científico nombró a la criatura, por su distintivo cuerno, el Unicornio de Ovidio. Estos unicornios blancos plateados de cuatro cuernos eran previamente desconocidos para la ciencia. Ahora, después de casi dos siglos, el misterio de lo que provocó este extraño fenómeno finalmente está resuelto. El doctor Jorge Pérez, un biólogo evolutivo de la Universidad de La Paz, y varios compañeros, estaban explorando las montañas de los Andes cuando encontraron un pequeño valle, sin otros animales o humanos...".
OpenAI, en su comunicado, destaca el resultado del texto como un hecho excepcional. Es por esta razón que los autores de este proyecto tomaron la decisión “negar la publicación de la investigación por temor a un posible mal uso, como generar noticias falsas a escala global.
"Debido a las preocupaciones sobre el uso de plantillas de lenguaje grandes para generar un lenguaje engañoso, parcial o abusivo, solo estamos lanzando una versión mucho más simple de GPT-2 con un código de muestra. No publicamos el conjunto de datos, el código de capacitación o los modelos GPT-2", dijo OpenAI. La compañía señala que lanzará una versión más pequeña de GPT-2, dando tiempo a la comunidad de IA para discutir el impacto social de tales sistemas.
