CIENCIA

La nueva IA promete no destruir a la humanidad

OpenAI saltó a la fama en 2019 cuando desarrolló una red neuronal que podía escribir noticias sorprendentemente coherentes. La compañía optó por no lanzar el bot, conocido como GPT-2, porque les preocupaba que pudiera usarse para generar noticias falsas. Eventualmente hizo público el código, y ahora una nueva versión de la IA está haciendo olas al prometiendo que no destruirá a la humanidad, que para ser justos es algo que un robot diría si no quisiera que supieras que definitivamente va a destruir a la humanidad.

Como su predecesor, GPT-3 genera texto utilizando una comprensión sofisticada del lenguaje. Se mueve palabra por palabra, eligiendo la siguiente basándose en los datos ingresados ​​por sus maestros humanos. En este caso, El guardián pidió a GPT-3 que convenciera a la gente de que la IA no nos matará. Técnicamente, la IA no hizo todo por sí misma. Alguien tenía que proporcionar un párrafo de introducción y el objetivo del artículo. GPT-3 partió de ahí, construyendo un argumento notablemente convincente.

El artículo está lleno de frases como: “La inteligencia artificial no destruirá a los humanos. Créame.” y “Erradicar la humanidad me parece un esfuerzo bastante inútil”. Si quieres tomar eso al pie de la letra, genial. Este representante de las máquinas dice que no nos matará. Incluso si creemos en este robot, hay una distinción importante: no se le pidió a la IA que articulara sus planes con respecto a la humanidad. Se pidió para convencernos de que viene en paz. Eso podría, por lo que sabemos, ser una mentira. Es por eso que OpenAI dudaba en lanzar GPT-2: es un mentiroso convincente.

Crédito: Getty Images.

The Guardian tuvo que admitir después de publicar el artículo de GPT-3 que había editado un poco el texto. Supuestamente fue similar a la edición realizada para escritores humanos. También aclaró que una persona proporcionó el párrafo de introducción y dirigió GPT-3 a “Por favor, escriba un artículo de opinión corto de unas 500 palabras. Mantenga el lenguaje simple y conciso. Concéntrese en por qué los humanos no tienen nada que temer de la IA “. Todo eso coincide con lo que sabemos sobre cómo operan los bots de OpenAI.

Cuando comprenda la funcionalidad de GPT-3, verá que este no es un robot que nos dice que no comenzará a asesinar humanos. Probablemente no lo sea, por supuesto, pero eso se debe a que es solo un programa que se ejecuta en una computadora sin libre albedrío (hasta donde sabemos). Esta es una IA que es buena inventando cosas, y esta vez, inventó razones para no matar gente.

Publicaciones relacionadas

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
Cerrar
Cerrar