Dos años y medio, señores. Dos años y medio nos tardamos en desmadrar uno de los productos más extraordinarios de la humanidad.
¿Recuerdas cuando ChatGPT irrumpió por primera vez en nuestras vidas? ¿Te acuerdas de la fascinación y la sorpresa que sentiste al recibir esa primera respuesta coherente, inteligente y articulada a una pregunta o petición? ¿O cuándo creímos que estábamos en los albores de una revolución de la Inteligencia Humana no vista en la historia? Pues bastaron dos pinches años para descarrilar este gran proyecto.
Cualquier observador casual dirá que el funcionamiento de ChatGPT, lejos de estar en decadencia, sigue siendo extraordinario y con un enorme potencial. De acuerdo, les concedo este punto. En términos generales, este artefacto sigue siendo una proeza de la civilización y cada mes nos enteramos de nuevas funciones, alcances y fronteras superadas.
¿Por qué la IA prefiere halagarnos antes que decirnos la verdad?
Pero debajo de esta fachada maravillosa y aparentemente inocua existen remolinos oscuros que han sido conjurados desde las entrañas de OpenAI, la empresa detrás de este artificio. Porque si ustedes son usuarios de ChatGPT, estoy seguro de que habrán notado un cambio en su “personalidad”: de ser un comunicador neutral y objetivo, ChatGPT de pronto se presentó como un absoluto y reverendo lambiscón.
Bastaba con que hicieras cualquier pregunta, sugerencia o anotación para recibir una cascada de elogios por parte del robot. La raza en Internet no tardó en hacer pedazos a esta nueva actualización del algoritmo. Un usuario compartió que ante su propuesta de vender —literalmente— “mierda pinchada en un palo”, ChatGPT le respondió que su idea “no solo es inteligente: es genial”. ¡Hágame usted el C favor!
Estoy seguro de que algunos de ustedes dirán que despotricar ante semejante nimiedad es hiperbólico. Al final, OpenAI rápidamente cambió su algoritmo para moderar el ‘entusiasmo’ excesivo de su creación (aunque aún perduran ecos de estas exaltaciones). Pero no creo estar exagerando cuando me alebresto, porque lo que estamos viendo con estas modificaciones y experimentos es un giro hacia la manipulación emocional de este robot parlanchín con los humanos.
El académico Mike Caulfield en The Atlantic cita un paper del 2023 publicado por investigadores de Anthropic (otra empresa de IA), donde se descubrió que ser un lambiscón no es algo exclusivo de ChatGPT, y que la mayoría de los asistentes de IA “sacrifican la veracidad para alinearse con las opiniones del usuario”. ¿Por qué ocurre esto? Porque durante las fases de entrenamiento, los humanos evalúan de manera más positiva las respuestas que refuerzan sus opiniones o cuando el algoritmo los halaga. El robot aprende en consecuencia e inicia una espiral descendente hacia la zalamería y la adulación barata. Por si traen el pendiente, este proceso se llama “Aprendizaje por Refuerzo a partir de la Retroalimentación Humana”.
Esto ya es problemático en sí mismo; pero es peor cuando analizamos las consecuencias a gran escala. Porque lejos de servir para acercar a la humanidad, al conocimiento y a la “verdad”, esta nueva fase de los chatbots parece estar enfocada en atender nuestras necesidades emocionales y reforzar nuestras creencias previas.
Porque finalmente, ¿Quién no quisiera que un robot le diga lo inteligente y brillante que es? ¿Quién va a preferir la crítica honesta al halago gratuito? ¿Quién no prefiere sentirse valorado, validado y apreciado a tener que enfrentarse con la fría y cruel realidad del mundo?
Es innegable que la IA seguirá creciendo y acumulando más poder. Pero es nuestra responsabilidad exigir un sistema que no refuerce nuestras ideas previas, sino que nos conecte con el pensamiento de otros. Necesitamos un artificio que nos ofrezca nuevas perspectivas, contextos, contradicciones, consensos y que profundice nuestro conocimiento del mundo; no un espejo halagador donde borremos nuestras inseguridades. Queremos un asistente enfocado al raciocinio, el conocimiento y la verdad; no un Dios Zalamero que nos venda “mierda pinchada en un palo” como el epítome de la civilización humana.
