Enrique Dans
El reciente paper publicado por seis científicos de Apple, titulado «The illusion of thinking«, ha generado un debate muy significativo en la comunidad tecnológica.
Este trabajo cuestiona la capacidad de los modelos de lenguaje actuales para realizar razonamientos complejos, sugiriendo que, a pesar de aparentar procesos de pensamiento elaborados, estos modelos colapsan cuando se enfrentan a tareas de mayor complejidad. Utilizando conocidos juegos matemáticos clásicos como la Torre de Hanoi, River Crossing, Conway’s Soldiers o Blocks World, los investigadores observaron que la precisión de los modelos disminuye drásticamente a medida que aumenta la dificultad del problema, llegando incluso a caer a cero y perder toda utilidad en algunos casos.
Este fenómeno plantea una pregunta fundamental: ¿qué entendemos por «inteligencia» o por «pensamiento» en el contexto de la inteligencia artificial? Tradicionalmente, asociamos la inteligencia con la capacidad de razonar, comprender y adaptarse a nuevas situaciones. Sin embargo, los modelos de lenguaje actuales, aunque absolutamente impresionantes en su capacidad para generar texto coherente, carecen de una comprensión real del contenido que producen. Su funcionamiento se basa en la predicción estadística de palabras, sin una verdadera noción del significado subyacente.
Resulta impresionante la cantidad de información que estos modelos han sido capaces de digerir en su entrenamiento. Tomemos como ejemplo a GPT-3, entrenado con cientos de miles de millones de palabras provenientes de libros, artículos, sitios web y muchos otros textos públicos como Wikipedia: un volumen de lectura y memorización que ningún ser humano podría igualar, ni siquiera remotamente, porque necesitaría encadenar muchas vidas consecutivamente tan solo para tener el tiempo de pasar los ojos por todos ellos. Sin embargo, si fuese posible, un ser humano con acceso a ese caudal de conocimiento, y que además pudiera recordarlo y utilizarlo de forma fluida, sería considerado una eminencia: alguien extraordinariamente inteligente o enormemente culto.
Seguir leyendo: ED
