Gödel, Turing y por qué tu IA no es un oráculo

El problema aparece cuando, desde esa constatación empírica, en comités de innovación y consejos de administración se da un salto conceptual mucho más fuerte: pasar de ‘el escalado mejora la performance’ a ‘el escalado nos acercará a una especie de oráculo general, casi infalible’.

Ese salto ignora algo que la lógica y la teoría de la computación ya establecieron en el siglo XX: hay límites estructurales que el escalado no elimina. Es en este punto donde dos nombres poco habituales en los business plans de IA —Kurt Gödel y Alan Turing— deberían entrar en el radar de cualquier directivo que quiera tomar decisiones informadas.

El sueño del ‘oráculo lógico’

A principios del siglo XX, David Hilbert formuló una ambición que, traducida a lenguaje actual, suena sorprendentemente familiar. Se preguntaba si era posible construir un procedimiento mecánico que, dado cualquier enunciado formulado en un lenguaje lógico formal, pudiese decidir siempre si ese enunciado es demostrable o no. Dicho de otro modo: un algoritmo universal que, frente a cualquier ‘pregunta bien formulada’, devuelva una respuesta correcta garantizada.

Dos nombres poco habituales en los business plans de IA —Kurt Gödel y Alan Turing— deberían entrar en el radar de cualquier directivo que quiera tomar decisiones informadas

Para trabajar sobre esa idea se formalizó el concepto de sistema formal: un conjunto de símbolos, axiomas y reglas de inferencia que permiten derivar teoremas de manera completamente mecánica. Es una especie de ‘motor de razonamiento’ sin intuición, sin psicología y sin autoridad personal: o la demostración sigue las reglas, o no.

Sobre esta base se configuró una aspiración triple: exigir consistencia (que el sistema no derive a la vez una afirmación y su negación), completitud (que toda afirmación formulable en el lenguaje del sistema sea decidible, demostrable o refutable) y mecanización (que todo se pueda ejecutar como un procedimiento efectivo, paso a paso). Ese es, en el fondo, el sueño del ‘oráculo lógico’ que decidiría cualquier cuestión correctamente si está bien planteada.

Sueño inalcanzable

Gödel demostró en 1931 que ese sueño es inalcanzable para cualquier sistema formal que sea a la vez consistente, mecánicamente aplicable y lo bastante potente para expresar la aritmética. Su primer teorema de incompletitud dice, en esencia, que siempre habrá afirmaciones formulables dentro del sistema que el propio sistema no podrá ni demostrar ni refutar.

La intuición se entiende mejor con una analogía jurídica: imaginemos un código legal tan sofisticado que incluye normas sobre cómo interpretar el propio código. Gödel muestra que, en un sistema así, podemos escribir una norma del tipo ‘esta disposición no es demostrable a partir de los axiomas del código’.

Un modelo más grande puede acertar más, cubrir más casos marginales, adaptarse mejor a tareas complejas… Lo que no puede es convertirse en un sistema completo y decidible

Esa frase está ‘dentro del sistema’, pero el sistema no puede cerrar el caso desde dentro sin entrar en contradicción. La lección para un directivo no es que ‘la lógica falla’, sino que ningún marco formal potente puede garantizar por sí solo que cubre absolutamente todos los casos posibles. Siempre habrá zonas grises que no se resuelven automáticamente dentro del sistema.

Turing da un paso más en 1936 y traduce este tipo de límites al terreno de la computación (antes de que esta hubiese sido formalizada), justo donde hoy operan los sistemas de IA que las empresas están adoptando.

Define la máquina de Turing como modelo abstracto de cualquier procedimiento mecánico y muestra que no existe un algoritmo general capaz de decidir, para todos los programas y entradas posibles, si un programa se detendrá o seguirá ejecutándose para siempre (el famoso problema de la parada).

De nuevo, esto no significa que no podamos analizar muchos programas concretos, sino que no hay ‘auditor algorítmico universal’ que funcione infaliblemente para cualquier software imaginable. Hay una frontera estructural de lo computable que no se supera con más CPU, más GPU o más nodos en la nube.

Desde la perspectiva de la IA corporativa, la consecuencia es clara: ninguna arquitectura, por mucho que escale, convierte la computación en un oráculo capaz de resolver cualquier problema formulable y certificar su propia corrección en todos los casos.

La escala no aporta la garantía universal

Ahora bien, ¿cómo se conecta todo esto con los grandes modelos de lenguaje que están entrando en departamentos de marketing, finanzas, operaciones o legal? Sabemos que el rendimiento mejora de forma clara al escalar modelos, datos y cómputo; sabemos también que algunas capacidades parecen ‘emerger’ solo a partir de cierto tamaño.

Y sabemos, además, que parte de esa emergencia se ha demostrado dependiente de cómo medimos el rendimiento: con métricas demasiado binarias, las curvas parecen escalones; con métricas más continuas, se ven trayectorias mucho más suaves. Nada de esto contradice la lógica de Gödel y Turing, porque estamos hablando de resultados empíricos, no de garantías lógicas. Un modelo más grande puede acertar más, cubrir más casos marginales, adaptarse mejor a tareas complejas… Lo que no puede es convertirse, por mera escala, en un sistema completo y decidible en el sentido fuerte del término.

Ahí aparece la distinción clave para un responsable de negocio: la escala mejora la probabilidad de acierto y la amplitud de tareas manejables, pero no proporciona una garantía universal de corrección ni convierte la IA en un sustituto del juicio humano.

Podría objetarse, con razón, que esos límites también se aplican al cerebro humano; al fin y al cabo, nosotros tampoco somos infalibles. La indecidibilidad, en sentido formal, no distingue entre humanos y máquinas. Sin embargo, la diferencia relevante para la gestión no es lógica, sino semántica y organizativa.

Los grandes modelos de lenguaje trabajan sobre regularidades estadísticas en los datos y optimizan la probabilidad de la siguiente palabra; no están ‘comprometidos’ con la verdad de lo que dicen. Pueden generar una respuesta verdadera o falsa con el mismo tono de seguridad porque su función no incluye, por construcción, una obligación de verificar.

Un directivo, un analista o un abogado sí están situados en otro régimen: cuando firman un informe o toman una decisión, responden por las consecuencias. Ese ‘compromiso veritativo’ no es un matiz filosófico; es la base de la responsabilidad profesional y legal en la organización.

La escala mejora la probabilidad de acierto y la amplitud de tareas manejables, pero no proporciona una garantía universal de corrección

Traducido a prácticas de IA en la empresa, la IA puede producir propuestas, borradores, hipótesis, análisis preliminares, pero el equipo humano debe decidir qué se adopta, qué se corrige, qué se descarta y con qué nivel de confianza. La IA desplaza así el foco desde ‘hacer el trabajo’ a ‘auditar sistemáticamente el trabajo que la máquina propone’.

Si incorporamos en serio las lecciones de Gödel y Turing, algunas consecuencias estratégicas para la empresa se vuelven inevitables. La primera es no diseñar casos de uso como si el sistema fuera infalible: cualquier despliegue que asuma verdad por defecto está mal planteado, y los flujos deben incorporar revisión humana, controles cruzados y métricas de error explícitas.

La segunda es diferenciar entre tareas de alta y baja tolerancia al fallo: en marketing o ideación creativa, un error puntual puede ser asumible; en cumplimiento normativo, reporting financiero o decisiones médicas, no. La tercera es invertir en capacidades de auditoría y verificación, no solo en modelos: a medida que la generación automática de contenido se abarata, el cuello de botella pasa a ser la capacidad de verificar, contextualizar y corregir, que es una competencia organizativa y no solo técnica. Y la cuarta, formar a los equipos en pensamiento crítico sobre IA: entender la diferencia entre rendimiento y verdad, entre correlación y explicación, entre plausibilidad y demostración se convierte en un activo profesional clave.

En este contexto, la IA puede generar una ventaja competitiva significativa, pero no en la forma de un oráculo universal que sustituye al juicio humano. Más bien amplifica las capacidades de quienes saben preguntar bien, interpretar resultados, detectar errores y navegar la incertidumbre con criterio.

Gödel y Turing no son un argumento para frenar proyectos de IA, sino un antídoto contra la expectativa equivocada. En lugar de esperar la IA sin límites que resolverá todo, la pregunta relevante para la empresa es otra: cómo diseñar procesos, equipos y gobernanza para operar con criterio dentro de los límites que siempre existirán. La ventaja competitiva, en este escenario, no la tendrá quien crea haber encontrado el oráculo, sino quien combine buenos modelos con buenas preguntas, buenas métricas, buenas prácticas de auditoría y una cultura que no externaliza su responsabilidad a la máquina.