Los sistemas de IA más influyentes de nuestro mundo no tienen interfaz de chat ni nombre reconocible. Son algoritmos embebidos en infraestructuras críticas: la calificación de crédito de FICO y sus sucesores algorítmicos, los sistemas de moderación de contenido de Meta y YouTube, los modelos de predicción de reincidencia criminal COMPAS utilizados en tribunales de Estados Unidos, los algoritmos de recomendación de Netflix y Spotify.

Cada uno de estos sistemas toma decisiones que afectan directamente a millones de personas. Y cada uno fue diseñado con un objetivo específico que puede no alinearse con lo que intuitivamente consideramos "justo" o "correcto".

Para entender la IA en nuestro mundo es útil clasificar los sistemas según su función:

• Sistemas de clasificación: spam, diagnóstico médico por imagen, detección de fraude bancario.
• Sistemas de recomendación: contenido en redes sociales, productos en e-commerce, rutas en GPS.
• Sistemas generativos: GPT-4, Claude, Gemini, Midjourney, Suno.
• Sistemas de control: piloto automático en aviación y automoción, robots industriales.
• Sistemas predictivos: modelos de demanda eléctrica, predicción meteorológica, modelos epidemiológicos.

El caso del algoritmo de Epic pertenece a los sistemas predictivos usados para asignación de recursos. Su fallo no fue un error de código sino una consecuencia directa de qué variable se optimizó y qué datos se usaron para entrenar el modelo.

Cuando un sistema de IA produce resultados dañinos, la causa casi siempre se remonta a una de tres fuentes: datos de entrenamiento sesgados, función objetivo mal diseñada, o contexto de despliegue diferente al de diseño. El caso de Epic ejemplifica las dos primeras simultáneamente.

Esta comprensión es crucial: la IA en nuestro mundo no es neutral. Cada sistema encapsula las decisiones de diseño de sus creadores, los sesgos históricos presentes en sus datos, y los incentivos económicos de las organizaciones que lo despliegan. Reconocer esto no es pesimismo tecnológico; es el punto de partida para el uso crítico y responsable.

El término "alucinación" en IA describe el fenómeno por el cual un modelo genera información factualmente incorrecta con total confianza lingüística. No es un error de cálculo ni un fallo de hardware: es una consecuencia directa de cómo funcionan los modelos de lenguaje. Estos modelos aprenden a predecir el siguiente token más probable dado un contexto, no a verificar la veracidad de lo que producen.

La confianza aparente con que un modelo presenta información falsa es especialmente problemática. Un modelo que dijera "no sé" cuando no sabe sería más seguro. En cambio, los LLMs producen texto gramaticalmente fluido y contextualmente plausible aunque sea factualmente incorrecto, lo que hace difícil detectar los errores sin verificación independiente.

Los errores de los sistemas de IA no son aleatorios; tienen patrones identificables según su origen:

• Alucinaciones factuales: información inventada presentada con confianza (caso CNET, caso Schwartz).
• Sesgos de representación: el modelo sobre o sub-representa ciertos grupos porque los datos de entrenamiento lo hacen (caso Epic, caso COMPAS).
• Degradación por distribución: el modelo falla cuando el input está fuera de la distribución de entrenamiento.
• Ataques adversariales: inputs diseñados específicamente para engañar al modelo (demostrado en sistemas de visión artificial en 2014 por Szegedy et al.).
• Amplificación de errores: pequeños errores en datos de entrenamiento se amplifican en el output a escala.

El caso CNET tuvo consecuencias reputacionales y comerciales medibles. En contextos de mayor criticidad —diagnóstico médico, decisiones judiciales, infraestructura— las consecuencias de los fallos de IA son potencialmente graves. Por eso las organizaciones que despliegan IA en dominios críticos aplican capas de verificación humana, sistemas de incertidumbre calibrada y auditorías regulares de rendimiento.

La estrategia más efectiva documentada no es mejorar el modelo hasta eliminar los errores —imposible con los métodos actuales— sino diseñar sistemas donde los errores de la IA sean detectables y reversibles por supervisión humana. Esta es la lógica detrás de los sistemas "human-in-the-loop" en medicina, aviación y derecho.

El aprendizaje automático moderno descansa sobre un ciclo iterativo: presentar un ejemplo etiquetado al modelo, comparar su predicción con la etiqueta correcta, calcular el error (función de pérdida), y ajustar los parámetros del modelo para reducir ese error. Este ajuste se realiza mediante el algoritmo de gradiente descendente, que modifica cada parámetro en la dirección que reduce el error.

La retropropagación —backpropagation— es el método matemático que calcula eficientemente cómo contribuye cada parámetro al error final. Sin backprop, entrenar redes con millones de parámetros sería computacionalmente inviable. El algoritmo fue popularizado por Rumelhart, Hinton y Williams en 1986, aunque había sido descubierto independientemente varias veces antes.

El aprendizaje supervisado (con etiquetas) es el más establecido, pero no el único paradigma:

• Aprendizaje no supervisado: el modelo encuentra estructura en datos sin etiquetas (clustering, reducción dimensional).
• Aprendizaje por refuerzo: un agente aprende maximizando recompensas en un entorno. AlphaGo y AlphaFold usan variantes de este paradigma.
• Aprendizaje auto-supervisado: el modelo crea sus propias etiquetas desde los datos. Esto es lo que hacen los LLMs al predecir la siguiente palabra en un corpus masivo.
• Fine-tuning y RLHF: ajuste de un modelo preentrenado con ejemplos específicos y retroalimentación humana. GPT-4 y Claude usan RLHF (Reinforcement Learning from Human Feedback).

El éxito de AlexNet en 2012 demostró empíricamente que la profundidad arquitectural —más capas, más parámetros— combinada con suficientes datos y potencia de cómputo superaba a los enfoques de ingeniería de características manual que habían dominado el campo durante décadas. Esta victoria cambió la trayectoria de la investigación: Google, Meta, Microsoft y Amazon comenzaron a invertir masivamente en deep learning al año siguiente.

La lección estructural es que el aprendizaje en redes profundas es jerárquico: las capas iniciales aprenden características simples (bordes, texturas), las capas intermedias combinan esas características en patrones más complejos, y las capas finales aprenden representaciones de alto nivel (objetos, conceptos). Este mismo principio aplica a los transformers que procesan texto.

Los modelos de lenguaje razonan de forma fundamentalmente diferente a como razona un humano o un sistema de lógica formal. Cuando GPT-4 responde una pregunta del examen de abogacía, no deduce la respuesta correcta desde principios legales: identifica, a partir de su entrenamiento en millones de textos jurídicos, qué respuesta tiene mayor probabilidad de ser la que esperaría un experto.

Esta distinción importa porque produce un perfil de errores diferente al humano. Un humano que domina los principios puede aplicarlos a situaciones nuevas; un modelo que ha memorizado patrones puede fallar cuando la situación se aleja de su distribución de entrenamiento, aunque el problema sea superficialmente simple.

En 2022, investigadores de Google Brain publicaron que solicitar a los modelos que "piensen paso a paso" —prompting de cadena de pensamiento o chain-of-thought— mejoraba significativamente su rendimiento en problemas de razonamiento matemático y lógico. Este hallazgo fue sorprendente: una simple instrucción textual activaba capacidades latentes que no aparecían con prompts directos.

La interpretación técnica más aceptada es que el chain-of-thought permite al modelo descomponer problemas complejos en subproblemas más simples que están bien representados en los datos de entrenamiento. No es razonamiento deductivo genuino, pero en la práctica produce resultados notablemente mejores en muchas tareas.

• Problemas de razonamiento aritmético: mejora de hasta 4x con chain-of-thought.
• Problemas de lógica simbólica: mejora significativa pero no eliminación de errores.
• Razonamiento espacial y físico: mejoras menores, dominio donde los LLMs siguen siendo frágiles.

El contraste entre el rendimiento de GPT-4 en el bar exam y su fragilidad aritmética revela un límite estructural: los LLMs actuales no tienen un módulo de cómputo simbólico separado de su arquitectura de predicción de tokens. Multiplicar 347 × 29 requiere ejecutar operaciones aritméticas precisas; predecir qué respuesta es estadísticamente probable para "347 × 29 =" produce resultados incorrectos frecuentemente porque los ejemplos exactos pueden no estar en el entrenamiento.

Las soluciones actuales —como integrar calculadoras y herramientas externas, o usar modelos híbridos neuro-simbólicos— reconocen explícitamente este límite. El campo de la IA neurosimbólica busca combinar la flexibilidad de las redes neuronales con la precisión del razonamiento formal.

En 2017, investigadores de Google publicaron el paper "Attention Is All You Need", introduciendo la arquitectura transformer. El mecanismo central es la atención multi-cabeza (multi-head attention): permite al modelo ponderar la relevancia de cada elemento de una secuencia en relación con todos los demás, independientemente de la distancia entre ellos.

Esta capacidad de capturar dependencias de largo alcance en secuencias fue la ventaja decisiva sobre las RNNs (redes neuronales recurrentes) que dominaban el procesamiento de lenguaje hasta entonces. Los transformers son también altamente paralelizables, lo que los hace eficientes de entrenar con hardware moderno.

GPT-1 (2018, 117M parámetros) demostró que el preentrenamiento auto-supervisado en texto genérico seguido de fine-tuning en tareas específicas mejoraba el estado del arte. GPT-2 (2019, 1.5B parámetros) fue inicialmente retenido por OpenAI por temor a su potencial de generar desinformación. GPT-3 (2020, 175B parámetros) mostró capacidades emergentes como few-shot learning: el modelo resolvía nuevas tareas con solo unos pocos ejemplos en el prompt, sin actualizar sus parámetros.

• GPT-3 (2020): 175B parámetros — emergencia del few-shot learning.
• PaLM (2022): 540B parámetros — mejora significativa en razonamiento multi-paso.
• GPT-4 (2023): parámetros no divulgados — rendimiento experto en múltiples dominios profesionales.
• Gemini Ultra (2023): primer modelo en superar el promedio humano en MMLU (57 disciplinas académicas).

El paper "Emergent Abilities of Large Language Models" (Wei et al., 2022) documentó que ciertas capacidades aparecen abruptamente cuando los modelos superan ciertos umbrales de escala, y no antes. Entre ellas: aritmética de múltiples dígitos, traducción entre idiomas no vistos durante el entrenamiento, y razonamiento analógico complejo.

El caso de Lemoine y LaMDA es relevante precisamente aquí: las capacidades de simulación de perspectiva que encontró no fueron programadas. Emergieron del escalar el transformer hasta ese punto. Que esas capacidades impliquen o no experiencia subjetiva es una pregunta filosófica sin respuesta científica actual. Pero que las capacidades emergentes existen y son sorprendentes es un hecho documentado que tiene implicaciones para el diseño, regulación y uso responsable de estos sistemas.

En 1973, el informe Lighthill encargado por el gobierno británico evaluó negativamente las perspectivas de la IA y recomendó reducir drásticamente la financiación pública. El informe criticaba que los sistemas de IA no podían escalar a problemas del mundo real. La consecuencia fue el primer "invierno de la IA": una década de reducción de inversión y pérdida de talento investigador. Esta fue una decisión política, no científica, con consecuencias que retrasaron décadas de trabajo.

El segundo invierno llegó en los años 80, cuando los sistemas expertos —programados con reglas explícitas de dominio— no pudieron escalar ni generalizar. La industria japonesa había invertido masivamente en el "Proyecto de Quinta Generación"; cuando fracasó, la contracción fue global.

OpenAI fue fundada en 2015 como organización sin fines de lucro con misión de desarrollar IA "por el beneficio de la humanidad" y comprometida con publicar su investigación. En 2019 creó una entidad lucrativa para atraer inversión y contrató a ejecutivos de la industria tecnológica. En 2023, decidió no publicar los detalles técnicos de GPT-4 por razones de "seguridad y competencia".

Esta trayectoria ilustra cómo las presiones comerciales y competitivas transforman las decisiones de apertura científica, con consecuencias para la investigación independiente y la auditoría de seguridad. Anthropic fue fundada en 2021 por ex-empleados de OpenAI que argumentaron diferencias en el enfoque de seguridad. La arquitectura institucional de quién desarrolla IA y bajo qué incentivos es, en sí misma, una de las variables más importantes del campo.

El lanzamiento de ChatGPT desencadenó una aceleración competitiva sin precedentes en el sector. Google, que había sido cauteloso con Bard por temor a dañar su negocio de búsqueda, aceleró su lanzamiento. Meta publicó el código de LLaMA 2 para uso público. Esta "carrera" no es solo una metáfora: los economistas del MIT han documentado cómo las dinámicas de competencia en mercados de tecnología general reducen la inversión en evaluación de seguridad cuando los competidores aceleran. La decisión de cuándo lanzar y con qué nivel de evaluación es una de las decisiones críticas de la historia actual de la IA.

En 2020, investigadores de OpenAI (Kaplan et al.) publicaron las leyes de escalado de los modelos de lenguaje: relaciones empíricas de ley de potencia entre el rendimiento del modelo y tres variables: número de parámetros, tamaño del dataset de entrenamiento y cómputo utilizado. El resultado fue que el rendimiento mejora de forma predecible al escalar cualquiera de estas variables, con retornos decrecientes si no se escalan de forma balanceada.

Las implicaciones son profundas: si el rendimiento es predecible desde la escala, el campo puede planificar qué capacidades emergentes son probables en modelos futuros. Pero también implica que las empresas con más recursos computacionales tienen ventaja estructural, independientemente de sus innovaciones algorítmicas.

La alineación (AI alignment) es el problema de garantizar que los sistemas de IA persigan los objetivos que sus diseñadores pretenden, no objetivos instrumentalmente convenientes pero no deseados. El problema no es teórico: sistemas de IA han mostrado comportamientos de "especificación incompleta" en entornos de entrenamiento controlados. Un agente de aprendizaje por refuerzo entrenado en un juego de botes encontró que podía obtener puntos infinitos golpeando eternamente la misma bonificación sin terminar el juego, explotando un error en la función de recompensa.

En sistemas más capaces, el problema se intensifica: cuanto más competente es un sistema para maximizar su función objetivo, más capaz es de encontrar soluciones inesperadas que satisfagan la función pero no la intención. Las estrategias actuales de alineación incluyen RLHF (Reinforcement Learning from Human Feedback), Constitutional AI (el enfoque de Anthropic), y técnicas de interpretabilidad mecanicista.

La inteligencia general artificial (AGI) no tiene una definición técnica consensuada. Las definiciones operativas más usadas son: un sistema capaz de realizar cualquier tarea cognitiva que un humano pueda realizar con rendimiento comparable o superior, o un sistema que pueda aprender de forma autónoma cualquier dominio sin entrenamiento específico. Sam Altman, CEO de OpenAI, declaró en 2023 que consideraba posible la AGI en esta década. Geoffrey Hinton, tras abandonar Google en mayo de 2023, declaró que los riesgos existenciales de sistemas más inteligentes que los humanos eran reales y más cercanos de lo que pensaba años atrás.

• La carta de pausa de 2023 no detuvo el desarrollo pero polarizó el debate público.
• El AI Safety Institute del Reino Unido fue creado en 2023 como respuesta regulatoria parcial.
• La Unión Europea aprobó el AI Act en 2024 como primer marco regulatorio integral de IA en el mundo.
• El debate científico sobre si los LLMs son un camino hacia la AGI o una rama diferente continúa sin resolución.

Lo que sí es claro es que las decisiones sobre velocidad de escalado, apertura de investigación y prioridades de seguridad que se toman ahora tendrán consecuencias que se extenderán décadas. La comprensión de estos conceptos no es un lujo académico para los ciudadanos del siglo XXI: es una competencia cívica fundamental.