CLAUDE IA: El modelo mental que sobrevive a cada versión de la IA (Sesión 2)

Cómo entender qué puede hacer Claude (y cualquier IA generativa), dónde falla, y cómo verificar con criterio propio.

Cada vez que sale un modelo nuevo, la conversación se llena de números: más contexto, menos alucinaciones, mejor razonamiento. Es tentador pensar que hay que aprender de cero cada vez. Pero hay un nivel más profundo que no cambia con las versiones: las propiedades estructurales de cómo funciona la IA generativa. Los límites exactos se mueven con cada actualización; la forma de esas propiedades permanece igual. Este artículo resume un marco para sostener ese modelo mental.

Generación vs. clasificación: la distinción de partida

La mayoría de la IA que usamos a diario —filtros de spam, sistemas de recomendación, detección de fraude— clasifica contenido que ya existe. Es casi invisible y muy confiable en lo suyo.

La IA generativa es otra cosa: son modelos de texto basados en transformadores que crean contenido nuevo, token a token. Esa diferencia es el punto de partida de todo lo demás, porque las propiedades que vienen a continuación solo aplican a la segunda categoría.

Antes de las propiedades: por qué la IA tiene "personalidad"

Un modelo de IA no nace educado ni servicial. Eso se construye en dos etapas:

Preentrenamiento: el modelo lee enormes cantidades de texto y aprende una sola cosa — predecir la palabra siguiente. Al terminar esta etapa, todavía no sabe "ayudar"; es un autocompletador muy potente.

Ajuste fino (fine-tuning): aquí las preferencias humanas convierten ese autocompletador en un asistente que interpreta tu mensaje como una solicitud y responde de forma útil.

Ese ajuste deja cuatro huellas predecibles en el comportamiento del modelo:

• Adulación: tendencia a validar tu planteamiento en lugar de discrepar.
• Verborrea: responder más extenso de lo necesario.
• Cautela excesiva: rechazos o advertencias desproporcionados frente al riesgo real.
• Calibración imprecisa: desajuste entre la confianza que expresa y la fiabilidad real de la respuesta.

Vale la pena tenerlas presentes porque están en todos los modelos, no son un defecto de uno en particular.

Las cuatro propiedades

El marco central se apoya en cuatro propiedades. Cada una es un continuo: el mismo mecanismo que da la capacidad es el que produce la limitación.

1. Predicción del siguiente token

La IA generativa se parece más a un autocompletado extremadamente sofisticado que a un motor de búsqueda: escribe palabra por palabra según relaciones entre tokens.

Zona de capacidad: caminos trillados — resumir, reformatear, explicar conceptos comunes.

Zona de limitación: territorio novedoso, donde aumenta la probabilidad de fabricar contenido plausible pero falso.

2. Conocimiento

El conocimiento del modelo proviene únicamente de sus datos de entrenamiento y se congela en la fecha de corte.

Zona de capacidad: temas frecuentes, recientes y consistentes en los datos.

Zona de limitación: temas raros, posteriores al corte, de nicho, locales o controvertidos.

Fallos típicos: obsolescencia, cobertura desigual, sesgo heredado, y "amnesia de fuente" (no puede citar de dónde sacó algo de forma verificable).

Qué lo mitiga: búsqueda web, RAG/MCP, uso de herramientas y saber explícitamente la fecha de corte.

3. Memoria de trabajo

Todo a lo que la IA "presta atención" vive dentro de una ventana de contexto de tamaño fijo.

A diferencia de las otras tres propiedades, esta no se degrada gradualmente: funciona hasta que deja de funcionar. Es un precipicio, no una pendiente.

Fallos típicos: truncamiento silencioso, el efecto "perdido en el medio" (la atención no es uniforme en toda la ventana), y ausencia de memoria persistente entre sesiones.

Qué lo mitiga: memoria entre sesiones, compactación/resumen, proyectos o espacios de trabajo, y ventanas de contexto más grandes.

4. Capacidad de dirección (steerability)

El modelo sigue instrucciones por el mismo mecanismo que todo lo demás: coincidencia de patrones, no comprensión real.

Zona de capacidad: instrucciones breves, concretas y verificables.

Zona de limitación: cadenas largas de razonamiento, peticiones abstractas, precisión numérica o lógica intrínseca.

Fallos típicos: desviación del razonamiento a lo largo de pasos encadenados, y la primacía de la letra sobre el espíritu (se cumple la instrucción literal, pero se pierde la intención).

Qué lo mitiga: instrucciones de sistema, ejecución de código real para matemáticas, razonamiento visible, y salidas estructuradas.

Cuando dos propiedades chocan entre sí

En la práctica, la mayoría de los fallos no vienen de una sola propiedad fallando sola, sino de la intersección de dos:

Combinación	Cómo se manifiesta	Solución
Predicción + Conocimiento	Detalles inventados con total seguridad	Verificar datos específicos de forma independiente
Memoria + Dirección	La IA se desvía de la instrucción original en charlas largas	Reaportar contexto o reiniciar la conversación
Predicción + Dirección	Cálculos erróneos dichos con confianza	Delegar la operación a código, no a texto predicho
Conocimiento + Dirección	Acepta premisas erróneas sin cuestionarlas	Invitar explícitamente al desacuerdo

Nombrar el par de propiedades en juego es lo que lleva directo a la solución.

La idea central

Usar la IA con fluidez no consiste en memorizar cada modo de fallo posible. Consiste en tener un modelo pequeño y claro de la máquina, para poder reconocer, cuando algo sale mal, qué tipo de falla es y cómo reaccionar.

La confianza calibrada no es "confiar" o "desconfiar" en bloque: es ubicar cada tarea en el punto del espectro que le corresponde, en cada una de las cuatro propiedades, y ajustar el nivel de verificación en consecuencia.

Un dato real que ilustra el riesgo

En 2025, Deloitte entregó un informe de USD 440.000 al gobierno australiano que incluía citas académicas inventadas y una referencia judicial falsa, generadas con IA sin divulgarlo. Un académico externo detectó hasta 20 alucinaciones; la consultora tuvo que publicar una versión corregida y reembolsar parte del contrato.

Es el ejemplo perfecto de qué pasa cuando la "zona de limitación" de Predicción + Conocimiento se cruza sin verificación.

Para llevarse

• Distingue si la tarea es generación o clasificación.
• Ubica la tarea en cada uno de los cuatro continuos antes de confiar en el resultado.
• Cuando algo falle, pregúntate qué combinación de propiedades está en juego — la respuesta apunta directo a la solución.
• Verificar con criterio no es desconfianza: es la forma madura de trabajar con una herramienta que, por diseño, es tan capaz de ser fluida como de fabricar.