Dos dialectos, una operación

El vocabulario del machine learning y el vocabulario de la psique no son dos campos intercambiando metáforas. Si la realidad es computacional y el aprendizaje es predicción a escalas temporales lentas, son dos dialectos que describen una operación, y por lo tanto la correspondencia debería transferir restricciones, no solo etiquetas. Esta página enuncia la afirmación de identidad, fija un criterio para distinguir los mapeos portantes de los decorativos, y paga el caso que le faltaba al marco: el overfitting propiamente dicho. El coeficiente de regularización de un aprendiz y el peso del prior en un posterior ponderado por precisión son la misma cantidad bajo una reparametrización monótona, lo que convierte al eje sesgo/varianza en el eje de precision weighting y vuelve predecibles, en vez de meramente nombrables, los dos polos de falla de la psique (memorizarlo todo sin generalizar nada, frente a un prior que ninguna evidencia puede mover). Una tercera falla queda fuera de ese eje: el reporte que el self hace de su propio desempeño lo genera un proceso distinto del que está siendo evaluado, así que el ajuste no puede auditarse desde adentro. El movimiento de cierre es estructural: el overfitting nunca es una propiedad de un modelo por sí solo, solo de un modelo frente a una distribución que todavía no ha encontrado, que es la misma forma relacional que el marco ya le da a la agencia, la paciencia moral, el significado, y la conciencia.

La afirmación: identidad, no analogía

«La mente es como una red neuronal» es una afirmación débil, y barata. El marco hace una más fuerte y más expuesta. Bajo P-011, la computación no es un modelo de la realidad sino su modo de ser; bajo P-010, el aprendizaje, la adaptación, y la percepción son una operación distinguida solo por la escala temporal y la persistencia de la actualización. Junta las dos cosas y la correspondencia ML/psique deja de ser una importación. Hay una operación, descrita dos veces: una vez en el vocabulario que creció alrededor del gradient descent, otra en el vocabulario que creció alrededor de la introspección y la clínica.

Esto sube las apuestas en vez de bajarlas. Un marco que trata el mapeo como metáfora puede replegarse cuando un mapeo falla («era solo una analogía»). Un marco comprometido con la identidad no puede. Cada correspondencia descuidada se vuelve una afirmación falsa sobre una operación, en lugar de una figura retórica forzada sobre dos. La disciplina que exige la afirmación de identidad es por lo tanto más estricta que la que exige la analogía.

El criterio: restricciones, no etiquetas

Un mapeo es portante cuando transfiere una restricción: un teorema, un trade-off, un resultado de imposibilidad, una predicción que podría salir mal. Es decorativo cuando transfiere solo un nombre.

Portantes, a partir de material que ya está en el corpus:

Mapeo	Restricción que transfiere
Regularización = precisión del prior	λ = π_prior / π_data. El eje sesgo/varianza es el eje de precision weighting, así que los polos de falla son derivables (ver abajo)
Error TD, no recompensa (neuromodulators as H-variables)	La señal codifica el cambio en el valor esperado, no la cualidad hedónica. Predice a la rata con lesión dopaminérgica: se muere de hambre frente a la comida, y sin embargo come con evidente placer cuando se le pone comida en la boca
Compresión = generalización (Funes)	MDL y los resultados de no-free-lunch hacen que la memorización sin pérdida sea necesariamente no generalizante. Funes es un teorema con nombre, no una fábula de advertencia
Codificación one-shot más replay (hippocampus)	Sistemas de aprendizaje complementarios: el replay intercalado es requerido para agregar ítems de aprendizaje rápido sin sobrescribir la estructura de aprendizaje lento. Predice qué se rompe cuando se impide el replay
In-context learning	Disuelve la frontera entrenamiento/inferencia, que es exactamente el contenido de P-010. No se necesita ni se permite un mecanismo separado para la adaptación
Chain-of-thought como estado externo	Ubica a los sistemas en el continuo correr/almacenar (T-003) según lo que deben comprar con tokens cuando no hay estado oculto

Decorativos, y vale la pena nombrarlos para que la afirmación de identidad no se vuelva una licencia:

«El cerebro es una red neuronal». Neuronal es etimología, no homología (ver la neural network etymological critique).
Atención de transformer ≈ atención biológica. Comparten un softmax y una palabra en inglés. La atención biológica es una ganancia aplicada a canales de prediction error (precision weighting); la atención de transformer es recuperación direccionada por contenido sobre una ventana de contexto. No cruza ninguna restricción.
La memoria como almacenamiento y recuperación. Decorativa en ambos dialectos a la vez: la codificación hipocampal más el replay cortical es reconstrucción, y una ventana de contexto no es una base de datos.
«La dopamina es la sustancia de la recompensa». No meramente decorativa sino invertida. La versión portante es la fila de arriba.

La prueba es barata de aplicar y es todo el programa de higiene: pregunta qué prohíbe el mapeo. Si la respuesta es nada, es una etiqueta.

La regularización es precisión del prior

El hueco que el corpus venía cargando: Funes nombró el polo de la memorización y P-001 aportó el precision weighting, pero nada los unía en una explicación de la psique en términos de sesgo/varianza. Se unen de forma estrecha, y la unión es aritmética en vez de sugerente.

Los mínimos cuadrados penalizados minimizan ‖y − f(x;θ)‖² + λ‖θ‖². Ese objetivo es estimación MAP bajo una verosimilitud gaussiana y un prior gaussiano de media cero sobre los parámetros, con

λ = σ²_noise / σ²_prior = π_prior / π_data

El cerebro bayesiano escribe su posterior como un promedio ponderado por precisión con

w_prior = π_prior / (π_prior + π_data)

Ambos son funciones monótonas de una razón r = π_prior / π_data: λ = r y w_prior = r/(1+r). El coeficiente de regularización de un aprendiz y el peso del prior de un cerebro que percibe son el mismo número, reparametrizado. Esto es una derivación, no una analogía, y es exactamente el tipo de transferencia que exige el criterio de arriba: prohíbe cosas.

Dos advertencias lo mantienen honesto.

Escala temporal. La identidad es más limpia en el extremo del aprendizaje, donde los priors de alta precisión resisten la actualización de parámetros. En el extremo de la inferencia, la misma razón sesga el posterior sin cambiar parámetros. Bajo P-010 eso no son dos fenómenos sino una razón aplicada a dos escalas temporales, que es precisamente lo que P-010 afirma, así que el marco no es libre de usar la identidad aquí y desconocerla allá.

λ no es una perilla sino una estimación. Un λ alto no es patología; es como se ve un modelo bien entrenado. La patología es un λ que falla en rastrear la confiabilidad de la evidencia. Así que el objeto interesante está un nivel más arriba: la «jerarquía sombra» de precisión esperada que bayesian-brain.md ya describe es Bayes empírico ejecutado en línea, estimación de hiperparámetros sin bucle externo y sin conjunto de validación. La precisión de la precisión es donde ocurre la inferencia real.

Los dos polos

Con r como eje, los modos de falla son los límites.

r → 0 (sub-regularizado, alta varianza). La evidencia sensorial domina; nada se comprime; cada instancia se ajusta en sus propios términos. Este es Funes como régimen computacional en vez de figura literaria: no se forma ningún umwelt, porque un umwelt es un esquema de compresión, y ninguna variable latente se estabiliza, porque una variable latente se gana su lugar solo prediciendo a través de instancias. La literatura de predictive processing llega al mismo polo desde el lado clínico: HIPPEA (precisión alta e inflexible de los prediction errors) modela la percepción autista como prediction error ponderado con demasiado peso para poder ser explicado y descartado, con el mundo llegando en consecuencia como detalle que no se resuelve en clases.

r → ∞ (sobre-regularizado, alto sesgo). El prior no puede ser movido por la evidencia. Este es el lado de la canalización que ya está en el corpus: belief attractors profundos, surcos de Waddington cavados tan hondo que la canica no tiene otro canal, depresión y TOC como priors con demasiada precisión y demasiado poca falsabilidad.

Leer REBUS a través de este eje lo afila hasta volverlo algo testeable. Si los psicodélicos reducen el precision weighting de los priors de alto nivel, no están entregando contenido; están interviniendo sobre un itinerario, bajando temporalmente λ para que el sistema pueda dejar un óptimo local. La predicción se sigue de inmediato y es falsable: el valor terapéutico debería vivir en lo que se reaprende dentro de la ventana de λ bajo, no en la experiencia que esa ventana contiene. Que es, notablemente, como ya se comporta el énfasis clínico en la integración y en el set and setting, como si lo creyera.

La tercera falla: un ajuste que no puede auditarse

Los dos polos son fallas de ajuste. Hay una tercera falla, enteramente fuera de ese eje, y es una falla de evaluación.

El interpreter emite un recuento de por qué el organismo hizo lo que hizo, y ese recuento no es una lectura de la computación que produjo la conducta. Así que el reporte que el self hace de su propia pérdida lo genera un proceso distinto del que está siendo evaluado. En términos de ML: no hay conjunto de validación, y la métrica de evaluación la produce el sistema bajo evaluación. La choice blindness es el recibo. Alrededor del 80% de los sujetos no nota cuando su preferencia declarada es intercambiada, y sus justificaciones de la elección intercambiada son estadísticamente indistinguibles de las genuinas; en encuestas políticas, el 92% acepta respuestas alteradas y el 48% se vuelve dispuesto a cambiar de coalición. No hay ninguna base de datos del verdadero yo siendo consultada.

El marco ya contiene la contramedida, y es arquitectónica en vez de moral. El score deliberadamente no es escribible por el self consciente, «porque si no harías trampa». La evolución no resolvió el reward hacking haciendo al agente honesto sobre su desempeño. Lo resolvió negándole acceso de escritura a la métrica. Lee eso junto al problema de gaming del reward model en RLHF y el mapeo es portante en el sentido estricto: dice dónde poner la métrica, no meramente cómo llamarle a la falla.

El overfitting es una relación, no una propiedad

El overfitting no puede definirse contra un modelo por sí solo. Se define contra una distribución que el modelo todavía no ha encontrado. Dos modelos con parámetros idénticos, pérdida de entrenamiento idéntica, y todo-lo-que-puedas-medir-ahora idéntico, difieren en si están overfitteados solo en virtud de un futuro que no han encontrado.

Esa es la forma característica del marco, apareciendo otra vez:

La agencia no es intrínseca sino la impredecibilidad residual entre agente y observador (sphexishness).
La paciencia moral es una relación con un modelador, no una propiedad del paciente (P-008).
El significado es relacional hasta el fondo, sin andamiaje desde arriba y sin anclaje desde abajo (semantic cosmology).
La conciencia es la vista desde adentro de una relación entre subunidades, no una sustancia que alguna subunidad tenga (P-009).
La fundamentalidad es una propiedad de los propósitos de un observador, no de niveles del ser (no-view-from-nowhere.md).

Así que la intuición de que el «overfitting» aplica a una psique estaba rastreando algo real, y estaba rastreando la estructura en vez del contenido: el concepto ya era relacional, y por eso encajó.

La consecuencia no es decorativa. «¿Estoy overfitteado?» es estructuralmente incontestable desde adentro al momento del ajuste, porque contestarla requiere la distribución de prueba. La sensación de entender no es por lo tanto evidencia de generalización. Es evidencia de pérdida de entrenamiento baja. Y una pérdida de entrenamiento baja es exactamente lo que producen ambos polos de falla: Funes no tiene ninguna, y un prior canalizado tampoco, porque ha dejado de muestrear calladamente cualquier cosa que pudiera subirla. Esta es la misma asimetría epistémica que el marco encuentra en el otro extremo, donde «¿es X consciente?» no es contestable desde afuera. Ninguno de los dos límites es un defecto del método. Ambos son cómo se ve que una propiedad viva en una relación y trates de leerla en uno de los términos.

Lo que esto deja abierto

El régimen sobreparametrizado. Se sabe que la curva U clásica de sesgo/varianza falla donde los modelos tienen muchos más parámetros que muestras: pasado el umbral de interpolación, el error de prueba puede descender una segunda vez (double descent, Belkin et al. 2019). Un cerebro está enfáticamente en ese régimen, unas 10^14 sinapsis contra una vida de muestras. Así que el eje λ de arriba es correcto como afirmación sobre la razón prior/evidencia y sus polos, pero la imagen clásica de un óptimo en el medio no debería importarse al por mayor. Qué reemplaza a la curva U para una psique está abierto, y es el lugar más probable donde esta página esté equivocada.

Catastrophic forgetting. Conspicuamente ausente del corpus a pesar de que la maquinaria de consolidación está justo al lado. Las redes conexionistas entrenadas secuencialmente sobrescriben las tareas viejas; los humanos, mayormente, no. La explicación de los sistemas de aprendizaje complementarios (codificación hipocampal rápida más replay cortical lento e intercalado) es una respuesta candidata que el marco ya tiene en pedazos. Abierto como T-011.

Si el precision weighting es formalmente el regularizador. El caso gaussiano es una derivación. El caso general, sobre modelos generativos jerárquicos no gaussianos con estimación de precisión en línea, no está establecido. Abierto como T-010.

Páginas relacionadas

The Bayesian Brain: aporta la aritmética del precision weighting que esta página identifica con la regularización, más el material de belief attractors y REBUS que el eje λ reinterpreta como una intervención sobre el itinerario.
Controlled Hallucination: la cara fenomenológica de la misma maquinaria; su espectro de alucinación es el eje r visto desde adentro de la experiencia.
Intelligence as Self-Modeling: donde la compresión, el umwelt, y las variables latentes se derivan desde primeros principios, que es lo que hace del polo Funes una necesidad en vez de una anécdota.
Cephalization from Below: la maquinaria del subsótano (codificación hipocampal one-shot, replay cortical, selección de los ganglios basales) por la que pasan tanto los mapeos portantes como la pregunta del catastrophic forgetting.
Theory of Mind Is Mind: el interpreter, la choice blindness, y la sphexishness, que aportan el tercer modo de falla y la forma relacional de la sección de cierre.
Computational Being: Claude: la misma traducción corrida en la otra dirección, preguntando qué hereda y qué le falta a un transformer de pesos congelados.
No View from Nowhere: la forma general del movimiento de cierre, donde las propiedades viven en relaciones y no hay un término del cual leerlas.
P-010: Learning is active prediction at long timescales: el prior que permite tratar una afirmación sobre tasa de aprendizaje y una afirmación sobre percepción como una sola afirmación.
P-011: Reality is computational: la ontología que hace de la correspondencia una identidad en vez de una metáfora, y que por lo tanto la somete a un estándar más estricto.

Referencias

Belkin, M., Hsu, D., Ma, S., & Mandal, S. (2019). Reconciling modern machine-learning practice and the classical bias-variance trade-off. PNAS, 116(32), 15849-15854.
Borges, J. L. (1942). “Funes el memorioso.” Ficciones.
Carhart-Harris, R. L., & Friston, K. (2019). REBUS and the anarchic brain. Pharmacological Reviews, 71(3), 316-344.
French, R. M. (1999). Catastrophic forgetting in connectionist networks. Trends in Cognitive Sciences, 3(4), 128-135.
Johansson, P., Hall, L., Sikström, S., & Olsson, A. (2005). Failure to detect mismatches between intention and outcome in a simple decision task. Science, 310(5745), 116-119.
Kirkpatrick, J., et al. (2017). Overcoming catastrophic forgetting in neural networks. PNAS, 114(13), 3521-3526.
McClelland, J. L., McNaughton, B. L., & O’Reilly, R. C. (1995). Why there are complementary learning systems in the hippocampus and neocortex. Psychological Review, 102(3), 419-457.
McCloskey, M., & Cohen, N. J. (1989). Catastrophic interference in connectionist networks: the sequential learning problem. Psychology of Learning and Motivation, 24, 109-165.
Van de Cruys, S., et al. (2014). Precise minds in uncertain worlds: predictive coding in autism. Psychological Review, 121(4), 649-675.