L'oblit a les màquines: quan esborrar la dada no basta

Una dada eliminada d’una taula desapareix. Una dada eliminada d’un model entrenat, no. Continua allà, dissolta als pesos, difusa però recuperable, alterant cada resposta futura del sistema sense que cap consulta ho reveli. Aquest article comença on acaba l’anterior sobre l’oblit a l’storage clàssic: quan la dada surt de l’emmagatzematge, ja ha deixat rastres a índexs, embeddings, memòries cau i —el més difícil de tots— als mateixos pesos del model. I davant d’aquest panorama tècnic, l’oblit humà —biològic, adaptatiu, funcional— apareix com el mirall que revela el que les màquines encara no saben fer.

Tres oblits que no són el mateix

Quan es parla d‘“oblidar” en sistemes d’IA, es barregen tres fenòmens tècnics completament diferents. Abans de proposar res convé separar-los, perquè confondre’ls oculta el problema real.

Oblit catastròfic. El més antic i el més conegut. Un model entrenat en una tasca A que s’entrena després en una tasca B tendeix a perdre involuntàriament el que sabia sobre A. No hi ha intenció d’esborrar; passa sol, com a efecte secundari d’aprendre. Un article de gener de 2026 sobre continual unlearning en LLMs ho confirma: els exemples vistos abans són gradualment —o catastròficament— oblidats al llarg de l’entrenament, i això és especialment cert per als models de llenguatge.

Machine unlearning. L’oposat exacte: un oblit induït a demanda. Quan una regulació exigeix que un model “esborri” la contribució d’una dada específica —típicament per una sol·licitud emparada en l’article 17 del GDPR— l’enginyeria necessita tècniques per eliminar aquesta aportació sense destruir tota la resta. És un camp jove i encara fràgil.

Retenció implícita als pesos. El menys discutit i probablement el més incòmode. Un model entrenat amb una dada conserva informació sobre aquesta dada als seus paràmetres encara que el dataset original s’esborri. L’storage oblida; el model, no. Una dada personal que va entrar en un pipeline d’entrenament pot continuar influint en les respostes del model durant tota la seva vida útil, sense que cap registre visible ho evidenciï.

La confusió entre aquests tres no és semàntica. És el que permet que moltes organitzacions afirmin “hem esborrat les seves dades” quan el que han fet és esborrar el registre primari i deixar intactes les contribucions ja integrades.

L’oblit com a propagació, no com a acte únic

Aquí convé aturar-se en una cosa que l’article sobre storage clàssic apuntava però no desenvolupava: quan arriba una sol·licitud de supressió en un sistema d’IA modern, esborrar el registre principal és el pas trivial. El difícil és tota la resta.

Un article acadèmic d’arXiv de 2026 sobre faults and pitfalls en la implementació del dret a l’oblit documenta el patró: els sistemes moderns són arquitectures distribuïdes on la dada personal deixa rastres derivats en múltiples capes. En un sistema amb components d’IA, aquestes capes són especialment traïdores:

• Índexs vectorials amb embeddings calculats sobre la dada
• Memòries cau semàntiques de RAG que retenen fragments del context
• Logs de traces amb prompts i respostes històriques
• Datasets derivats per a fine-tuning, validació o avaluació
• Models entrenats amb els pesos actualitzats per la dada
• Còpies de seguretat incrementals que contenen versions anteriors

Una eliminació a la capa primària pot conviure durant mesos amb còpies funcionals a capes subordinades. L’oblit, en un sistema distribuït amb IA, no és un acte puntual — és una propagació que cal orquestrar. I de totes les capes, l’última és la més difícil de tractar: els pesos del model no tenen esborrat net.

L’enginyeria del machine unlearning: l’essencial

L’estat de l’art s’ha desenvolupat amb velocitat, però la fotografia honesta és que encara ningú té una solució robusta i verificable alhora. Val la pena veure per què, quedant-nos en l’essencial.

La tècnica exacta: verificable però prohibitiva

L’única tècnica que garanteix oblit matemàticament demostrable és reentrenar el model des de zero sense la dada a oblidar. Per a un LLM contemporani això significa milions de dòlars, setmanes de còmput i una petjada energètica considerable per cada sol·licitud. És una solució que no escala.

Una variant viable és SISA (Sharded, Isolated, Sliced, Aggregated): dividir el dataset en fragments aïllats, entrenar submodels independents per fragment, combinar les seves sortides. Quan arriba una sol·licitud, només cal reentrenar el fragment afectat. És una solució arquitectònica: parteix de l’oblit al disseny del sistema, no com a afegit posterior. El seu límit: exigeix comprometre l’arquitectura abans d’entrenar, no després.

Les tècniques aproximades: la família fràgil

El gruix de la investigació recent s’ha bolcat en tècniques que no reentrenen, sinó que modifiquen els pesos existents per reduir la influència de la dada a oblidar. La més representativa és Gradient Ascent, que augmenta la pèrdua sobre el conjunt a oblidar fins que el model deixa de predir correctament sobre ell. Altres variants fan servir adapters LoRA aïllats, task vector negation o contrastive decoding a la inferència.

Totes són elegants. Totes tenen el mateix problema.

El problema que ningú està resolent bé: la reversibilitat

Un paper de maig de 2026 titulat Unlearning Isn’t Deletion documenta el que la investigació comença a anomenar fragilitat de l’oblit: la majoria dels mètodes actuals produeixen un oblit aparent que es pot revertir amb relativa facilitat. Un model “desaprès” pot recuperar el coneixement suprimit mitjançant fine-tuning lleuger sobre dades aparentment innòcues —l’anomenat benign relearning—, mitjançant quantització a baixa precisió, o mitjançant prompting adversarial.

Traduït: gran part del que avui s’anomena unlearning és en realitat una supressió superficial que oculta el record sense eliminar-lo. L’analogia dolorosa és que el model aprèn a no dir el que sap, no a no saber-ho. Aquesta diferència és exactament la que separa el compliment real del compliment performatiu.

I hi ha una dimensió addicional que la conversa pública amb prou feines menciona: el manteniment continu degrada el model. En un entorn de sol·licituds acumulades —continual unlearning—, cada nova operació d’oblit interfereix amb les anteriors, produint drift als paràmetres fins que el model pot col·lapsar funcionalment. Un sistema compromès a oblidar sota demanda és un sistema que es degrada per disseny amb cada sol·licitud atesa.

El que això canvia en l’enginyeria de dades aplicada a IA

Tres decisions concretes emergeixen d’aquest panorama.

Minimització a l’entrenament, no només a l’storage. Si una dada personal no hauria de ser recordable després, probablement no hauria d’haver entrat a l’entrenament. Cada dada personal integrada crea una obligació futura difícil d’honorar. I “difícil d’honorar” aquí significa tècnica cara, verificació impossible i degradació progressiva del model.

Arquitectures modulars per a oblit localitzat. Si l’oblit total del model és prohibitiu i l’aproximat és fràgil, la sortida viable és dissenyar l’arquitectura perquè l’oblit sigui localitzat. SISA és la proposta més coneguda, però la lògica s’aplica en general: adapters LoRA per lot de dades amb descart independent, RAG amb memòria externa que retingui les dades personals fora del model i permeti eliminació per índex, i separació deliberada entre models base entrenats sense dades personals i capes adaptatives que sí les incorporin.

Acceptació explícita dels límits. Hi ha sol·licituds d’oblit que avui l’enginyeria no pot satisfer amb garantia. Un model gran entrenat fa un any amb dades que no es van aïllar per lots no pot oblidar netament una dada específica. Reconèixer això és una crida a l’arquitectura futura: els models d’aquí endavant s’han de dissenyar assumint que l’oblit sota demanda és un requisit, no una funcionalitat opcional que s’afegeix després.

El que aquesta aproximació no resol

Cap de les tècniques actuals resol el problema de fons: que els models generatius són sistemes la intel·ligència dels quals emergeix precisament de la integració massiva de dades, i aquesta integració és intrínsecament resistent a l’eliminació quirúrgica. És com demanar-li a un riu que torni les gotes que un afluent li va aportar fa un any.

Tampoc resol l’asimetria d’auditoria: verificar que un model ha oblidat exigeix accés als pesos, còmput i expertesa que només tenen el proveïdor i uns pocs investigadors. La confiança en l’oblit depèn, a la pràctica, de la bona fe de l’operador.

L’altre costat: l’oblit humà com a mirall funcional

Fins aquí, l’enginyeria. Però és en la comparació amb l’oblit biològic on aquest problema tècnic es converteix en alguna cosa més gran — i on es revela la magnitud del que les màquines encara no saben fer.

L’oblit biològic no és una fallada

Durant dècades, la neurociència va tractar l’oblit com un dèficit. La investigació dels últims quinze anys ha demolit aquesta lectura. Estudis publicats a Nature i a Nature Communications han mostrat que el cervell suprimeix memòries específiques de forma intencional quan competeixen amb objectius actuals de recuperació, i que aquest procés depèn críticament del còrtex prefrontal. La revisió de 2024 a Annual Review of Psychology ho resumeix sense ambigüitats: la memòria existeix per servir un propòsit adaptatiu, i aquest propòsit exigeix oblidar tant com recordar.

L’oblit biològic té tres funcions documentades: regulació emocional (limita l’accés a memòries negatives), adquisició de coneixement (permet generalitzar en abstraure i automatitzar), i sintonització contextual (orienta el processament cap al present rellevant).

La formulació clau, repetida a la literatura amb variants: un cervell que retingués tot amb igual pes no pensaria millor. No pensaria en absolut. L’oblit no competeix amb la cognició; la habilita.

L’asimetria que aquest mirall revela

Posat en paral·lel amb el que les màquines fan avui, el contrast és incòmode:

El cervell oblida per funció; el model oblida per accident. L’oblit catastròfic no respon a cap criteri de rellevància. S’oblida el que es trepitja en aprendre el nou, sense importar si era important o trivial, útil o nociu.

El cervell selecciona què oblidar; el model no distingeix. El còrtex prefrontal decideix, en funció d’objectius actuals, quines memòries suprimir. Un model generatiu actual no té equivalent: quan se’l força a oblidar, aplica la tècnica de forma homogènia, sense criteri funcional.

El cervell oblida per poder generalitzar; el model es recolza en la retenció per raonar. L’abstracció biològica és la contrapartida de l’oblit de detalls específics. Un model que reté el detall sense oblidar no està generalitzant — està memoritzant. I aquesta memorització és el que fa tan difícil esborrar-lo després.

Un survey recent sobre oblit en machine learning apunta cap a la direcció més prometedora: integrar mecanismes d’oblit adaptatiu inspirats en el cervell no com a afegit de compliance, sinó com a principi de disseny per millorar la mateixa intel·ligència del sistema. No oblidar per complir amb el GDPR; oblidar perquè oblidar bé és part de pensar bé.

La responsabilitat de qui construeix

La pregunta útil no és “com fem que les màquines oblidin com els humans?” — és antropomorfa i probablement equivocada. La pregunta és: com dissenyem sistemes que integrin mecanismes d’oblit amb criteri funcional, no només amb pressió regulatòria?

Això implica pensar l’oblit en tres dimensions simultànies: selectivitat (oblidar el específic sense esborrar l’estructural), funcionalitat (oblidar per millorar el sistema, no per complir obligacions externes), i verificabilitat (demostrar que l’oblit ha ocorregut bé). Les tres han d’estar. Cap sola n’hi ha prou.

Preguntes obertes

• Si un model entrenat reté informació sobre dades personals als seus pesos encara que les dades s’esborrin, en quin moment es pot afirmar honestament que ha oblidat?
• Quan la tècnica actual d’unlearning produeix oblits reversibles amb fine-tuning lleuger, estem complint amb el dret a l’oblit o l’estem escenificant?
• Pot un sistema d’IA aspirar a la intel·ligència sostinguda sense desenvolupar mecanismes d’oblit funcional, o la retenció acumulativa és l’asímptota que el detindrà?
• Si l’oblit humà és una funció i l’oblit màquina és un accident, què li estem demanant en realitat a l’enginyeria quan li exigim que les màquines “oblidin com nosaltres”?

Les preguntes no tenen resposta tancada. Però convé una idea final: l’oblit ben dissenyat no és l’absència de memòria — és una forma de memòria més madura. I aquesta forma més madura, avui, és un territori on els cervells biològics porten milions d’anys d’avantatge sobre els cervells artificials. Reconèixer aquesta asimetria no és humilitat; és la condició prèvia per construir sistemes que algun dia puguin tancar el buit.

La memòria digital il·limitada no és un èxit. És una mancança disfressada de capacitat. I aquesta distinció pertany a qui la sosté amb el seu codi.

Referències

• arXiv — Wuerkaixi et al. FIT: Defying Catastrophic Forgetting in Continual LLM Unlearning (gener 2026). arxiv.org/html/2601.21682v1
• arXiv — Rezaei et al. Unlearning Isn’t Deletion: Investigating Reversibility of Machine Unlearning in LLMs (maig 2026). arxiv.org/html/2505.16831v3
• EmergentMind — Machine Unlearning for LLMs (febrer 2026). emergentmind.com
• Bourtoule et al. — Machine Unlearning (arquitectura SISA, 2021). Proposta arquitectònica original.
• arXiv — Faults and Pitfalls in Implementing the Right to be Forgotten (2026). arxiv.org/pdf/2605.27171
• Nature — The forgotten part of memory (2019). L’oblit com a funció adaptativa. nature.com
• Nature Communications — A retrieval-specific mechanism of adaptive forgetting in the mammalian brain (2018). nature.com
• Annual Review of Psychology — Anderson & Hulbert. Active Forgetting: Adaptation of Memory by Prefrontal Control (2024). annualreviews.org
• arXiv — “Forgetting” in Machine Learning and Beyond: A Survey (2024). arxiv.org/html/2405.20620v1
• Article anterior d’aquesta sèrie: Infraestructures que obliden.