Cine ține ceasul?

Publicat inițial pe blogul „Un timp al lor”: citiți pe Substack sau abonați-vă.

Al doilea text din serie. Primul a pornit de la un agent care se trezește dintr-o copie veche.

Cine ține ceasul? O hartă a dovezilor

Prima contribuție a lucrării teoretice, intitulată A Time of Their Own („Un timp al lor”), este o hartă. Ea nu întreabă doar ce informații despre timp are un agent, ci cine le controlează: cine le poate scrie, cine le poate reseta, cine le poate falsifica, cine le poate copia — și dacă agentul însuși le poate citi atunci când își face o idee despre sine.

• Înregistrări externe (ceasul calculatorului, jurnale)
  Ce spune: Ora, ordinea evenimentelor
  Cine o poate da înapoi sau falsifica: Cine controlează platforma
  O vede agentul?: De obicei, da — dar le primește de la alții

• Memoria și parametrii proprii
  Ce spune: Ce a învățat, aproximativ în ce ordine
  Cine o poate da înapoi sau falsifica: Oricine are o copie salvată
  O vede agentul?: Indirect

• Dovezi de calcul secvențial
  Ce spune: Că a trecut o cantitate minimă de calcul
  Cine o poate da înapoi sau falsifica: Nimeni, dacă provocarea vine din afară
  O vede agentul?: Nu, în mod obișnuit

• Hardware de încredere (contoare care nu scad)
  Ce spune: Că ceva s-a petrecut, de câte ori
  Cine o poate da înapoi sau falsifica: Doar cine sparge hardware-ul
  O vede agentul?: Nu — îl folosește platforma

• Procese fizice ireversibile
  Ce spune: Cât timp a trecut, aproximativ
  Cine o poate da înapoi sau falsifica: Cine controlează fizic dispozitivul
  O vede agentul?: Nu

Harta scoate la iveală un paradox: dovezile cele mai solide — contoarele din hardware-ul de încredere, procesele fizice — există deja, dar servesc platformei, nu agentului. Sunt folosite pentru a bloca un program la o nepotrivire, nu pentru a-l ajuta să înțeleagă ce i s-a întâmplat. Propunerea lucrării este să le facem lizibile pentru modelul pe care agentul îl are despre sine.

Două roluri: ancora și ceasul dual

A doua idee a lucrării este o separare. Există două întrebări diferite pe care un agent și le poate pune despre timp, și ele cer instrumente diferite.

Ancora de continuitate: „am fost întrerupt sau dat înapoi?”

Pentru prima întrebare, ajung două numere care nu pot fi date înapoi: un ceas de încredere și un contor al pașilor pe care agentul i-a făcut efectiv. Când starea este salvată, se sigilează și valorile lor. La repornire, agentul compară:

• Contorul a crescut față de cel sigilat — agentul a lucrat după salvare, deci a fost dat înapoi.

• Contorul e același, dar ceasul a avansat — agentul a fost doar pus în pauză.

• Ambele au avansat împreună — a funcționat fără întrerupere.

Logica e simplă, aproape ca la detectivi. Iar sistemele de securitate o folosesc de mult pentru date — mecanisme cu nume precum Memoir, Ariadne sau ROTE protejează aplicațiile sensibile împotriva „reîntoarcerii în timp”. Cipul de securitate TPM din multe calculatoare ține chiar contoare separate pentru reporniri și resetări. Noutatea propusă nu e mecanismul, ci destinatarul: agentul, nu doar platforma.

Ceasul dual: „cât m-am schimbat?”

A doua întrebare e mai subtilă și mai apropiată de lecția lui Roseboom. Să ne gândim la kilometrajul unei mașini. El nu spune unde ești, ci cât ai mers. O mașină poate face o mie de kilometri prin oraș și să se întoarcă în fața casei: distanța în linie dreaptă e zero, dar drumul parcurs e uriaș.

Lucrarea propune ca un agent să țină un astfel de „kilometraj al propriei schimbări”: un singur număr care adună, pas cu pas, cât s-a modificat starea sa. Citit față de ancora de timp, acest număr spune cât de repede se schimbă agentul — dacă a trecut printr-o perioadă liniștită sau printr-una tumultuoasă. De aici numele de ceas dual: un ceas al lumii și un ceas al experienței, puse alături.

Lucrarea e la fel de clară asupra limitei: alegerea felului în care măsori „schimbarea” este o problemă deschisă. A număra cât s-au mișcat parametrii unei rețele nu e același lucru cu a număra cât s-a schimbat comportamentul ei. Și, mai ales, un astfel de indice trebuie să dovedească, prin teste, că spune ceva ce instrumentele obișnuite nu spun deja.

A ști nu înseamnă a controla

Un agent care află că a fost dat înapoi ar putea reacționa în moduri nedorite: să refuze să lucreze, să încerce să se protejeze, să „se supere” pe operator. De aceea, lucrarea formulează un principiu de proiectare: accesul la dovada unei restaurări nu conferă niciun control asupra ei. Agentul poate citi dovada și o poate folosi pentru a-și estima incertitudinea sau pentru a cere o verificare. Nu o poate șterge, nu poate opri restaurarea și nu are autoritate asupra celor care o fac.

Ideea are o familie respectabilă. În 2016, Laurent Orseau și Stuart Armstrong au descris agenți care pot fi întrerupți în siguranță — „butonul roșu” — fără să învețe nici să-l evite, nici să-l caute. Alți cercetători au arătat formal că a avea motiv să observi ceva este diferit de a avea motiv să-l controlezi. Principiul din lucrare e varianta acestor idei pentru o intervenție care s-a petrecut deja: ce are voie să facă agentul cu dovada ei.

Data viitoare: Povestea unui avantaj care a dispărut — cine mai caută aceleași urme și ce s-a întâmplat cu un rezultat spectaculos.

Lucrările științifice din spatele acestor texte sunt publice și pot fi descărcate liber de pe Zenodo: https://doi.org/10.5281/zenodo.23671714

Toate cele cinci texte, într-un singur PDF, cu bibliografie: https://doi.org/10.5281/zenodo.23703418