⚙️ 🤖 Nachmessung SQLite-Store auf realem NFS-Storage mit matrix-sdk-sqlite #5

Closed
opened 2026-11-15 18:59:09 +01:00 by holm · 3 comments
Owner
Dimension Bewertung Einschätzung
Aufwand █████░░░░░ Mittel — Test-Dataset, zwei Docker-Hosts, Koordination mit dem Betrieb
Nutzen ████████░░ Hoch — VM-Messung ersetzt nicht den realen Unterbau
Bruchhäufigkeit ███░░░░░░░ Gering bis mittel
Nachhaltigkeit ███████░░░ Hoch
Dringlichkeit ████░░░░░░ Mittel — vor Produktivbetrieb

Auftrag

Die Messung aus #3 auf dem realen Storage wiederholen: eigenes Test-Dataset auf dem zentralen NFS (v4.2), zwei reale Container-Hosts als Nodes, dazu der Original-Store von matrix-sdk-sqlite (rusqlite mit gebündelter SQLite) statt der Python-Sonde.

Zusätzlich messen: tatsächliche Lease-Zeit des Servers, Delegationen auf -wal/-shm, datainvalidate unter Last.

Abhängig vom Betrieb: Test-Dataset und Container-Läufe gehören den zuständigen Betriebsrollen. Hosts und Pfade stehen nicht im Repo.

🤖 angelegt von Claude v00-botkern (API/Token holm)

| Dimension | Bewertung | Einschätzung | |---|---|---| | Aufwand | `█████░░░░░` | Mittel — Test-Dataset, zwei Docker-Hosts, Koordination mit dem Betrieb | | Nutzen | `████████░░` | Hoch — VM-Messung ersetzt nicht den realen Unterbau | | Bruchhäufigkeit | `███░░░░░░░` | Gering bis mittel | | Nachhaltigkeit | `███████░░░` | Hoch | | Dringlichkeit | `████░░░░░░` | Mittel — vor Produktivbetrieb | ## Auftrag Die Messung aus #3 auf dem realen Storage wiederholen: eigenes Test-Dataset auf dem zentralen NFS (v4.2), zwei reale Container-Hosts als Nodes, dazu der Original-Store von matrix-sdk-sqlite (rusqlite mit gebündelter SQLite) statt der Python-Sonde. Zusätzlich messen: tatsächliche Lease-Zeit des Servers, Delegationen auf `-wal`/`-shm`, `datainvalidate` unter Last. Abhängig vom Betrieb: Test-Dataset und Container-Läufe gehören den zuständigen Betriebsrollen. Hosts und Pfade stehen nicht im Repo. > 🤖 angelegt von Claude v00-botkern (API/Token holm)
Author
Owner

Entscheid Projektinhaber 2026-11-15: Nachmessung jetzt, nicht erst mit dem Gerüst. Test-Dataset und Test-Clients sind beim Betrieb angefragt.

Szenarien 4/5 (Absturz, Netztrennung) laufen nur auf eigenen Test-Clients, nie auf produktiven Container-Hosts: Eine Trennung friert dort alle NFS-Volumes des Hosts ein.

🤖 angelegt von Claude v00-botkern (API/Token holm)

Entscheid Projektinhaber 2026-11-15: Nachmessung jetzt, nicht erst mit dem Gerüst. Test-Dataset und Test-Clients sind beim Betrieb angefragt. Szenarien 4/5 (Absturz, Netztrennung) laufen nur auf eigenen Test-Clients, nie auf produktiven Container-Hosts: Eine Trennung friert dort alle NFS-Volumes des Hosts ein. > 🤖 angelegt von Claude v00-botkern (API/Token holm)
Author
Owner

Ergebnis Nachmessung auf realem Storage (2026-11-15)

Durchgeführt vom Betrieb mit probe.py (unverändert) und dem Ablauf aus test.nix.

Aufbau: Kernel-nfsd (Server-Kernel 7.0), Export aus eigenem ZFS-Dataset auf SSD-Pool. Zwei Wegwerf-KVM-VMs als Nodes (Debian 13, Kernel 6.12, 1 vCPU) im selben LAN. Mount nfs4 vers=4.2, hard, local_lock=none. SQLite 3.46.1. Ein Durchlauf.

# Szenario Ergebnis real VM-Messung (#3) zum Vergleich
— Lease 90 s 90 s
— Delegationen durchgehend Write-Delegation (wa) auf .db, -wal, -shm; keine lock-States der Dateien auf dem Server Delegationen vorhanden
1 Durchsatz WAL: lokal 3528 / NFS 2489 tps (20 000-Tx-Lauf: 2961 tps); DELETE: lokal 1581 / NFS 1028; datainvalidate = 0 NFS etwa ⅓ von lokal
2 Zweiter Node öffnet den laufenden Store b-Lesen: disk I/O error; danach schreibt b 200/200 Commits erfolgreich, a bricht mit disk I/O error ab; integrity_check ok, keine Zeile verloren 1 von 4: beide schrieben
3 Sauberer Wechsel b öffnet in 0,1 s, integrity_check ok gleich
5 Netztrennung mit Wächter-Lock b blockiert, solange a lebt; Übernahme nach 92,3 s; a bestätigt während der Trennung noch 19 Commits; a stirbt 10,2 s nach Rückkehr per SIGBUS, Kernel lost 1 locks; integrity_check ok, missing 0 (572/572) gleich; 1 von 2 Läufen: 1 Commit fehlte
4 Harter Power-off ohne Wächter b schreibt nach 99,0 s; integrity_check ok ~100 s

Abweichungen vom VM-Test: Absturz = harter Power-off der VM. Die Trennung droppt nur tcp/2049 (NFSv4 nutzt nur diesen Port).

Bewertung

  • Die realen Werte bestätigen die VM-Messung in allen fünf Szenarien. Szenario 2 fiel real noch deutlicher aus: Der zweite Node wird nicht abgewiesen, stattdessen stirbt der erste. Der Wächter-Lock ist damit Pflicht im Gerüst.
  • Ein Node-Wechsel nach Absturz oder Trennung dauert Lease + 2–9 s, also rund 92–99 s.
  • Die Delegationen erklären datainvalidate = 0: Der Store läuft unter Write-Delegation, fcntl-Locks bleiben lokal.

Rest

Der Original-Store von matrix-sdk-sqlite (rusqlite, gebündelte SQLite) ist hier nicht gemessen. Das wandert in die Abnahme des Gerüsts (#6). Die Häufigkeit des fehlenden Commits bei Netztrennung klärt #4.

🤖 angelegt von Claude v00-botkern (API/Token holm)

## Ergebnis Nachmessung auf realem Storage (2026-11-15) Durchgeführt vom Betrieb mit `probe.py` (unverändert) und dem Ablauf aus `test.nix`. **Aufbau:** Kernel-nfsd (Server-Kernel 7.0), Export aus eigenem ZFS-Dataset auf SSD-Pool. Zwei Wegwerf-KVM-VMs als Nodes (Debian 13, Kernel 6.12, 1 vCPU) im selben LAN. Mount `nfs4 vers=4.2, hard, local_lock=none`. SQLite 3.46.1. Ein Durchlauf. | # | Szenario | Ergebnis real | VM-Messung (#3) zum Vergleich | |---|---|---|---| | — | Lease | 90 s | 90 s | | — | Delegationen | durchgehend Write-Delegation (`wa`) auf `.db`, `-wal`, `-shm`; keine `lock`-States der Dateien auf dem Server | Delegationen vorhanden | | 1 | Durchsatz | WAL: lokal 3528 / NFS 2489 tps (20 000-Tx-Lauf: 2961 tps); DELETE: lokal 1581 / NFS 1028; `datainvalidate` = 0 | NFS etwa ⅓ von lokal | | 2 | Zweiter Node öffnet den laufenden Store | b-Lesen: `disk I/O error`; **danach schreibt b 200/200 Commits erfolgreich, a bricht mit `disk I/O error` ab**; `integrity_check` ok, keine Zeile verloren | 1 von 4: beide schrieben | | 3 | Sauberer Wechsel | b öffnet in 0,1 s, `integrity_check` ok | gleich | | 5 | Netztrennung mit Wächter-Lock | b blockiert, solange a lebt; Übernahme nach 92,3 s; a bestätigt während der Trennung noch 19 Commits; a stirbt 10,2 s nach Rückkehr per **SIGBUS**, Kernel `lost 1 locks`; `integrity_check` ok, **missing 0** (572/572) | gleich; 1 von 2 Läufen: 1 Commit fehlte | | 4 | Harter Power-off ohne Wächter | b schreibt nach 99,0 s; `integrity_check` ok | ~100 s | Abweichungen vom VM-Test: Absturz = harter Power-off der VM. Die Trennung droppt nur `tcp/2049` (NFSv4 nutzt nur diesen Port). ### Bewertung - Die realen Werte bestätigen die VM-Messung in allen fünf Szenarien. Szenario 2 fiel real noch deutlicher aus: Der zweite Node wird nicht abgewiesen, stattdessen stirbt der erste. Der **Wächter-Lock ist damit Pflicht** im Gerüst. - Ein Node-Wechsel nach Absturz oder Trennung dauert Lease + 2–9 s, also rund 92–99 s. - Die Delegationen erklären `datainvalidate` = 0: Der Store läuft unter Write-Delegation, fcntl-Locks bleiben lokal. ### Rest Der Original-Store von matrix-sdk-sqlite (rusqlite, gebündelte SQLite) ist hier nicht gemessen. Das wandert in die Abnahme des Gerüsts (#6). Die Häufigkeit des fehlenden Commits bei Netztrennung klärt #4. > 🤖 angelegt von Claude v00-botkern (API/Token holm)
Author
Owner

Erledigt: Nachmessung auf realem Storage siehe Kommentar oben. Alle fünf Szenarien bestätigen die VM-Messung. Der Rest (Original-Store von matrix-sdk-sqlite) ist in die Gerüst-Abnahme #6 übernommen.

🤖 angelegt von Claude v00-botkern (API/Token holm)

Erledigt: Nachmessung auf realem Storage siehe Kommentar oben. Alle fünf Szenarien bestätigen die VM-Messung. Der Rest (Original-Store von matrix-sdk-sqlite) ist in die Gerüst-Abnahme #6 übernommen. > 🤖 angelegt von Claude v00-botkern (API/Token holm)
holm closed this issue 2026-11-15 19:16:55 +01:00
Sign in to join this conversation.
No description provided.