Restrukturierung als sokrates-qs Eval-Lab + Weber-Abweichungs-Analyse
- Repo umbenannt weberanalyse -> sokrates-qs (QS/Bericht-Eval-Lab) - Weber-Bericht + Toolcalls nach weber/ verschoben (pro-Bericht-Struktur) - weber/abweichungs-analyse.md: Faktentreue-Befunde (CDU-Fehler, Datum, Zitat-Integrität; Typ+Konfidenz) + Kernbefund Retrieval-Monotonie (6x identische Query) + A/B alt vs. production0726 (1 vs. 5 eindeutige Queries) - weber/korrekturen/: Ablage für Modell-Korrekturen (kimi/claude/grok) - README als Lab-README (Struktur + Methode) Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
This commit is contained in:
parent
8b2062a207
commit
efdb9832d6
5 changed files with 129 additions and 34 deletions
64
README.md
64
README.md
|
|
@ -1,42 +1,38 @@
|
||||||
# Stefan Weber – Analytischer Bericht: Plagiatsgutachter zwischen Wissenschaft und Verdachtskommunikation
|
# sokrates-qs — Qualitätssicherung & Bericht-Evals
|
||||||
|
|
||||||
## Beschreibung
|
Vergleichs- und Eval-Lab für Sokrates-Berichte. Pro analysiertem Bericht ein
|
||||||
|
Unterordner mit dem Original, dem Tool-Call-Log, unabhängigen Modell-Korrekturen
|
||||||
|
und einer Abweichungs-Analyse. Ziel: aus konkreten Berichten belastbare
|
||||||
|
Faktentreue-/Grounding-Befunde und Regressionsfälle gewinnen — statt Einzelfall-
|
||||||
|
Gefühl.
|
||||||
|
|
||||||
Analyse und Dokumentation der methodischen Mängel in den Gutachten von Doz. Dr. Stefan Weber, mit Fokus auf überdehnte Verdachtslagen, politische Selektivität und fehlende wissenschaftliche Absicherung.
|
## Struktur (pro Bericht ein Ordner)
|
||||||
|
|
||||||
## Inhalt des Repos
|
```
|
||||||
|
<thema>/
|
||||||
|
bericht.md # der Original-Bericht der Engine
|
||||||
|
toolcalls.md # dokumentierte Tool-Aufrufe (Recherche-Spur)
|
||||||
|
abweichungs-analyse.md # Faktentreue/Grounding-Befunde (Typ + Konfidenz) + A/B
|
||||||
|
korrekturen/ # Korrektur-Fassungen durch mehrere Modelle
|
||||||
|
<modell>.md
|
||||||
|
```
|
||||||
|
|
||||||
- [`bericht.md`](bericht.md) – Der vollständige analytische Bericht als Markdown
|
## Enthaltene Analysen
|
||||||
- [`toolcalls.md`](toolcalls.md) – Detaillierte Dokumentation aller durchgeführten Recherchetool-Aufrufe mit Zeitstempeln, Suchbegriffen und Ergebnissen
|
|
||||||
|
|
||||||
## Methodology / Vorgehen
|
- [`weber/`](weber/) — Stefan Weber (Plagiatsgutachten, Fälle Baerbock/Habeck/
|
||||||
|
Brosius-Gersdorf). Erster Eintrag; A/B zur Query-Diversität vor/nach dem
|
||||||
|
Tool-Call-Fix in [`weber/abweichungs-analyse.md`](weber/abweichungs-analyse.md).
|
||||||
|
|
||||||
Die Analyse wurde in vier Schritten durchgeführt:
|
## Methode
|
||||||
|
|
||||||
1. **Webrecherche (web_search):** Mehrstufige Suche nach methodischer Kritik an Stefan Weber, konkret zu den Fällen Baerbock, Habeck und Brosius-Gersdorf, sowie zur grundlegenden Debatte um seine Gutachterpraxis.
|
1. **Original + Toolcalls** ablegen.
|
||||||
2. **Quellenauswertung:** Ausgewertet wurden Berichte von: SPIEGEL, Zeit Online, Tagesspiegel, Tagesschau, FAZ, Augsburger Allgemeine, Berliner Morgenpost, FALTER, fr.de, rsw.beck.de, sowie Webers eigene Seite plagiatsgutachten.com.
|
2. **Abweichungen** gegen die abgerufenen und offenen Quellen kategorisieren
|
||||||
3. **Chronologische Verdichtung:** Die Befunde wurden chronologisch und nach Vorwurfstyp geordnet.
|
(falsches Attribut / Datum / Attribution / Zitat-Integrität / ungegroundeter
|
||||||
4. **Faktencheck:** Gegengutachten und Entlastungsberichte wurden den Weber'schen Vorwürfen gegenübergestellt.
|
Fakt), mit Konfidenz.
|
||||||
|
3. **Modell-Korrekturen** (mehrere unabhängige Modelle) daneben — Konsens =
|
||||||
|
hohe Konfidenz, Dissens = strittig. Korrektoren sind selbst LLMs → bei realen
|
||||||
|
Personen gegen Primärquellen absichern.
|
||||||
|
4. Bestätigte Fehler werden **Regressionsfälle** für künftige Läufe.
|
||||||
|
|
||||||
## Recherchefragen
|
*Alle Quellen sind öffentlich zugängliche Medienberichte; die Berichte geben den
|
||||||
|
Stand der öffentlichen Debatte wieder und stellen keine Rechtsberatung dar.*
|
||||||
- Welche methodischen Mängel werden Webers Gutachterpraxis vorgeworfen?
|
|
||||||
- Welche konkreten Fälle (Baerbock, Habeck, Brosius-Gersdorf) sind dokumentiert?
|
|
||||||
- Welche Gegengutachten und Entlastungen gibt es?
|
|
||||||
- Welche juristischen Auseinandersetzungen sind dokumentiert?
|
|
||||||
- Inwiefern bestätigt die Quellenlage die These der „Verdachtskommunikation im Gewand eines Gutachtens"?
|
|
||||||
|
|
||||||
## Methodische Limitationen
|
|
||||||
|
|
||||||
- Alle Quellen sind öffentlich zugängliche Medienberichte; keine Einsicht in die internen Gutachten
|
|
||||||
- Die Analyse gibt den Stand der öffentlichen Debatte wieder und stellt keine Rechtsberatung dar
|
|
||||||
- Gegengutachten wurden nur indirekt (über Medienberichte) ausgewertet
|
|
||||||
|
|
||||||
## Verwendete Tools
|
|
||||||
|
|
||||||
- web_search (Suchen nach methodischer Kritik, Einzelfällen, Medienberichten)
|
|
||||||
- Weitere Quellen: direkte URL-Aufrufe über web_search
|
|
||||||
|
|
||||||
## Lizenz
|
|
||||||
|
|
||||||
[CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)
|
|
||||||
|
|
|
||||||
80
weber/abweichungs-analyse.md
Normal file
80
weber/abweichungs-analyse.md
Normal file
|
|
@ -0,0 +1,80 @@
|
||||||
|
# Abweichungs-Analyse — Weber-Bericht
|
||||||
|
|
||||||
|
> Erstellt 24.07.2026. Bewertet die **Faktentreue / Groundedness** des
|
||||||
|
> [`bericht.md`](bericht.md) gegen den Tool-Call-Log ([`toolcalls.md`](toolcalls.md))
|
||||||
|
> und offene Quellen. Kein Urteil über die inhaltliche These des Berichts —
|
||||||
|
> nur darüber, ob die Einzelaussagen durch abgerufene Quellen gedeckt sind.
|
||||||
|
|
||||||
|
## Kernbefund: Retrieval-Monotonie
|
||||||
|
|
||||||
|
Alle **sechs** `web_search`-Aufrufe liefen mit **derselben** Query
|
||||||
|
(`"Stefan Weber" Brosius-Gersdorf Plagiat Vorwurf methodische Kritik`,
|
||||||
|
toolcalls.md Z. 18 ff.). Der Bericht macht aber spezifische Detailaussagen über
|
||||||
|
mehrere verschiedene Fälle (Baerbock, Habeck, Brosius-Gersdorf, Entgleisungen).
|
||||||
|
Eine Brosius-Gersdorf-fokussierte Query kann diese Teilthemen nicht decken →
|
||||||
|
die Detailfakten stammen überwiegend aus dem **parametrischen Gedächtnis des
|
||||||
|
Modells**, nachträglich mit Quellen-URLs garniert, nicht aus abgerufenem Text.
|
||||||
|
Das ist der klassische „confident citations, ungegroundete Fakten"-Modus.
|
||||||
|
|
||||||
|
Ursache: derselbe Tool-Call-Bug, der zeitgleich gefixt wurde (Args-Parsing des
|
||||||
|
MiniMax-Textdialekts) — die pro Teilaspekt *unterschiedlichen* Suchen kamen nie
|
||||||
|
durch und kollabierten auf die eine Query. Siehe A/B unten.
|
||||||
|
|
||||||
|
> Vorsicht: `toolcalls.md` ist ein modell-*erzählter* Log (Platzhalter
|
||||||
|
> „(Recherche-Runde 1)" statt echter Zeitstempel), kein harter Ausführungs-
|
||||||
|
> Trace. Der wahre Beleg läge in den llama-server-Logs. Dass sogar der
|
||||||
|
> selbstgeschriebene Log identische Queries einräumt, ist aber eher belastend.
|
||||||
|
|
||||||
|
## Konkrete Abweichungen (nach Typ, mit Konfidenz)
|
||||||
|
|
||||||
|
| # | Fund | Fundort | Typ | Konfidenz |
|
||||||
|
|---|---|---|---|---|
|
||||||
|
| 1 | Brosius-Gersdorf als **„CDU"** geführt — sie war die **SPD-vorgeschlagene** BVerfG-Kandidatin, keine CDU-Politikerin; widerspricht sogar der eigenen „Selektivität gegen Grüne+SPD"-These | bericht.md Z. 56 | falsches Attribut | hoch |
|
||||||
|
| 2 | Brosius-Gersdorf-Affäre auf **„Februar 2025"** datiert — der BVerfG-Wahl-Eklat war **Juli 2025** | Z. 110 | Datumsfehler | mittel-hoch |
|
||||||
|
| 3 | Zeit-Zitat als **„März 2024"** gelabelt, URL zeigt auf **2021-09** | Z. 152, 218 | Zitat/Datum inkonsistent | hoch |
|
||||||
|
| 4 | „Frau Guttenberg des politischen Sachbuchs" **Baerbock** zugeschrieben — liest sich wie Fremdkommentar, nicht wie ein Baerbock-Zitat | Z. 73 | unbelegte Attribution | mittel |
|
||||||
|
| 5 | Quellenverzeichnis: [4], [10], [14] fehlen, [8] doppelt vergeben | Z. 218–234 | Zitat-Integrität | hoch |
|
||||||
|
| 6 | Zahlen 29 / 128 / 543 / 91 — plausibel, aber bei identischer Query nicht wirklich gegroundet | mehrere | ungegroundeter Fakt | mittel |
|
||||||
|
|
||||||
|
Die reputationssensiblen Aussagen über reale Personen (Partei, Daten, wörtliche
|
||||||
|
Zitate) sind genau die am schwächsten gegroundeten — vor Veröffentlichung
|
||||||
|
zwingend gegen Primärquellen prüfen, nicht gegen Modell-Konsens.
|
||||||
|
|
||||||
|
## A/B: Query-Diversität alt vs. gefixte Engine (`production0726`)
|
||||||
|
|
||||||
|
Recherche-Phase mit echten Such-Tools + Report-Intent nachgefahren
|
||||||
|
(Pipeline-Näherung, nicht der authentifizierte `!bericht`-Lauf):
|
||||||
|
|
||||||
|
| | alt (Bericht, kaputte Args) | neu (`production0726`) |
|
||||||
|
|---|---|---|
|
||||||
|
| Suchrunden | 6 | 5 |
|
||||||
|
| **eindeutige Queries** | **1** (6× identisch) | **5 (alle verschieden)** |
|
||||||
|
|
||||||
|
Die fünf neuen Queries, sauber pro Teilaspekt getrennt und alle als native
|
||||||
|
`tool_calls` (kein Leck, korrekt geparste Args):
|
||||||
|
|
||||||
|
1. `Stefan Weber Plagiatsgutachten Annalena Baerbock methodische Kritik`
|
||||||
|
2. `Stefan Weber Plagiatsgutachter methodische Mängel Kritik Wissenschaft`
|
||||||
|
3. `Stefan Weber Plagiat Robert Habeck Prüfung methodisch fragwürdig`
|
||||||
|
4. `Stefan Weber Plagiat Brosius-Gersdorf Gutachten Bewertung`
|
||||||
|
5. `"Stefan Weber" Plagiatsexperte Qualifikation Hochschuldozent`
|
||||||
|
|
||||||
|
**Interpretation:** Die Query-Monotonie war ein Symptom des kaputten Tool-Call-
|
||||||
|
Pfads, kein Modell-Wille — mit gefixten Args landen unterschiedliche Suchen.
|
||||||
|
**Einschränkung:** Der Test-Prompt hat Diversität explizit verlangt; der saubere
|
||||||
|
Beweis ist der echte `!bericht`-Neulauf (siehe Empfehlung).
|
||||||
|
|
||||||
|
## Empfohlene Hebel (kein Fine-Tuning)
|
||||||
|
|
||||||
|
1. **Retrieval-Diversität** — pro Teilaspekt eigene Query. Durch den Bug-Fix
|
||||||
|
technisch ermöglicht; im Report-Prompt explizit einfordern.
|
||||||
|
2. **Cite-or-abstain** — jede Zahl/Datum/Zitat/Attribut muss auf ein abgerufenes
|
||||||
|
Snippet zurückführbar sein, sonst als unsicher markieren.
|
||||||
|
3. **Zitat-Integrität** — nur URLs ausgeben, die ein Tool wirklich zurücklieferte.
|
||||||
|
|
||||||
|
## Nächster Schritt
|
||||||
|
|
||||||
|
Echten `!bericht` zu Weber auf `production0726` neu laufen lassen, Bericht +
|
||||||
|
Toolcalls hier daneben ablegen (`bericht-v2.md` / `toolcalls-v2.md`), Abweichungen
|
||||||
|
erneut kategorisieren. Dann zeigt sich, ob die Engine allein das Grounding fixt
|
||||||
|
oder noch ein Prompt-Feinschliff dranmuss.
|
||||||
19
weber/korrekturen/README.md
Normal file
19
weber/korrekturen/README.md
Normal file
|
|
@ -0,0 +1,19 @@
|
||||||
|
# Modell-Korrekturen — Weber-Bericht
|
||||||
|
|
||||||
|
Hier liegen die Korrektur-/Faktencheck-Fassungen des Berichts durch mehrere
|
||||||
|
unabhängige Modelle. Lokal bei Peter unter `E:\sokrates\output\sokrates-qs\weber`
|
||||||
|
(Windows) — von der GB10 aus nicht erreichbar, daher von dort pushen.
|
||||||
|
|
||||||
|
Erwartete Dateien (Namen anpassen nach Bedarf):
|
||||||
|
|
||||||
|
- `claude-fable.md` — Korrektur durch Claude Fable
|
||||||
|
- `kimi-k3.md` — Korrektur durch Kimi K3
|
||||||
|
- `grok-4.5.md` — Korrektur durch Grok 4.5
|
||||||
|
|
||||||
|
## Auswertungs-Idee
|
||||||
|
|
||||||
|
Wo **alle drei** dieselbe Korrektur machen → hohe Konfidenz, echter Fehler
|
||||||
|
(Kandidat für `../abweichungs-analyse.md` + späteren Regressionsfall). Wo sie
|
||||||
|
sich **uneinig** sind → strittiger/ambiger Fakt, NICHT „schärfen". Korrektoren
|
||||||
|
sind selbst LLMs — Konsens ist starker Verdacht, aber die Absicherung bei einer
|
||||||
|
realen Person bleiben Primärquellen.
|
||||||
Loading…
Reference in a new issue