Ein Surfer auf einer blauen Welle

Bis August war meine Arbeit mit Claude hierarchisch organisiert: Eine Meta-Session mit dem jeweiligen Spitzenmodell behielt alle Projekte im Blick. Darunter arbeiteten pro Projekt ein Architekt aus der Opus-Familie und Claude Code für die Umsetzung. ChatGPT traute ich damals kaum eine Textformulierung zu.

Dann ersetzte ich in zwei Projekten Architekt und Claude Code durch jeweils eine Session mit GPT-6 Astra in Codex. Das funktionierte einen Monat lang gut. Daraufhin wechselte ich vollständig und zog auch die Meta-Session zu Astra um. Dessen scheinbar endloser Arbeitskontext verleitete mich dazu, sämtliche Projekte bis ins Detail in dieser einen Session bearbeiten zu lassen. Das hielt zwei Tage.

Meine wichtigste Lehre aus diesen Monaten: Projektwissen, Entscheidungen und Arbeitsabläufe brauchen eine eigene, dauerhafte Grundlage, auf der wechselnde Modelle und Sessions weiterarbeiten können.

Für mich liegt diese Grundlage zunehmend lokal. Ich möchte meine Daten selbst halten, Modellversionen festlegen und Updates dann übernehmen, wenn sie sich in meinen Abläufen bewährt haben. Klar umrissene Routineaufgaben lassen sich bereits mit lokalen Modellen erledigen. Bei häufiger Nutzung können sich auch die Kosten rechnen; Hardware und Pflege gehören dabei mit in die Rechnung.

Gleichzeitig leisten die stärksten Cloud-Modelle in meiner Arbeit weiterhin mehr: bei strategischen Fragen, schwierigen Architekturentscheidungen und langen, komplexen Aufgaben. Ich rechne damit, dass dieser Vorsprung noch eine Weile bleibt. Diese Fähigkeiten möchte ich gezielt nutzen und die Ergebnisse im eigenen System bewahren.

Auch die lokale Landschaft bewegt sich schnell. Ein neues Modell muss zu meinen Aufgaben, Daten und Geräten passen. Deshalb entwickle ich für Folio eine eigene Testumgebung. Sie hilft mir zu entscheiden, welcher Wechsel tatsächlich etwas verbessert. Im jüngsten synthetischen Vergleich liefen unter anderem Kolibri und Kev, ein offenes Entscheidungsmodell, gegen vorhandene Gemma- und Qwen-Profile.

Die Verbindung beider Welten ist die eigentliche Entwicklungsfrage. Ein Versuch in Folio heisst Domänenkompass: Lokales Wissen und offene Fragen werden für die passende Strategie-Session gebündelt. Ihre Antwort kommt als überprüfbarer Vorschlag zurück und kann nach Bestätigung Teil des eigenen Gedächtnisses werden. So sollen Kontext und Entscheidungen über einzelne Modelle und Sessions hinweg erhalten bleiben. An dieser Verbindung arbeite ich weiter.

Die neu gestaltete Aion-Lumen-Seite zeigt den aktuellen Werkstattstand: Folio beginnt bei Mails, Rechnungen und Terminen; dazu kommen Quellenbezug, Gedächtnis (RAG mit Volltextsuche und Wissensgraph) und der Blick auf laufende Kosten (KI-gestützte Buchungsanalyse und Zahlungsabgleich). Der Modellvergleich gibt Einblick in die Tests dahinter.

Als Nächstes möchte ich grössere lokale Modelle auf dem bestellten Mac Studio untersuchen. Die wiederholten Lieferverzögerungen und der inzwischen höhere Preis lassen mich vermuten, dass viele meine Einschätzung zum Potenzial lokaler KI teilen. Sobald er da ist, geht die nächste Testrunde los.

Inzwischen prüft Opus 5.5 die Arbeit der OpenAI-Modelle Astra und Sol – mit hilfreichen Korrekturen und viel Anerkennung. Das stärkt mein Vertrauen in die Zusammenarbeit, ähnlich wie die Vielfalt meiner lokalen Modelle. So verstehe ich das Surfen auf der KI-Welle: Stabilität durch Balance und klare Rollen für Modelle verschiedener Anbieter. Das Surfbrett aber muss mir gehören und zu mir passen.

— Afschin