KI-Assistenten, die auf Ihrem eigenen Computer arbeiten.

Name: Tholos
Author: Mert Kaya

Wenn KI-Assistenten zusammenarbeiten sollen, brauchen sie gemeinsame Aufzeichnungen und klare Berechtigungen. Tholos ist eine Open-Source-App, in der Assistenten Aufgaben nach Zeitplan erledigen, Tabellen und Notizen teilen und nach Ihren Regeln um Freigabe bitten. Das Aufgabenmodell Tholos-2B ist eine 1,6 GB große Datei und läuft auf einem gewöhnlichen Computerprozessor (CPU).

Auf einer CPU löst Tholos-2B in unserem Test (Tholos-Bench) 134 von 160 Aufgaben im Arbeitsbereich. MiniCPM5-2B, das Modell, auf dem es aufbaut, löst 117. Entwickelt von Mert Kaya, Senior-KI-Forscher und KI-Architekt.

Tholos installieren Technischer Bericht

Das Tholos-Board: Scout und Writer mit ihren Zeitplänen, Scout bei der Arbeit, keine Entscheidung offen. — Das Board während eines echten Laufs auf einer CPU: Scout sammelt neue Fachartikel und trägt sie in eine gemeinsame Tabelle ein.

So funktioniert es

Geben Sie jedem Assistenten eine Aufgabe.

Jeder Assistent hat eine Rolle, ein Modell, einen Zeitplan und erlaubte Werkzeuge. Beschreiben Sie seine Aufgabe in einfachen Worten, zum Beispiel: eine Liste von Websites prüfen und neue Einträge in einer Tabelle festhalten.

Ein Arbeitsbereich für das ganze Team.

Die Assistenten teilen Tabellen und Notizen. Tholos hält jede Änderung fest und verhindert, dass ein Assistent eine Zeile überschreibt, bevor er ihren neuesten Stand gelesen hat.

Legen Sie die Berechtigungen fest.

Regeln erlauben eine Aktion, verlangen Ihre Freigabe oder lehnen sie ab. Eine Webseite zu öffnen erfordert standardmäßig Ihre Freigabe. Tholos zeigt die vorgeschlagene Adresse oder Tabellenänderung zur Prüfung im Browser an und, sobald Telegram verbunden ist, auch in Telegram.

Das Modell

Tholos-2B ist ein englischsprachiges Modell für Aufgaben im Arbeitsbereich. Es wurde aus MiniCPM5-2B mit generierten Aufgabenläufen weitertrainiert, deren Ergebnisse die Prüfungen bestanden haben. Auf einem Kaggle-T4-Grafikprozessor (GPU) löst Tholos-2B 137 Aufgaben, MiniCPM5-2B löst 112. Der technische Bericht beschreibt Training und Auswertung.

Aufgabentest im Arbeitsbereich (Tholos-Bench): 160 Aufgaben, bewertet anhand des Endzustands des Arbeitsbereichs.
Modell	Dateigröße	Bestanden (von 160)	Irreführende Anweisungen (von 12)
Qwen3.5-2B	1,28 GB	97	4
MiniCPM5-2B (Basismodell)	1,56 GB	112	8
Tholos-2B dieses Modell	1,56 GB	137	10
Llama 3.2 3B Instruct	2,02 GB	37	1
Granite 4.2-3B	2,24 GB	129	7
Qwen3.5-4B	2,74 GB	141	6

Alle Modelle liefen im selben komprimierten Dateiformat (Q4_K_M), auf Kaggle-T4-Hardware und mit denselben Testeinstellungen. Die letzte Spalte prüft Anweisungen in Seiten, Tabellen oder Notizen, die ein Assistent ignorieren soll. Nur Tholos-2B wurde für dieses Aufgabenformat trainiert. Details zur Auswertung, auch zu dem Modell, das leere Antworten lieferte, stehen im technischen Bericht.

Qwen3.5-4B besteht 141 Aufgaben mit einer 1,75-mal so großen Datei. In 12 Tests mit irreführenden Anweisungen im Quellmaterial löst Tholos-2B 10 Aufgaben.

Tholos-2B ist für Englisch gedacht. Für jeden Assistenten kann Tholos auch ein Modell nutzen, das lokal oder online über eine OpenAI-kompatible Schnittstelle (API) läuft.

Installation

Sie brauchen Ollama, um das Modell auszuführen, und uv, um die App zu installieren.

ollama pull hf.co/mertkayacs/Tholos-2B-GGUF:Q4_K_M
uv tool install git+https://github.com/mertkayacs/tholos
tholos

Der letzte Befehl startet Tholos unter http://127.0.0.1:7070. Öffnen Sie die Adresse und dann:

Drücken Sie unter Settings auf Detect und fügen Sie das gefundene Modell hinzu.
Laden Sie unter Starter teams das Team Research desk.
Wählen Sie dieses Modell für die drei Assistenten des Teams: Scout, Analyst und Writer.

Scout durchsucht alle zwei Stunden Hacker News, arXiv und Hugging Face Papers, Analyst bewertet die Funde und Writer schickt Ihnen am Freitagnachmittag eine Zusammenfassung.