Knut Hoberg info at knut-hoberg.de Zurück

Lokale KI · Projekt

Fachartikel,
kurz zusammengefasst.

Ein kleines Programm auf meinem PC macht aus meinen PDF-Heften von Fachzeitschriften ein durchsuchbares Archiv. Zu jedem Artikel gibt es einen Knopf: Ein Sprachmodell auf meinem Rechner liest den Artikeltext und schreibt eine kurze Zusammenfassung. Der Artikeltext verlässt den Rechner dafür nicht.

Skizze in Excalidraw. Oben der Ablauf, darunter die Einzelheiten. Skizze zum Bearbeiten laden

01

Was du brauchst

Die Hefte als PDF mit echtem Text, in einem Ordner, am besten mit dem Jahr im Dateinamen. Dazu Python mit PyMuPDF zum Lesen, Flask für die Weboberfläche, SQLite mit Volltextsuche und ein Sprachmodell mit lokaler Schnittstelle im OpenAI-Format. Mehr ist es nicht.

02

Der Artikel, nicht das Heft

Ein ganzes Heft ist für eine Anfrage zu viel, und die Zusammenfassung bliebe vage. Das Programm schneidet deshalb anhand des Inhaltsverzeichnisses den Seitenbereich eines Artikels heraus und schickt nur diesen Text. Die Frage verbietet dem Modell, etwas zu erfinden, das nicht im Text steht.

03

Wo es hakt

Die Zusammenfassung ist nur so gut wie der Text im PDF und der Zuschnitt des Artikels. Gescannte Hefte brauchen vorher eine Texterkennung, und bei langen Artikeln zählt nur der Anfang. Ich lese die Zusammenfassung als Wegweiser, nicht als Ersatz für den Artikel.