EXT:solrai – KI-Zusammenfassung über der Solr-Trefferliste (TYPO3 v13/v14)
Hallo zusammen,
wir von der dkd Internet Service GmbH aus Frankfurt haben eine neue Extension veröffentlicht und stellen sie hier vor.
Transparenz vorweg: kommerzielles Produkt, wir sind aber Co-Maintainer von EXT:solr und entsprechend nah am Thema.
Worum es geht
EXT:solrai setzt eine KI-generierte Zusammenfassung über die bestehende Solr-Trefferliste. Keine zweite Suchplattform, kein Chatbot mit eigener Wissensdatenbank – eine zusätzliche Ausgabeschicht auf der Suche, die schon läuft. Index, Mapping, Facettierung und Ranking bleiben unverändert bei EXT:solr.
Ablauf
- Besucher sucht wie gewohnt, also
q=… - EXT:solr liefert Treffer, Facetten und Snippets
- Die Trefferseite rendert sofort und wartet nicht auf das Modell. Das Frontend schickt danach einen POST an den Endpunkt; bis die Antwort da ist, hält ein Platzhalter den Platz.
- Bei weniger als zwei brauchbaren Treffern oder leerem Suchbegriff geht gar keine Anfrage raus.
Zwischen Trefferseite und Endpunkt liegen nur die Solr-IDs im Cache. Der Endpunkt lädt die Dokumente beim Erzeugen neu aus Solr – mit den Zugriffsrechten des jeweiligen Besuchers.
Modell-Konfiguration über AI Manager (b13/aim)
Der LLM-Endpunkt wird nicht in EXT:solrai, sondern im AI Manager als Backend-Datensatz gepflegt. EXT:solrai bringt dafür den Provider-Typ OpenAI-compatible API mit und funktioniert mit allem, was das OpenAI-Format spricht: LiteLLM, OpenRouter, vLLM, Ollama, OpenAI selbst.
- Base URL ohne
/v1eintragen, z. B.https://litellm.example.com, API-Key bei Bedarf - Nach dem Speichern holt die Extension die Modellliste über
/v1/models, dann Modell auswählen - Max Tokens und Temperatur stehen im selben Datensatz
- Die Übersicht verwendet die Standardkonfiguration des AI Managers
- EXT:solrai selbst speichert keine Keys und keine Modellnamen
TypoScript
Verhalten der Übersicht, site-weit oder pro Ergebnis-Plugin im Tab "AI Overview":
plugin.tx_solr.solrai.overview {
enabled = 1
minimumSources = 2
maximumSources = 8
maxContentLength = 4000
maxFragmentsLength = 1500
maxWords = 250
}
Caching
Eine Antwort bleibt eine Stunde im Cache und gilt für alle Besucher. Im Cache-Key stecken Site und Sprache, der Suchbegriff, das Wortlimit und die Quellen, aus denen die Antwort entstanden ist. Die Quellen gehören bewusst dazu, weil die Trefferliste von den Zugriffsgruppen des Besuchers abhängt: Eine gecachte Antwort bekommt nur, wessen Suche genau dieselben Dokumente geliefert hat.
Ändert jemand Titel, URL oder Inhalt eines Treffers, ändert sich der Key – allerdings erst, sobald der Datensatz neu indexiert ist. Zwischen Backend-Änderung und Reindex bleibt die alte Antwort also stehen. Seite 2 der Treffer hat andere Quellen und löst damit einen eigenen Call aus.
Ist der Provider nicht erreichbar oder antwortet mit einem Fehler, landet nichts im Cache. Kann das Modell aus den Quellen keine Übersicht bilden, wird auch das eine Stunde gecacht.
Rate-Limit
Konfiguration in der Extension Configuration. Standardmäßig 30 Übersichten pro IP und 1000 für die ganze Instanz, jeweils pro Stunde. IPv6 zählt pro /64-Netz. Antworten aus dem Cache zählen mit, denn das Limit wird vor der Solr-Abfrage geprüft. Wer darüber liegt, bekommt eine 429 mit Retry-After und statt der Übersicht einen kurzen Hinweis. Für Monitoring und Lasttests gibt es eine IP-Ausnahmeliste.
Timeout
Der Provider-Timeout ist fest auf 20 Sekunden eingestellt. max_execution_time (und hinter php-fpm request_terminate_timeout) sollte deshalb deutlich darüber liegen. Der PHP-Standard von 30 Sekunden reicht nicht, 60 sind ein guter Startwert.
Zwei Requests in zwei Fällen
- Liefert das Modell kein gültiges JSON, fragt die Extension einmal im einfachen JSON-Modus nach
- Modelle, die nur Temperatur 1 akzeptieren (aktuelle Claude-Modelle, die Reasoning-Modelle von OpenAI), lehnen den ersten Versuch ab, und AI Manager wiederholt ihn ohne Temperatur. Wer die Temperatur im Datensatz gleich auf 1 stellt, spart sich diesen Umweg
Kein Streaming
Die Antwort kommt als ein JSON-Block. Bevor sie den Browser erreicht, prüft der Server sie vollständig. Das Modell liefert Abschnitte zusammen mit den Nummern der Quellen, auf die sich jeder Abschnitt stützt. Ein Abschnitt ohne gültige Quellennummer wird verworfen. Die Antwort endet vor dem Absatz, der das Wortlimit überschreiten würde. Im Browser wird das Ergebnis als Text eingefügt, nie als HTML.
Was in den Prompt geht
In den Prompt gehen höchstens 8 Treffer, gesteuert über maximumSources. Das ist bewusst weniger als die Trefferliste zeigt: EXT:solr liefert standardmäßig 10 Treffer pro Seite, in den Prompt kommen davon die ersten 8. Wer resultsPerPage im Plugin hochdreht, bekommt trotzdem nicht mehr Quellen – es bleiben bei 8.
Pro Treffer geht der Volltext aus dem Solr-Feld content in den Prompt, gekürzt auf 4000 Zeichen. Wurde gekürzt, folgen bis zu 1500 Zeichen Highlighting-Snippets von EXT:solr, denn die zur Suche passenden Stellen können im abgeschnittenen Teil stehen. Ein Treffer ohne Content geht nur mit seinen Snippets in den Prompt. Markup wird entfernt. Im Maximum sind das rund 44.000 Zeichen Text pro Anfrage.
Bewusste Design-Entscheidungen
- Die Trefferliste bleibt die Wahrheit. Die Zusammenfassung ist Lesehilfe, kein Ersatz. Jede Aussage bleibt am Originaltreffer prüfbar, denn LLM-Ausgaben können falsch sein.
- Kein Reindexing. Nichts wird zusätzlich vektorisiert, kein zweiter Index. Grundlage sind die vorhandenen Solr-Ergebnisse.
- Datenschutz projektspezifisch. Suchbegriff und Trefferinhalte gehen an den Modell-Endpunkt. Bei nicht-öffentlichen Inhalten ist self-hosted (vLLM, Ollama) oder eine AVV der naheliegende Weg – die offene Provider-Wahl macht das möglich.
Kompatibilität und Konditionen
- TYPO3: v13 LTS und v14 LTS
- PHP: ab 8.2
- Voraussetzung: EXT:solr mit laufendem Solr-Server, AI Manager (b13/aim), API-Key eines OpenAI-kompatiblen Modells (nicht inklusive)
- Bezug: über den dkd-Shop
- Doku: https://www.dkd.de/de/produkte/ai-search-extsolrai/
- v13 LTS: Updates bis 31.12.2027
- v14 LTS: Updates bis 30.06.2029
- Preis: 500 € netto pro Kunde, einmalig
- Nutzung: in beliebig vielen TYPO3-Installationen möglich
- Installation und Support: bei Bedarf separat nach Aufwand
Links
- Produktseite: https://www.dkd.de/de/produkte/ai-search-extsolrai/
- Shop (beide Varianten): https://shop.dkd.de/produkte/ai/
Bei Fragen schreibt uns gerne an.
Viele Grüße aus Frankfurt
Euer dkd-Team
www.dkd.de