Angela Heumann und Ivana Daskalovska präsentierten beim Online Deep Dive „LLMs in Unternehmen – Sprachmodelle effizient und sicher in Produktion bringen“ ein Beispiel aus der BRZ-Innovationsarbeit: Wie sich Preise aus bestehenden Bauprojekten mit Hilfe von KI zuverlässig auf neue Leistungsverzeichnisse übertragen lassen. Bereits in der Anmoderation wurden sie als Praxisbeispiel hervorgehoben – entsprechend hoch war die Aufmerksamkeit im Teilnehmerkreis.
Fundierte Einführung als Basis
Den inhaltlichen Rahmen setzte Prof. Dr. Christian Winkler, der das Programm maßgeblich mitgestaltete und mit seinem Vortrag „Grundlagen zu LLMs“ in zentrale Konzepte wie Vektoren, Embeddings und Reranking einführte. Dieser Einstieg bildete die ideale Grundlage für den anschließenden Projektbericht von Angela und Ivana.
KI-gestützte Kalkulation: Preise aus bestehenden Projekten übertragen
Im Vortrag zeigten sie ausführlich, wie Preise aus bereits kalkulierten Projekten automatisiert auf neue Leistungsverzeichnisse übertragen werden können. Das Ziel: Effizienz steigern, Transparenz schaffen und die Qualität der Vorschläge erhöhen – weg von intransparenten Blackbox-Ergebnissen, hin zu nachvollziehbaren Kalkulationsvorschlägen.
Technische Herausforderungen und Entwicklungsschritte
Die Besonderheit: Leistungsverzeichnisse im Bauwesen bestehen aus kurzen, fachspezifischen Texten, zahlreichen Maßeinheiten und Abkürzungen. Kleine Abweichungen können starke Preisunterschiede bedeuten.
Im Entwicklungsprozess wurden mehrere Modellgenerationen getestet, darunter RoBERTa, Jina AI Embeddings und schließlich OpenAI Embeddings. Ein entdeckter Tokenlimit-Bug, bei dem nur die ersten 20 Tokens verarbeitet wurden, erwies sich als entscheidend: Nach dessen Behebung verbesserten sich die Ergebnisse deutlich – ein Beispiel dafür, wie technische Details die Gesamtperformance beeinflussen können.
Qualitäts- und Performanceoptimierungen
-
Integration eines Rerankers zur Steigerung der Ergebnispräzision
-
Batchverarbeitung und Caching für hohe Performanz bei großen Leistungsverzeichnissen
Zentrale Learnings
-
Benchmark-Ergebnisse allein reichen nicht: Reale Projektdaten und Kundenfeedback sind ausschlaggebend.
-
Höhere Dimensionsanzahl (OpenAI Embeddings mit 3072 Dimensionen) führte zu stabileren Ergebnissen.
-
Hybrid Search + Reranker kombiniert Vektorsuche, Keyword-Suche und Ranking – mit hoher Trefferqualität.
-
Kleine Bugfixes können große Wirkung entfalten.
-
Transparenz ist entscheidend für Vertrauen und Akzeptanz in der Praxis.
Einblicke aus weiteren Vorträgen
Die Veranstaltung bot zudem spannende Perspektiven zu Modellauswahl, Datenextraktion und Sicherheit:
Besonders hervorstach ein Beitrag zur Dokumentenverarbeitung mit DeepSeek-OCR, das Texte nicht mehr klassisch tokenisiert, sondern als komprimierte visuelle Token verarbeitet – ein Ansatz mit großem Potenzial für skalierbare OCR-Szenarien.
Im Abschlussvortrag zu „Liquid Foundation Models“ wurde gezeigt, wie kleinere Modelle auch in ungewohnten Situationen wie Regen beim autonomen Fahren flexibel reagieren können.
Beim Thema Sicherheit lieferte der Vortrag „Jailbreaking LLMs“ von Mirko Ross wichtige Impulse, die sich direkt für BRZ-eigene Chatbots nutzen lassen.
Organisation und Ausblick
Die Organisation des Deep Dives war durchgehend professionell, von der technischen Vorbereitung bis zum Ablauf. Besonders positiv wurde das offene Teilen von Herausforderungen aufgenommen – denn kontinuierliche Weiterentwicklung braucht Zeit, Feedback und Lernschleifen.
„Die Teilnahme bot eine wertvolle Gelegenheit, Einblicke aus der BRZ-Innovationsarbeit zu teilen, konstruktives Feedback mitzunehmen und neue Impulse für den weiteren Ausbau KI-gestützter Prozesse in der Kalkulation zu gewinnen.“
– Angela Heumann, BRZ Deutschland GmbH