Talk | 
BASTA! Herbst 2024
 | 17.09.2024

Real-World RAG: Eigene Daten & Dokumente mit semantischer Suche & LLMs erschliessen

Es klingt so simpel wie genial: Man wirft seine Dokumente einfach in eine Vektor-Datenbank und auf einmal kennt ein Large-Language Model unser Firmen-Fachwissen und wir können uns sinnvoll mit einem Chatbot über unsere Daten unterhalten. Wir müssen nur einem der zigtausenden Tutorials auf irgendwelchen Blogs oder Youtube folgen und schon sind wir am Ziel, richtig? Doch wie so oft sind Dinge, die zu gut klingen um Wahr zu sein leider auch genau das. Damit das eigene Projekt um Retrieval Augmented Generation und "Chat with your company data" wirklich erfolgreich wird, muss man allerdings etwas eigenes Hirnschmalz in das Thema stecken. In dieser Session führt Sie unser Experte Sebastian Gingter durch etwas Theorie zu Vektoren und Embeddings und zeigt damit, was Vektordatenbanken wirklich leisten können und was Splitting beim Erzeugen von Embeddings bedeutet. Worauf müssen wir beim Indizieren achten? Dabei buhlen noch die verschiedensten Tools wie LangChain, Azure Cognitive Search, Qdrant oder Chroma um unsere Aufmerksamkeit. Sehen Sie, wie man am Ende alle Schritte in der eigenen Applikation zu einem effizienten RAG-Prozess zusammenführt, der dann tatsächlich sinnvolle Antworten auf die Fragen der Benutzer zu den Daten & Dokumenten Ihrer Anwendung liefert.

Sebastian ist Consultant bei Thinktecture und Microsoft MVP. Seine Spezialgebiete sind Generative AI im Businessumfeld sowie ASP.NET Core.

Event

BASTA! Herbst 2024
16.09.24  
- 20.09.24 
@ Mainz
 (DE)
BASTA! Herbst 2024 Logo

Links & Materialien

Event

BASTA! Herbst 2024
16.09.24  
- 20.09.24 
@ Mainz
 (DE)
BASTA! Herbst 2024 Logo

Weitere Artikel zu aktuellen Schwerpunkten

Angular
SL-rund

View Transition API Integration in Angular—a brave new world (Part 1)

If you previously wanted to integrate view transitions into your Angular application, this was only possible in a very cumbersome way that needed a lot of detailed knowledge about Angular internals. Now, Angular 17 introduced a feature to integrate the View Transition API with the router. In this two-part series, we will look at how to leverage the feature for route transitions and how we could use it for single-page animations.
15.04.2024
Low-angle photography of metal structure
AI
cl-neu

AI-Funktionen zu Angular-Apps hinzufügen: lokal und offlinefähig

Künstliche Intelligenz (KI) ist spätestens seit der Veröffentlichung von ChatGPT in aller Munde. Wit WebLLM können Sie einen KI-Chatbot in Ihre eigenen Angular-Anwendungen integrieren. Wie das funktioniert und welche Vor- und Nachteile WebLLM hat, lesen Sie hier.
26.02.2024
Database Access with Sessions
.NET
KP-round

Data Access in .NET Native AOT with Sessions

.NET 8 brings Native AOT to ASP.NET Core, but many frameworks and libraries rely on unbound reflection internally and thus cannot support this scenario yet. This is true for ORMs, too: EF Core and Dapper will only bring full support for Native AOT in later releases. In this post, we will implement a database access layer with Sessions using the Humble Object pattern to get a similar developer experience. We will use Npgsql as a plain ADO.NET provider targeting PostgreSQL.
15.11.2023
Old computer with native code
.NET
KP-round

Native AOT with ASP.NET Core – Overview

Originally introduced in .NET 7, Native AOT can be used with ASP.NET Core in the upcoming .NET 8 release. In this post, we look at the benefits and drawbacks from a general perspective and perform measurements to quantify the improvements on different platforms.
02.11.2023
.NET
KP-round

Optimize ASP.NET Core memory with DATAS

.NET 8 introduces a new Garbage Collector feature called DATAS for Server GC mode - let's make some benchmarks and check how it fits into the big picture.
09.10.2023
Angular
SL-rund

Konfiguration von Lazy Loaded Angular Modulen

Die Konfigurierbarkeit unserer Angular-Module ist für den Aufbau einer wiederverwendbaren Architektur unerlässlich. Aber in der jüngsten Vergangenheit hat uns Angular seine neue modullose Zukunft präsentiert. Wie sieht das Ganze jetzt aus? Wie konfigurieren wir jetzt unsere Lazy-Komponenten? Lasst uns gemeinsam einen Blick darauf werfen.
03.08.2023

Unsere Webinare

Unsere Artikel

Mehr über uns