Sprachmodelle nutzen bei der Erzeugung einer Antwort die gelernten oder öffentlich zugänglichen Inhalte. Wir können Sprachmodelle mit eigneen Dokumenten oder Informationen ergänzen. Bei einer Anfrage (einem Prompt) werden dann diese zusätzlichen Inhalte abgefragt. Das Ergebnis wird dann mit der ursprünglichen Anfrage verknüpft. Die hinzugeführten Inhalte bleiben privat.
Sie lernen Retrieval Augmented Generation (RAG), ein Muster für diese Vorgehensweise. Wir zeigen, wie die zusätzlichen Inhalte vektorisiert (Embedding) und in eine Vektor-Datenbank eingetragen werden. Bei einer Anfrage (Prompt) wird dann die Vektor-Datenbank oder eine andere Wissensquelle angefragt (Retrieval, semantische Suche). Das Sprachmodell erstellt die Antwort mit Hilfe dieser angereicherten Informationen. Die eigenen Informationen bleiben privat.
Viele Sprachmodelle und KI-Chats bieten einfache Werkzeuge, um Dokumente oder andere Inhalte hochzuladen. Das funktioniert ohne Programmieren. Wir zeigen Beispiele mit GPT, Copilot, Gemini, Llama und Claude.
RAG kann auch mit Programmen implementiert werden. Hierfür gibt es Frameworks und APIs, die wir ihnen zeigen. LangChain ist ein Beispiel hierfür.
Sie erhalten alle Beispiele der Schulung. Zusätzlich bekommen Sie einen Spickzettel und ein eBook: „Sprachmodelle mit eigenem Wissen ergänzen, mit Programmieren“.
Dieser Kurs ist Teil der Sprach-KI-Lernpfade.
Zielgruppe
- Programmierer*innen in Python, die Anwendungen mit Sprachmodellen erstellen wollen
Voraussetzungen
- Kenntnisse in Python
Inhalt
- Architektur der Sprachmodelle und der Anwendungen
- Neuronale Netze
- Sprache mathematisch – statistisch erfassen
- Sprachmodelle mit zusätzlichen Informationsquellen ergänzen
- Retrieval Augmented Generation (RAG): Die Architektur
- Ollama und LangChain, die Frameworks
- Vektorisierung von Inhalten
- Vektor-Datenbanken
- Indizierung der Inhalte
- Anfrage umformulieren
- Prompt erstellen
- Anfrage an die Vektor-Datenbank
- semantische Suche
- Ergebnis herstellen
Den ausführlichen Inhalt des Trainings teilen wir Ihnen gerne auf Anfrage mit.
Dauer
- 3 Tage (Standard) oder 5 Tage (intensiv)
- Jeweils 9-16 Uhr, 1 Stunde Mittagspause
Kosten
Kosten der Schulung für 3 Tage
| Online pro Person | 1.440,– € |
| Präsenz in München pro Person | 2.040,– € |
| Präsenz in Deutschland pro Person | 2.640,– € |
| Inhouse in München für 2 Personen | 2.250,– € |
| Inhouse in Deutschland für 2 Personen | 2.850,– € |
Kosten
Kosten der Schulung für 5 Tage.
| Online pro Person | 2.300,– € |
| Präsenz in München pro Person | 3.300,– € |
| Präsenz in Deutschland pro Person | 4.300,– € |
| Inhouse in München für 2 Personen | 3.250,– € |
| Inhouse in Deutschland für 2 Personen | 4.250,– € |