Nutzung von KI und LLMs: Von technischen Grundlagen bis zum Geschäftseinsatz
Kurs durchgeführt von Daniele Teti
Dauer: 1 Tag
Preis: € 490,00
Voraussetzungen
Kenntnisse in Delphi oder Python. Grundlegendes Verständnis der Funktionsweise einer API mit einem HTTP/S-Endpunkt.
Beschreibung
Das Ziel des Kurses ist es, praktische Fähigkeiten zu vermitteln, um lokale LLMs in Unternehmenskontexten auszuwählen, zu implementieren und zu integrieren, wobei ihre Vorteile, Einschränkungen und Anforderungen hervorgehoben werden. Es wird über lokale Large Language Models (LLMs) für Unternehmensanwendungen gesprochen. Der Kurs ist so konzipiert, dass er praktisch ist, theoretische oder mathematische Vertiefungen vermeidet und darauf abzielt, den Teilnehmern zu vermitteln, welche Systeme zu verwenden sind, sowie die Vorteile, Einschränkungen und Anforderungen für eine effektive Implementierung lokaler LLMs im Unternehmen zu verstehen. Die Struktur ist in Module unterteilt, die praktische Aktivitäten beinhalten, um ein konkretes Lernen zu gewährleisten.
Bereitgestellte Materialien
Dokumentation und Anleitungen
- Vollständige Kursslides im PDF-Format
- Technische Dokumentation für Implementierung und Deployment
- Referenzhandbücher für APIs und Konfigurationen
- Best Practices für die Integration in Unternehmensinfrastrukturen
Quellcode und Projekte
- Vollständige Delphi-Projekte (VCL und FMX) für alle gezeigten Beispiele
- Ollama/PostgreSQL/DelphiMVCFramework-Integrationsbibliotheken
- SQL-Skripte für das Setup von Vektor-Datenbanken
- Modelfiles, konfiguriert für verschiedene Anwendungsfälle
Vorlagen und Ressourcen
- System-Prompt-Vorlagen für spezifische Bereiche
- Beispieldatensätze für Tests und Validierung
- Docker-Konfigurationen für das Deployment
- Checkliste für die Implementierung in der Produktion
Support und Garantien
- Vollständige Materialien: Zugriff auf den gesamten im Kurs verwendeten Quellcode und die Dokumentation
- Zertifikat: Teilnahmebescheinigung mit Schulungsstunden
Der Kurs bietet alle notwendigen Materialien, um KI-Lösungen mit Delphi zu verstehen und zu implementieren: vollständige Dokumentation, funktionierender Quellcode, konfigurierbare Vorlagen und technischer Support zur Unterstützung der Implementierung in Ihren Unternehmensprojekten.
Inhalte
MODUL 1 – KI-Szenario und Geschäftsmöglichkeiten (45 Minuten)
- KI in italienischen Unternehmen: aktuelle Situation
- Analyse von ISTAT-Daten und Einführungstrends
- Hauptbarrieren: Kompetenzen, Kosten, Implementierung
- ROI-Bewertung in KI-Unternehmensprojekten
- LLMs für Geschäftsanwendungen
- Automatisierung von Dokumentenprozessen
- Technischer Support und Kundenservice
- Automatische Analyse und Klassifizierung von Inhalten
- Praktisches Beispiel: Implementierung eines Unternehmens-Chatbots
MODUL 2 – Grenzen von LLMs und Lösungen (1 Stunde)
- Die 4 grundlegenden Grenzen von LLMs
- Kontextgröße und Token-Verwaltung
- Datum des Wissensschnitts und veraltete Informationen
- Halluzinationen: Erkennen und Verhindern
- Fehlender Zugriff auf externe Daten
- Strategien zur Überwindung der Grenzen
- Techniken zur Kontextoptimierung
- Methoden zur Informationsvalidierung
MODUL 3 – Implementierung mit Ollama (1,5 Stunden)
- Ollama-Setup und -Konfiguration
- Installation und Modellverwaltung
- Optimierung für Unternehmensinfrastruktur
- Konfiguration für Mehrbenutzerumgebungen
- Integration mit Delphi-Anwendungen
- Ollama REST API: robuste Implementierung
- Fehler- und Timeout-Management in Produktionsumgebungen
- Integrationsmuster für bestehende Anwendungen
- Praktische Übung:
- Integration von KI-Funktionalitäten in eine bestehende VCL-Anwendung
- Implementierung eines kontextbezogenen Hilfesystems
- Performance-Tests und Optimierung
MODUL 4 – Personalisierung und System Prompt (1 Stunde)
- Design von Unternehmens-System-Prompts
- Methoden zur Definition spezifischer Verhaltensweisen
- Anpassung an Unternehmensbereiche und -prozesse
- Techniken zur Qualitätskontrolle von Antworten
- Erstellung spezialisierter Modelle
- Verwendung von Modelfiles zur Personalisierung
- Vorlagen für verschiedene Sektoren (Recht, Finanzen, Technik)
- Validierung und Testen personalisierter Modelle
- Praktisches Labor: Entwicklung eines spezialisierten Assistenten für den eigenen Bereich
MODUL 5 – Datenanalyse und Chain of Thought (1 Stunde)
- Verarbeitung strukturierter Unternehmensdaten
- Techniken zur Analyse von CSV-, Excel- und JSON-Dateien
- Muster zur Informationsentnahme aus Dokumenten
- Validierung und Qualitätskontrolle der Ergebnisse
- Chain of Thought für Entscheidungsprozesse
- Implementierung von mehrstufigem Denken
- Anwendung auf Validierungs- und Kontrollprozesse
- Nachvollziehbarkeit automatisierter Entscheidungen
- Fallstudie: Automatisches System zur Analyse von Verkaufsdaten
MODUL 6 – Vektor-Datenbanken und RAG-System (1 Stunde)
- Implementierung von Vektor-Datenbanken
- PostgreSQL-Konfiguration mit PGVector
- Techniken zum Einbetten und Indizieren von Dokumenten
- Chunking-Strategien für Unternehmensdokumente
- Entwicklung von RAG-Systemen (Retrieval Augmented Generation)
- Architektur und Hauptkomponenten
- Implementierung mit Delphi und DelphiMVCFramework
- Integration mit bestehenden Dokumentenmanagementsystemen
- Übung: Implementierung einer unternehmenseigenen Wissensdatenbank mit semantischer Suche
MODUL 7 – Function Calling und Systemintegration (45 Minuten)
- Function Calling für funktionale Erweiterungen
- Implementierung von Aufrufen externer Funktionen
- Integration mit bestehenden Unternehmens-APIs (Datenbank, CRM, ERP)
- Muster für die Automatisierung komplexer Workflows
- Model Context Protocol (MCP)
- Implementierung von Integrationsstandards
- Verwendung mit DelphiMVCFramework für Enterprise-Dienste
- Strategien für Deployment und Wartung
- Abschlussprojekt: Entwicklung eines KI-Assistenten, der in Unternehmenssysteme integriert ist