40 lines
1.0 KiB
Markdown
40 lines
1.0 KiB
Markdown
# Aufgabe 02: Ollama und Cloud API vergleichen
|
|
|
|
## Ziel
|
|
|
|
Du vergleichst lokale und cloudbasierte LLMs mit denselben Prompts.
|
|
|
|
## Warum ist das wichtig?
|
|
|
|
Der Roboter muss je nach Datenschutz, Kosten und Latenz mit verschiedenen Modellquellen umgehen können.
|
|
|
|
## Voraussetzungen
|
|
|
|
- Aufgabe 01
|
|
- Ollama optional
|
|
- Cloud API optional
|
|
|
|
## Theorie
|
|
|
|
Lokale Modelle geben mehr Kontrolle, brauchen aber Hardware und sind oft schwächer. Cloud APIs sind leistungsfähig, erzeugen aber Kosten und Datenschutzfragen.
|
|
|
|
## Aufgabe
|
|
|
|
Baue einen Provider-Schalter und teste mindestens fünf Prompts gegen beide Varianten oder dokumentiere eine simulierte zweite Variante.
|
|
|
|
## Akzeptanzkriterien
|
|
|
|
- Provider kann per Config gewechselt werden.
|
|
- Latenz und Antwortqualität werden notiert.
|
|
- Datenschutz- und Kostenunterschiede sind beschrieben.
|
|
|
|
## Erweiterungen
|
|
|
|
- Füge einen Fallback auf lokales Modell bei Cloud-Fehler ein.
|
|
|
|
## Reflexionsfragen
|
|
|
|
- Wann ist lokal besser?
|
|
- Welche Prompts zeigen Qualitätsunterschiede?
|
|
- Wie wirkt Modelllatenz auf Sprachdialog?
|