1.0 KiB
1.0 KiB
Aufgabe 02: Ollama und Cloud API vergleichen
Ziel
Du vergleichst lokale und cloudbasierte LLMs mit denselben Prompts.
Warum ist das wichtig?
Der Roboter muss je nach Datenschutz, Kosten und Latenz mit verschiedenen Modellquellen umgehen können.
Voraussetzungen
- Aufgabe 01
- Ollama optional
- Cloud API optional
Theorie
Lokale Modelle geben mehr Kontrolle, brauchen aber Hardware und sind oft schwächer. Cloud APIs sind leistungsfähig, erzeugen aber Kosten und Datenschutzfragen.
Aufgabe
Baue einen Provider-Schalter und teste mindestens fünf Prompts gegen beide Varianten oder dokumentiere eine simulierte zweite Variante.
Akzeptanzkriterien
- Provider kann per Config gewechselt werden.
- Latenz und Antwortqualität werden notiert.
- Datenschutz- und Kostenunterschiede sind beschrieben.
Erweiterungen
- Füge einen Fallback auf lokales Modell bei Cloud-Fehler ein.
Reflexionsfragen
- Wann ist lokal besser?
- Welche Prompts zeigen Qualitätsunterschiede?
- Wie wirkt Modelllatenz auf Sprachdialog?