KI-Modelle – Übersicht
Diese Seite gibt eine Übersicht über die in der Evoya-Plattform verfügbaren KI-Modelle und erklärt, wie sie eingesetzt und verwaltet werden.
Grundlagen
KI-Modelle bilden die technische Grundlage für KI-Agenten. In der Evoya-Plattform kommen sogenannte Large Language Models (LLMs) zum Einsatz, die Texte, Bilder oder andere Inhalte verstehen, verarbeiten und generieren.
Jeder KI-Agent verwendet genau ein Sprachmodell. Welches Modell verwendet wird, wird bei der Konfiguration des KI-Agenten festgelegt. Zusätzlich können auf Organisations-Ebene Standardmodelle definiert werden, die als Voreinstellung für neu erstellte Agenten dienen.
Ein zentraler Vorteil der Plattform ist die Möglichkeit, verschiedene KI-Modelle parallel zu nutzen und je nach Anwendungsfall gezielt auszuwählen.
Modelltypen
In der Evoya-Plattform werden zwei grundlegende Typen von KI-Modellen unterschieden. Diese Unterscheidung beschreibt die Art des Modells und dessen Lizenzierung.
Open-Source-Modelle
Open-Source-Modelle sind frei verfügbare Sprachmodelle, deren Quellcode offen zugänglich ist. Sie können flexibel betrieben und an unterschiedliche Anforderungen angepasst werden. Open-Source-Modelle eignen sich insbesondere für Szenarien, in denen Transparenz, Kontrolle oder ein eigener Betrieb im Vordergrund stehen.
Proprietäre Modelle
Proprietäre Modelle stammen von externen Anbietern und sind nicht offen zugänglich. Sie bieten häufig spezialisierte oder besonders leistungsfähige Funktionen. Ein bekanntes Beispiel für ein proprietäres Modell ist ChatGPT.
Verarbeitungsstandorte
KI-Modelle sind nach ihrem Verarbeitungsstandort gruppiert. Der Standort gibt an, wo Inhalte durch das jeweilige Modell verarbeitet werden.
Aktuell stehen Modelle aus folgenden Regionen zur Verfügung:
- Schweiz
- Europa
- Vereinigte Staaten
Der Verarbeitungsstandort ist eine zentrale Entscheidungsgrundlage bei der Auswahl eines Modells.
Standardmodelle auf Organisations-Ebene
Auf Organisations-Ebene können Standardmodelle definiert werden, die als Voreinstellung für neu erstellte KI-Agenten dienen:
- Standard-Sprachmodell
- Standard-Bildmodell
Diese Standardmodelle werden automatisch ausgewählt, wenn ein neuer KI-Agent erstellt wird.
Bei der Konfiguration eines KI-Agenten kann das voreingestellte Standardmodell überschrieben und ein anderes aktiviertes KI-Modell ausgewählt werden. Dadurch lassen sich einzelne Agenten gezielt an unterschiedliche Anforderungen anpassen.
Das Standard-Embedding-Modell ist systemseitig definiert und kann aktuell nicht angepasst werden.
KI-Modelle verwalten
In der Modellübersicht :material-open-in-new: können KI-Modelle aktiviert oder deaktiviert werden. Die Modelle sind nach ihrem Verarbeitungsstandort gruppiert.
- Jedes Modell kann einzeln aktiviert oder deaktiviert werden
- Pro Standort können alle Modelle gesammelt ein- oder ausgeschaltet werden
Nur aktivierte Modelle stehen bei der Konfiguration von KI-Agenten zur Auswahl zur Verfügung.
Modell-Details
Zu jedem KI-Modell können Detailinformationen angezeigt werden. Dazu gehören unter anderem:
- Anzahl KI-Agenten, die dieses Modell verwenden
- Grösse des Kontextfensters
- Modellparameter
- Unterstützung von Tool Calling / Function Calling
- Credit-Kosten pro 10'000 Zeichen
Diese Informationen unterstützen bei der Auswahl des passenden Modells für einen konkreten Anwendungsfall.
Credits und Nutzung
Die Nutzung von KI-Modellen erfolgt über Credits. Der Credit-Verbrauch hängt vom verwendeten Modell und der verarbeiteten Textmenge ab.
Die Credit-Kosten sind pro Modell transparent ausgewiesen.