Neue freie Modelle für genAI4BUW & API Zugang
Wir freuen uns ab sofort neue Modelle in genAI4BUW bereitzustellen.
Es handelt sich hierbei erstmals um sog. Open-Weight Sprachmodelle auf landeseigener Infrastruktur! Die Modelle werden an den High-Performance-Computing-Zentren (HPC) in Aachen und Köln betrieben und stehen allen Hochschulen in Nordrhein-Westfalen (NRW) kostenfrei im Rahmen einer fair-use Policy nach dem best-effort Prinzip zur Verfügung.
Folgende Tabelle enthält Informationen über die neu in genAI4BUW nutzbaren Modelle:
| Model-Name | Standorte | Einsatzbereich | Zugriff über |
|---|---|---|---|
| Mistral Small 4 119B 2603 | Aachen, Köln | Allgemeinwissen, Übersetzen, Zusammenfassen, Programmieren, Anweisungsbefolgung, Tool Calling, Bilderkennung, Reasoning | Chat & API |
| GPT OSS 120B | Aachen, Köln | Allgemeinwissen, Übersetzen, Zusammenfassen, Tool Calling, Reasoning | Chat & API |
| Qwen3 Embedding 8B | Aachen | Embeddings | API |
| E5 Mistral 7B Instruct | Köln | Embeddings | API |
Weiterhin haben wir für diese Modelle den Zugriff via API für alle Gruppen freigeschaltet. Dies richtet sich an die Nutzer*innen, die KI gerne in ihren Entwicklungsumgebungen, lokalen Tools oder auf andere Weise jenseits der Chatoberfläche nutzen wollen.
Die Modelle laufen in den HPC Zentren von Aachen und/oder Köln und damit werden bei Nutzung dieser Modelle keine Daten ausserhalb der EU oder Deutschland verarbeitet.
Was sind APIs?
APIs (Application Programming Interfaces) sind standardisierte Schnittstellen, die den Datenaustausch und die Kommunikation zwischen verschiedenen Softwareanwendungen ermöglichen. Sie fungieren als Vermittler, der es Programmen erlaubt, Daten zu senden, abzurufen oder Funktionen auszuführen – ohne dass die zugrundeliegenden Systeme direkt miteinander verbunden sein müssen.
Zugriff auf die API
Um einen neuen API-Schlüssel zu generieren, gehen Sie wie folgt vor:
-
Nutzerprofil öffnen Klicken Sie im unteren linken Bereich von genAI4BUW auf Ihren Nutzernamen und wählen Sie dort die Option „API-Schlüsselverwaltung“ aus.
-
Schlüssel erstellen Im Dialogfenster wird Ihnen der benötigte Endpunkt angezeigt. Geben Sie einen Namen für Ihren Schlüssel ein und klicken Sie auf „Schlüssel erstellen“.
-
Schlüssel anzeigen oder kopieren Nach der Erstellung können Sie den Schlüssel über die Symbolleiste entweder anzeigen oder direkt kopieren.
Fertig! Ihr API-Schlüssel steht nun für die Nutzung bereit.
Es gelten auch hierbei die Nutzungsbedingungen.
