Zum Inhalt springen
AKTUELL: Neuigkeiten und Termine aus dem KI:Expertisezentrum.nrw – Newsletter abonnieren
Nächste Meilensteine

Inferenz-Roadmap

Unsere Roadmap bietet einen Überblick über die aktuell stattfindenden Arbeiten im Handlungsfeld Inferenz. Neben der Bereitstellung von KI-Modellen beinhaltet diese auch Softwareentwicklung, bspw. zur Unterstützung von API-Standards. Rollouts, welche in der Roadmap mit einer konkreten Kalenderwoche gelistet sind, befinden sich aktiv in Vorbereitung und sollten ab diesem Zeitpunkt zur Verfügung stehen. Hierbei handelt es sich mindestens um die Verfügbarkeit via API, bspw. über KI:Connect. Wir arbeiten eng mit dem Handlungsfeld Apps zusammen, um Modelle oder Features im Optimalfall auch über die dort entstehenden Applikationen verfügbar zu machen.

Aufgrund der sich ständig wandelnden KI-Landschaft kann es vorkommen, dass wir geplante Rollouts kurzfristig zugunsten anderer Features oder Modelle verschieben müssen. Deshalb planen wir konkrete Features maximal ein Semester, d.h. zwei Quartale, im Voraus. So bleiben wir agil und können neue Trends rapide in unsere Roadmap aufnehmen und umsetzen.

In unserer Dokumentation finden sich weitere technische Details und hilfreiche Anwendungsbeispiele zu einzelnen Features und Modellen.

(1) Modelle & Features

Diese Roadmap bietet einen Überblick über die geplanten Rollouts von Modellen und Features. Den aktuellen Modellkatalog finden Sie hier.

  1. KW 14 2026

    Feature: AI Gateway

    Erledigt

    Gemeinsam entwickelte KI-Proxy zwischen RWTH & UzK

    ausgerollt am 01.04.2026

  2. KW 14 2026

    Hosting verschiedener Modelle

    Erledigt

    OpenAI GPT OSS 120B, Mistral Small 4 119B 2603, Qwen3 Embedding 8B, E5 Mistral 7B Instruct

    ausgerollt am 01.04.2026

  3. KW 37 2026

    Modell: Qwen 3.8 27B

    Erledigt

    ausgerollt am 09.09.2026

  4. KW 37 2026

    Feature: Responses-Endpoint

    Erledigt

    Unterstützung des OpenAI /responses Endpoint-Formats

    ausgerollt am 09.09.2026

  5. KW 44 2026

    Modell: Voxtral Mini 4B Realtime

    In Arbeit
  6. KW 44 2026

    Feature: Speech-To-Text / Transcription-Endpoint

    In Arbeit

    Unterstützung des OpenAI /audio/transcriptions Endpoint-Formats

  7. Winter 2026

    Feature: Technische Dokumentation

    In Arbeit

    Eigene Dokumentationsseite für technische Informationen/ Spezifikationen

  8. Winter 2026/27

    Feature: Text-To-Image/ Images-Endpoint

    Geplant

    Unterstützung des OpenAI /images/generation Endpoint-Formats

  9. Winter 2026/27

    Feature: Text-To-Speech / Audio-Endpoint

    Geplant

    Unterstützung des OpenAI /audio/generate Endpoint-Formats

Letztes Aktualisierungsdatum: 30.09.2026

(2) Infrastruktur

Diese Roadmap bietet einen Überblick über die geplanten Ausbau unserer Hardware-Infrastruktur.

  1. Winter 2026

    Erweiterung der Kapazitäten durch OSKI-Inf.nrw – NVIDIA GB200 Systeme

    In Arbeit

    am Standort Universität zu Köln

  2. Q2/2027

    KI:Inferenz Cluster RWTH – NVIDIA GB200 Systeme

    Geplant

    am Standort RWTH Aachen

  3. 2028

    KI:Inferenz Cluster UzK

    Geplant

    am Standort Universität zu Köln

Letztes Aktualisierungsdatum: 30.09.2026

Aktuelles

Neues aus dem KI:Expertise­zentrum.nrw

News ·

Das KI:Expertise­zentrum.nrw stellt sich vor

Kompetenz, Inferenz, Apps - was steckt eigentlich hinter den Handlungsfeldern des KI:Expertisezentrum.nrw? Alle Interessierten können in den kommenden Monaten im Rahmen einer Online-Veranstaltungsreihe die…

Alle News
Termine

Veranstaltungen

11
Nov. 2026

Das KI:Expertise­zentrum.nrw stellt sich vor: Kick off

14:00 – 15:30Online
Anmelden
30
Nov. 2026

KI-Update NRW 11/2026

11:00 – 12:00Online
Anmelden
03
Dez. 2026

Betrieb von KI-Modellen _at scale_: Einblick in das HF Inferenz

10:00 – 11:00Online
Anmelden