The Blog.

Titel: Lieferung, Installation und Inbetriebnahme eines LLM-GPU-Clusters mit mindestens 48 GPUs
Beschreibung: Gegenstand der gesuchten Leistung ist die Lieferung, Installation und Inbetriebnahme eines LLM-GPU-Clusters mit mindestens 48 GPUs. Für die Realisierung der Leistung stehen dem Auftraggeber maximal 497.000 EUR inkl. Umsatzsteuer zur Verfügung (Angebotsobergrenze). Die Realisierung der Leistung soll schnellstmöglich erfolgen und muss bis zum 29.11.2024 vollständig abgeschlossen sowie abgerechnet sein. Der Vertragsschluss ist auf Grund einzuhaltender Fristen usw. frühestens mit dem 25.10.2024 anzunehmen. Sofern die Realisierung der angebotenen Leistung durch den Bieter nicht bis zum genannten Datum zugesichert werden kann, muss der Gesamtauftrag durch Anzahlung-/Vorauszahlungsrechnung in Verbindung mit einer entsprechenden selbstschuldnerischen Bankbürgschaft bis zum genannten Datum abgerechnet werden.


5.1. Los: LOT-0001
Titel: Lieferung, Installation und Inbetriebnahme eines LLM-GPU-Clusters mit mindestens 48 GPUs
Beschreibung: Der anzubietende Large Language Model (LLM) GPU Cluster muss eine leistungsfähige Infrastruktur für die Lehre und Forschung darstellen und in der Lage sein moderne KI-Anwendungen zu unterstützen. Der Cluster muss den Zugriff auf fortschrittliche Sprachmodelle für Textanalysen, automatisierte Textgenerierung und weitere KI-gestützte Services ermöglichen. Der LLM GPU Cluster muss skalierbar sein und es dadurch ermöglichen, flexibel auf wachsende Anforderungen und die zunehmende Nutzung durch unterschiedliche Fachbereiche zu reagieren. Insgesamt soll der LLM Server Cluster einen wesentlichen Beitrag zur Weiterentwicklung der Lehre und Forschung leisten, indem er moderne KI-Technologien in die universitäre Praxis integriert und die wissenschaftliche Arbeit durch innovative, digitale Werkzeuge unterstützt. Leistungen des Auftragnehmers sind: – Lieferung eines LLM-GPU-Clusters mit mindestens 48 GPUs (Spezifikationen gem. 03 Leistungsverzeichnis, Tabellenblatt „GPU Knoten“) – Maximal 18 Höheneinheiten – Lieferung der Geräte inkl. benötigtem Zubehör wie Netzwerkkabel, Lizenzen und Kleinmaterial (z.B. Kabelbinder, Labels, Klettbänder, Tape) – Lieferung frei Verwendungsstelle – Hardware- und Betriebssysteminstallation – Herstellung der notwendigen Verkabelung – Testen, Funktionsprüfung, Benchmarking des Gesamtsystems und Übergabe der Benchmark-Ergebnisse – Gemeinsame Abnahme des Gesamtsystems mit Auftragnehmer und Auftraggeber – Einweisung sowie Schulung am vor Ort installierten LLM-GPU-Cluster