Mit dem Projekt „KI und Open Source LLM“ verfolgt die Universität Paderborn das Ziel, generative KI-Modelle (Large Language Models, LLMs) als Open Source-Lösungen für die Lehre bereitzustellen. Dies ermöglicht Studierenden und Lehrenden den Zugang zu leistungsfähigen KI-Werkzeugen, ohne auf kommerzielle Anbieter angewiesen zu sein. Dabei wird ein besonderer Fokus auf Datenschutz, Souveränität über Daten und die Integration in die bestehende IT-Infrastruktur gelegt.

Das Projekt wird in Kooperation zwischen dem Zentrum für Informations- und Medientechnische Dienste (ZIM), dem Paderborn Center for Parallel Computing (PC²) und der Stabsstelle Bildungsinnovationen und Hochschuldidaktik umgesetzt. Es trägt dazu bei, Kompetenzen im Umgang mit KI aufzubauen, innovative Lehrmethoden zu fördern und eine nachhaltige Nutzung von KI-Technologien an der Universität zu etablieren.

Ziele des Projekts

• Bereitstellung von Open Source basierten LLMs für Lehrende und Studierende.
• Aufbau einer lokalen Infrastruktur zur sicheren Nutzung von KI-Modellen.
• Förderung von Kompetenzen im Umgang mit generativer KI in Studium und Lehre.
• Unterstützung von Lehrenden bei der Erstellung von Lernmaterialien sowie bei Feedback- und Bewertungsprozessen.

Einsatzszenarien

Die Open Source LLMs bieten vielfältige Anwendungsmöglichkeiten:

• Studierende: Praktische Übungen mit KI-Modellen, kritische Reflexion generierter Inhalte und Entwicklung eigener Softwarelösungen mithilfe von APIs.
• Lehrende: Unterstützung bei der Erstellung von Lernmaterialien und Feedbackprozessen sowie der Einsatz von Chatbots zur Beantwortung studienbezogener Fragen.

Umsetzung

Das Projekt gliedert sich in drei zentrale Arbeitspakete:

1. Technischer Aufbau und Betrieb der LLMs: Anpassung und Integration in die IT-Infrastruktur (verantwortlich: PC²).
2. Beratung und Schulung: Entwicklung von Kompetenzen bei Lehrenden durch Schulungen sowie Vernetzungstreffen (verantwortlich: Stabsstelle für Bildungsinnovationen und Hochschuldidaktik).
3. Support für Studierende: Bereitstellung von Dokumentationen, Schulungsmaterialien und Unterstützung bei der Nutzung (verantwortlich: ZIM).

Vorteile eines eigenen LLM-Betriebs

• Datensouveränität: Durch den Betrieb vor Ort bleibt die Kontrolle über alle verarbeiteten Daten erhalten. Dies vermeidet Abhängigkeiten von kommerziellen Anbietern und gewährleistet die Einhaltung strenger Datenschutzrichtlinien.
• Chancengleichheit: Alle Studierenden erhalten gleichen Zugang zu hochwertigen KI-Modellen, unabhängig von finanziellen oder technischen Hürden. Dies fördert eine gerechte Bildungserfahrung und ermöglicht es allen, praktische Erfahrungen mit generativer KI zu sammeln.
• Flexibilität: Die Modelle können an spezifische Anforderungen der Universität angepasst werden, z. B. durch Training auf universitätsspezifischen Daten.
• Nachhaltigkeit: Der kosteneffiziente Betrieb durch Nutzung vorhandener Serverkapazitäten ermöglicht eine langfristige Nutzung ohne hohe Lizenzgebühren

Zukunftsperspektiven

Das Projekt legt den Grundstein für eine langfristige Nutzung von Open Source LLMs an der Universität Paderborn. Es eröffnet zudem Möglichkeiten für Folgeprojekte, etwa im Bereich Learning Analytics oder der Weiterentwicklung des NRW-weiten Portals für KI-Dienste.