KI-Plattformen und -Sprachmodelle sind für Unternehmen wie für Forschungsorganisationen Enabler für mehr Effizienz, Innovation und Wettbewerbsfähigkeit. Gleichzeitig stellen die Angebote oftmals ein Risiko in Bezug auf Datenschutz und Sicherheit dar. Um dem zu begegnen, hat die Fraunhofer-Gesellschaft unter der Leitung von Prof. Ingo Weber, Direktor Digitalisierung und IuK-Infrastruktur in der Münchner Zentrale, die KI-Plattform FhGenie entwickelt, die seit 2023 den Mitarbeitenden zur Verfügung steht und kontinuierlich weiterentwickelt wird. »Künstliche Intelligenz ist eine zentrale Schlüsseltechnologie mit disruptivem Innovationspotenzial. Mit FhGenie zeigen wir, dass Europa technologisch in der Lage ist, dieses Potenzial in praktischen Nutzen zu überführen. Gerade in den konkreten Anwendungsfällen für Industrie, Mittelstand und Forschung sowie in Detailfragen der KI-Anwendungen ist das Potenzial noch riesig – diese Chance für den Innovationsstandort Deutschland müssen wir nutzen«, erklärt Prof. Ingo Weber.
FhGenie: Generative KI für den Arbeitsalltag
Bereits im Juni 2023 führte die Fraunhofer-Gesellschaft mit FhGenie einen sicheren, ChatGPT-ähnlichen Dienst ein, der es Mitarbeitenden ermöglicht, Texte zu analysieren, zu erstellen und zu überarbeiten – und das unter Berücksichtigung höchster Datenschutz- und Informationssicherheitsstandards. Ein besonderer Vorteil: Die Plattform kann mit organisationsspezifischen Daten angepasst werden, was präzisere und kontextbezogene Ergebnisse liefert. Heute ist FhGenie ein unverzichtbares Werkzeug für viele Fraunhofer-Mitarbeitende: Knapp 12 000 Beschäftigte nutzen die Plattform regelmäßig und tauschen mit FhGenie inzwischen über eine Millionen Nachrichten im Monat aus.
Kontinuierliche Weiterentwicklung für Sicherheit und Souveränität
Als zentrales Werkzeug für die digitale Transformation der Fraunhofer-Gesellschaft wird die Plattform kontinuierlich weiterentwickelt, um den wachsenden Anforderungen gerecht zu werden. Im Bereich Sicherheit und Datenschutz operiert die Plattform ausschließlich im europäischen Wirtschaftsraum; es gibt keinen Abfluss von Daten. Dank der Stateless-Architektur werden keine Zustandsinformationen über ausgeführte Transaktionen gespeichert, sondern jede Anfrage wird als grundsätzlich neu behandelt. Content-Filter schützen vor Missbrauch, und freiwillige Datenspenden für Benchmarking erfolgen ohne Personenbezug. Auch beim Thema Datenschutz und Compliance setzt FhGenie Maßstäbe: Beim DSGVO-konformen Betrieb werden keine Nutzerangaben gespeichert oder analysiert; klare Nutzungsbedingungen sowie technische Schutzmaßnahmen sorgen für zusätzliche Sicherheit.
In puncto Selbstbestimmung im digitalen Raum sichert der Einsatz eigener Sprachmodelle und eigener Software der Fraunhofer-Gesellschaft digitale Souveränität und ermöglicht den Mitarbeitenden vollständige Hoheit über eingesetzte Technologien und Systeme. Regelmäßige Updates umfassen die Einführung neuer Sprachmodelle wie GPT-5, Claude Sonnet 4.5 und auch Teuken 7B, das im Rahmen des Forschungsprojekts OpenGPT-X von Grund auf mit den 24 Amtssprachen der EU trainiert und vollständig in Europa entwickelt wurde. Weitere Updates der letzten Jahre betreffen die Integration von DALL·E 3 für Bildgenerierung, Multi-Upload-Funktionen, automatische Dateityp-Erkennung sowie kontinuierliche UI-Verbesserungen.
Erweiterte Funktionen umfassen die Web- sowie Intranet-Suche, Application Programming Interface (API)-Zugänge für Forschungsprojekte sowie den On-Premises-Betrieb auf einer skalierbaren Kubernetes-Plattform; zudem erfolgt die Integration in die interne Wissensplattform SAP SIP und weitere interne Systeme. Neben diesen Entwicklungen konnte die interne KI-Community als lebendige und synergetische Gruppe etabliert werden, in der sich inzwischen über 4500 Fraunhofer-Mitarbeitende regelmäßig zu KI-Themen austauschen. Als Innovationsplattform bietet FhGenie zudem eine offene API für Forschungsprojekte, über die KI-Funktionen direkt in eigene Projekte eingebunden werden können. Die DSGVO-konformen Cloud-Umgebungen wie Microsoft Azure gewährleisten dabei höchste Sicherheitsstandards.
Fit für die Zukunft: Mehr Modelle, weitere Schnittstellen
Mit Blick auf die rasante Entwicklung im KI-Bereich ist eine Erweiterung der Modellvielfalt geplant, etwa durch zusätzliche Open-Source-Modelle, um noch differenziertere Anwendungsmöglichkeiten zu schaffen. Gleichzeitig soll FhGenie noch stärker in bestehende Arbeitsprozesse innerhalb der Forschungsorganisation integriert werden – unter anderem durch Schnittstellen zu weiteren Fraunhofer-Systemen sowie externen Partnern. Auch die API-Funktionen werden ausgebaut, um Forschungs- und Entwicklungsprojekte gezielt zu unterstützen. So ermöglicht die baldige Einführung einer Custom-API-Schnittstelle eine flexiblere Integration von FhGenie sowie On-Premises-Datenverarbeitung. Für spezifische Fachbereiche werden anpassbare KI-Bausätze bereitgestellt. Ergänzend sorgen Funktionen wie Load Balancing und die Unterstützung verschiedener Sprachmodelle für eine zuverlässige Leistung. Ein besonderer Fokus liegt auf Sicherheit und Compliance: Neben der Umsetzung neuer regulatorischer Anforderungen wie dem EU AI Act und der Erweiterung der On-Premises-Varianten wird aktuell eine Eingabeoption für besonders vertrauliche Daten entwickelt.
Fraunhofer-Gesellschaft