Erklärbare künstliche Intelligenz (Explainable Artificial Intelligence, XAI) soll Menschen dabei unterstützen, informiertere Entscheidungen zu treffen und die Blackbox-Effekte von Modellen maschinellen Lernens (ML) abzuschwächen. Transparenz ist eine zentrale Voraussetzung für die Akzeptanz und Implementierung algorithmischer Entscheidungshilfen, insbesondere in Domänen wie dem Gesundheitswesen oder der Rechtsprechung, wo die Entscheidungsfindung mit erheblichen Risiken verbunden ist. Zu diesem Zweck müssen KI-Erklärungen auch für andere Nutzer*innen als KI/ML-Expert*innen verständlich und interpretierbar sein. Mit anderen Worten: Die Erklärungen der Empfehlungen von KI-Systemen müssen den Nutzer*innen als Schnittstellen so präsentiert werden, dass die Interpretierbarkeit maximiert und Verzerrungen (Biases) minimiert werden. Um dieses komplexe Ziel zu erreichen, ist ein systematischer, menschenzentrierter Ansatz für die Gestaltung von Erklärungsschnittstellen von größter Bedeutung.

In dem Promotionsvorhaben wird untersucht, wie mit Hilfe partizipativer Designmethoden, die Repräsentationen von Erklärungen (Interfaces) als Produkt maschineller Lernverfahren derart gestaltet werden können, dass sie ein möglichst informiertes und unvoreingenommenes (un-biased) Entscheidungsverhalten begünstigen. Hierbei wird von insbesondere die Domäne der medizinischen Entscheidungsfindung betrachtet.

Die Digitalisierung ist jüngst zu einem wichtigen Treiber für Service- und Business Innovation in der Fahrzeug-Industrie geworden. So hat beispielsweise die Quantified-Self Bewegung ihre Ansätze im Automotive Bereich angewandt und bietet nun digitale Services für verschiedene Zielgruppen wie Fahrer oder Versicherungsunternehmen an, wodurch eine Reihe von amerikanischen IKT Start-ups den lukrativen Markt für Services basierend auf Fahrzeug-Lebenszyklus-Daten (sogen. „quantified vehicle services“) betreten haben, und gleichzeitig auch der hiesigen Fahrzeug-Industrie aufgezeigt haben, dass es in Zeiten der Digitalisierung eben mehr Funktionalität benötigt als den reinen Transport des Fahrers. Die Fahrzeuge erfüllen mit ihrer Vielzahl an Sensoren alle Voraussetzungen für die Erstellung von quantified vehicle Services.

Ziel der Forschung ist es unter anderem, eine Analyse von Fahrzeug Sensor Daten, Stakeholdern, Business Models, Value Models und einer Wertschöpfungskette für Fahrzeug-Daten durchzuführen, um darauf basierend Konzeption und Implementierung von Datenaufnahme-Hardware und Software, einer skalierbaren Architektur für Datenablage und Datenanalyse, und Services prototypisch umzusetzen. Im Zuge dessen werden auch die Themen Ökosysteme und Plattformen eine Rolle spielen.

Homepage mit Blog-Einträgen zum aktuellen Fortschritt der Promotion: http://www.christiankaiser.at/

In contrast to process modeling, the modeling of legal requirements requires not only an understanding of processes but also a basic understanding of legal concepts for the interpretation of regulations. However, while process modelers and analysts who are trained in using formal methods may be experts in applying process logic, they do not necessarily understand the normative meanings of a regulation. Modeling languages that help this user group to identify relevant concepts are hence a great advantage in compliance modeling to avoid modeling errors. Paradoxically, these rule languages, also referred to as compliance languages, have yet to be evaluated in terms of their representational or cognitive complexity, so it is impossible to say whether these languages can be efficiently used. In this thesis, we close this research gap and evaluate the complexity and understandability of compliance languages. First, to calculate the complexity, we apply established software metrics and interpret the results with respect to the languages’ expressiveness. As a measure of their expressiveness, we distinguish the normative concepts of legal requirements. Second, to investigate the languages’ understandability, we use a cognitive model of the human problem-solving process and analyze how efficiently users perform a compliance modeling task. Our results have theoretical and practical implications that give directions for the development of compliance languages, and rule-based languages in general.

Der Warenhandel über das Internet nimmt kontinuierlich zu. Damit steigt auch die Zahl an Rücksendungen (sog. Retouren) im E-Commerce beständig an. Vor allem im deutschen Business-to-Consumer Onlinehandel sind Retouren eine große Herausforderung und sehr kostenintensiv. Das präventive Retourenmanagement versucht Retouren zu verhindern, indem es bereits vor der Auslieferung der Waren ansetzt. Somit trägt es dazu bei die Wettbewerbsfähigkeit und ggf. Kundenzufriedenheit zu steigern. Bisherige Forschungsarbeiten waren an schwer übertragbaren Rahmenbedingungen im Ausland orientiert und lieferten kein umfassendes Bild über das präventive Retourenmanagement im deutschen Markt.  Diese Arbeit entwickelt ein konzeptionelles Framework für das präventive Retourenmanagement im E-Commerce. Hierdurch können sowohl in Wissenschaft und Praxis, die Bedingungen, Gestaltungsmöglichkeiten sowie auch die Auswirkungen des präventiven Retourenmanagements sichtbar gemacht und evaluiert werden. Die Arbeit setzte als übergeordnetes Forschungsparadigma einen Design Science Ansatz ein. Neben qualitativen und quantitativen Studien wurden auch Ansätze aus dem Bereich Machine Learning (bspw. Text Mining, SVM) umgesetzt und evaluiert. Wesentliche identifizierte Gestaltungsmöglichkeiten können in den jeweiligen IT-Prozessen des Onlineshops direkt umgesetzt werden. Vor allem starr implementierte Entscheidungsprozesse sollten hin zu mehr dynamischen IT-Prozessen geändert werden. Weiterhin wurden Implementierungsempfehlungen für Onlineshops abgeleitet, die sowohl wissenschaftlich belegbar als auch durch in der Praxis erprobten Implementierungen untermauert werden können.

Wirtschaftsanalysten erkennen im Development and Information Technology (IT) Operations (DevOps) Paradigma einen Ansatz zur Unterstützung der digitalen Transformation von Unternehmen. DevOps bezeichnet die Integration und effiziente Zusammenarbeit von Softwareentwicklung und IT Betrieb. Dieses Zusammenspiel ermöglicht IT Self-Service, d.h. die Übernahme und selbstständige Ausführung von IT Betriebsaufgaben durch Softwareentwickler.

Mittels IT Self-Service (z.B. automatisierte Bereitstellung von Cloud-Services und Software) übernehmen interne Kunden (z.B. Softwareentwickler und IT Berater) eine aktive Rolle bei der Bereitstellung von IT Services. IT Self-Service ermöglicht der IT Abteilung die Übertragung einzelner Aufgaben der Serviceerbringung an die internen Kunden. Dadurch ist es möglich das IT Personal von der Durchführung wiederkehrender und routinemäßiger Aufgaben der IT Servicebereitstellung zu befreien. Für die IT Abteilung führt dies zu einer Verbesserung der Effizienz, aufgrund einer Reduktion des Arbeitsaufwandes des IT Personals sowie einer stärkeren Fokussierung auf strategische Tätigkeiten, welche bisher vernachlässigt werden mussten. Die Realisierung derartiger Vorteile verlangt jedoch nach einem, aus IT Betriebssicht, geeigneten Design der IT Self-Services. Bisher versäumte es die akademische Forschung Service Anbieter in der Gestaltung von Self-Services, welche die Aufwände des Service Personals bei der Servicebereitstellung reduzieren, zu leiten. Wissenschaftler verlangen daher nach Forschung zur Unterstützung von Entscheidungen über die Verlagerung von Aufgaben der Servicebereitstellung zu den (internen) Kunden.

Diese Forschung folgt diesem Aufruf. Ziel dieser Forschung ist die Entwicklung einer Methode für die Unterstützung von IT Entscheidungsträgern beim Design von IT Self-Services, welche die Aufwände des IT Personals bei der Servicebereitstellung reduzieren. Die Entwicklung dieser Methode folgt dem Design Science Research Paradigma. Die Methode selbst soll auf entscheidungstheoretischen Prinzipien beruhen. Zum Zweck der Evaluierung, soll die entwickelte Methode in Form eines Decision Support Systems instanziiert werden.

In Zeiten sehr dynamischer Märkte stehen Unternehmen vor großen Herausforderungen. Neue Geschäftsmodelle und neu aufstrebende Konkurrenten bringen den Wettbewerb durcheinander und verschieben Marktanteile. Produktlebenszyklen werden immer kürzer. Unternehmen stehen daher vor einem kontinuierlichen Wandel, um mit dieser Entwicklung Schritt zu halten. Dies erfordert sowohl innovative neue Produkte als auch effiziente Veränderungs- und Umsetzungsprozesse. Aufgrund des hohen IT Anteils, sowohl in den Produkten und Dienstleistungen selbst als auch bei deren Herstellung und Bereitstellung, hat das Unternehmensarchitekturmanagement die wichtige Aufgabe, die in einem Unternehmen eingesetzte IT auf sich veränderte Geschäftsanforderungen anzupassen und veränderte Geschäftsmodelle zu ermöglichen. Eine Unternehmensarchitektur besteht beispielsweise aus Anwendungen, die Geschäftsprozesse unterstützen, und Technologien, die Teil der Anwendungen sind und diese ermöglichen. Aufgrund der hohen Komplexität der Unternehmensarchitektur, stellt die Anforderung schneller Veränderungen die Verantwortlichen vor große Herausforderungen.

Ziel der Forschungsarbeit ist es, die für die Veränderung einer Unternehmensarchitektur verantwortlichen Mitarbeiter durch eine Methode zur Entscheidungsfindung zu unterstützen. Grundlage der Methode ist ein an der Hochschule Reutlingen physisch aufgebautes Labor, das sogenannte Management Cockpit. Dieser aus mehreren Bildschirmen bestehenden Raum erlaubt es, einen Sachverhalt aus unterschiedlichen Perspektiven parallel zu betrachten und Abhängigkeiten zwischen den Perspektiven zu erkennen.

Krankenhäuser zählen zu den bedeutenden Einrichtungen des öffentlichen Gesundheitssystems und werden den kritischen Infrastrukturen zugeordnet. Aufgrund der Sensibilität der verarbeiteten medizinischen Daten werden hohe Anforderungen an deren Sicherheit gestellt. Unter der Berücksichtigung der engen Wechselwirkung zwischen Safety und Security führt die öffentliche Verwaltung bislang strikt voneinander getrennte Sicherheitsprogramme in konsolidierte Richtlinien zusammen. Diese legen den Fokus zunehmend auf die Informationssicherheit im Gegensatz zu einer bloßen Betrachtung der Betriebssicherheit von kritischen Einrichtungen.

Die Informationssicherheit der verarbeiteten Daten, Anwendungen und IT-Systeme wird mit einem Informationssicherheitsmanagement (ISM) erreicht und sichergestellt. Die damit definierten Maßnahmen gewährleisten eine geeignete Festlegung von Zugriffen auf Einrichtungen, welche Informationen verarbeiten bzw. schützenswerte Informationen offenbaren. Die Regeln, welche dabei Systemzugriffe oder eine Offenbarung von Informationen legitimieren, werden über rechtlich bindende Vorschriften und Regelungen, aber auch individuelle unternehmensspezifische Regelungen dokumentiert. Allerdings sind sie in der Regel nicht unmittelbar maschinell verarbeitbar. Zugriffskontrollsysteme formalisieren entsprechende Einschränkungen und fassen sie mit allgemeinen, verarbeitbaren Regeln zusammen. Das Zugriffskontrollmodell Attribute-based Access Control (ABAC) ist ein Modell, um ein top-down-getriebenes ISM in einer Krankenhausumgebung umzusetzen und bietet den Vorteil, Zugriffe und Offenbarungen über Regeln in Policies zu formalisieren. Policies können rechtlich bindende Regeln, Unternehmensziele als auch allgemeine Informationssicherheitsanforderungen technisch repräsentieren.

Bei einer Vielzahl von gleichzeitig angewendeten Policies unterschiedlicher Abstraktionsgrade und zunehmender IT-Durchdringung in einem Krankenhaus wächst das Risiko, dass Policies in Konflikt zueinander stehen. Derlei Konflikte können die Funktionsfähigkeit eines Zugriffskontrollsystems zur Entscheidung einer Autorisierung behindern, sodass Denial-of-Service-Szenarien oder Datenschutzverletzungen eintreten können. Dies würde schließlich die Funktionsfähigkeit der Gesundheits-IT einschränken. Diese Arbeit untersucht wie diese Konflikte identifiziert und entsprechend adressiert werden können, um illegitim zugewiesene Zugriffsrechte als auch Datenschutzverstöße zu verhindern. Bisherige Ansätze zur Konfliktidentifizierung bei Policies können nicht ohne Weiteres auf ein Krankenhausinformationssystem übertragen werden, da deren Wesensmerkmale keine Policies unterschiedlichen Typs berücksichtigen.

Diese Arbeit entwickelt nach dem Design-Science-Research-Forschungsansatz sowohl ein semantisches Policy-Modell als auch zugehörige spezifische Konfliktkategorien als sogenannte Design-Artefakte. Beide werden in einer konzeptionellen Anwendungsumgebung angewendet und evaluiert. Eine wichtige Grundlage dieser Arbeit ist die bundesweit erarbeitete Orientierungshilfe für Krankenhausinformationssysteme (OH-KIS), welche die Datenschutzaufsichtsbehörden des Bundes, der Länder und der Kirchen erarbeitet haben.

Mit Hilfe der Design-Artefakte können Widersprüche in Zugriffskontrollrichtlinien gegenüber Patienteneinwilligungen und Informationssicherheitsrichtlinien erkannt werden. Dies ermöglicht eine zielgerichtete Korrektur. Das Management eines Krankenhausinformationssystems wird somit auf taktischer und operativer Ebene unterstützt.