Data-Driven Organization – Datenethik & Datensicherheit

Von: United Nations – Department of Economic and Social Affairs – Sustainable Development
Sustainable Development Goals – United Nations

Den Einstieg ins Thema Datenethik gestaltet Nikolaus Obwegeser, den die folgenden Fragen in seinem Tun umtreiben:

Wie können wir die weitreichenden organisatorischen Auswirkungen der digitalen Revolution erkennen, neue und aufkommende digitale Technologien nutzen und verstehen, wie sie zur Erreichung geschäftlicher und sozialer Ziele eingesetzt werden können?

Warum kommt das Thema Nachhaltigkeit in einem CAS für Data-Driven Organization vor? Weil die Digitalisierung in zahlreichen Industrien enorme Chancen bietet, das Leben der Menschen zu verbessern. Laut dem GeSI Report werden 103 der 169 Social Development Goals direkt durch die Digitalisierung beeinflusst. Ausserdem wurden einzelne Ziele genauer analysiert. Dabei hat sich herausgestellt, dass die Digitalisierung die Zielerreichung um 22% beschleunigen kann und negative Effekte um 23% reduziert.

Hier einige Links für weitere Informationen:

GeSI Report: Wie Digitalisierung die Nachhaltigkeit unterstützt

Digital with Purpose: Wie Digitalisierung für die nachhaltige Entwicklung eingesetzt werden kann

Potential & Schattenseiten

Das Potential der Digitalisierung ist riesig. Aber es gibt auch Schattenseiten. Falsch eingesetzte und nicht regulierte künstliche Intelligenz kann zu ungerechten Ergebnissen führen. Darüber habe ich im Harvard Business Manager (Ausgabe April 2022) einen interessanten Artikel gelesen. Die Autoren François Candelon, Rodolphe Charme di Carlo, Midas de Bondt und Theodorus Evgeniou listen in ihrem Text «Keine KI ohne Kontrolle» einige Probleme von künstlicher Intelligenz und mögliche Lösungswege auf. Dabei geht es unter anderem um Feedbackschlaufen:

Ein Grossteil des Mehrwerts einer Kooperation zwischen Mensch und Maschine entsteht durch das Feedback, das die Menschen den Algorithmen geben.

Ein Schwank aus dem Leben der künstlichen Intelligenz

Beispiele sind zahlreich, sie tauchen immer wieder in der Presse auf. Es geht von rassistisch gewordenen Chatbots, über diskriminierte CV’s von Frauen bei Amazon oder falsch identifizierten Schuldigen bei der Gesichtserkennung.
Frank Sieren schildert in seinem Buch «Shenzhen» ein Vorkommnis mit einer Ampel. Da wurden Menschen, die bei Rot die Strasse überquerten, identifiziert und auf einer grossen Leinwand «angeprangert». Auf der Liste erschien auch eine bekannte Unternehmerin, die aber nachweislich zu diesem Zeitpunkt nicht in Shenzhen war. Des Rätsels Lösung: ein Bus mit aufgeklebter Werbung ihrer Firma, die ihr Konterfei zeigte, ist über diese Kreuzung gefahren. Die KI der Ampel hat sich davon irritieren lassen und sie als fehlbare Fussgängerin eingestuft.

Wer versteht die Algorithmen?

Die Forderung nach Transparenz ist gross. Algorithmen sind enorm komplex und schwierig nachzuvollziehen. Des weiteren sie sind nur so gut, wie das Trainingsmaterial, das sie bekommen. Und wie sieht das eigentlich aus bei Systemen, die sich selbst immer weiter entwickeln?

Es gibt zahlreiche Beispiele mit denen die Vorteile hervorgehoben werden. In letzter Zeit war der TV Spot von Apple zu sehen: da hat die Smart Watch erkannt, dass ihr Träger beim Biken gestürzt ist und die Rettung alarmiert. Sicherheit spricht immer ein Grundbedürfnis des Menschen an. Andererseits geistert auch die Angst des «gläsernen Bürgers» durch unsere Köpfe.

Und wie wir bei der Interaktion mit Maschinen agieren, ist ebenfalls ein weites Feld. Kürzlich habe ich darüber gelesen, dass Menschen Probleme hatten einen Roboter auszuschalten, weil dieser darum bat, genau dies nicht zu tun. Das hatte wohl auch mit dem Umstand zu tun, dass er ein menschenähnliches Aussehen hatte.

Die Technologie und ihre Möglichkeiten sind enorm spannend. Aber es gibt zahlreiche Fragen, die gestellt werden müssen. Ausserdem entwickelt sich ein System nicht immer so gradlinig wie ursprünglich geplant. Interaktion formt gleichzeitig das Ergebnis. Und dies ergibt unter Umständen eine unbeabsichtigte, unvorhergesehene und möglicherweise schädliche Nutzung, die nicht verhindert und kontrolliert werden kann.

Wie kann ein Unternehmen bei der Entwicklung im digitalen Bereich vorgehen, um unerwünschten Entwicklungen zu begegnen?

Ein Instrument ist der Digital Ethical Compass des Danish Design Center.

Von: Danish Design Center Digital Ethical Compass

Mit dem Tool können digitale Produkte, Dienstleistungen und Systeme auf ihre ethischen Aspekte überprüft werden. Das Rad stellt dafür Fragen in den Bereichen

• Data
• Automation
• Behavioral Design

Hier eine kleine Auswahl zum Nachdenken. Die sich ergebenden Diskussionen auf die Fragen sind enorm spannend, wir haben es im Unterricht an einigen Beispielen ausprobiert.

Data: Have you obtained user permission to collect and process data?

Automation: Are your algorithms prejudiced?

Behavioral Design: Are you trying to create addiction to your product with cheap tricks? 

Datenschutz & Datensicherheit

Von Daniel Hürlimann erhielten wir eine Einführung in die rechtlichen Aspekte von Datenschutz und Datensicherheit. So viel sei verraten: für Nicht-Juristen ein komplexes Feld. Wir alle stolpern immer wieder über mehr oder weniger nutzungsfreundliche Cookie-Banner, Datschutzerklärungen und Allgemeine Geschäftsbedingungen. Und wie oft wird einfach ja geklickt, ohne alles wirklich gelesen geschweige denn verstanden zu haben?

Mehr Klarheit möchte der Verein Privacy Icons schaffen:

Von: Privacy Icons

Visuelle Darstellung von Datenschutzoptionen

Dies alles sind spannende Themen. Anstelle eines Blogbeitrages liessen sich ganze Bücher füllen.

Deshalb heisst es: dranbleiben, lernen, sich in den Unternehmen einbringen und nach gemeinsamen Lösungen suchen. Den einen Weg gibt es nicht.

Deshalb lasse ich das letzte Wort gerne einem, der gewandter mit Worten umgehen kann:

Das Tückische an solchen Technologien sind die Graubereiche, nicht jene, in denen sich Sinnvolles von Verwerflichem klar trennen lässt.

Von: Frank Sieren aus seinem Buch «Shenzhen – Zukunft made in China»

Herzlichen Dank an Nikolaus Obwegeser und Daniel Hürlimann für die Gestaltung des zweiten Moduls des CAS Data-Driven Organization.

Wie steht Ihr zum Thema Data-Driven Organization? Habt Ihr vertiefende Frage & Input? Ich freue mich über Feedback und Kommentare.

Es darf auch gerne eine Empfehlung für weitere spannende Themen für meinen Blog sein.

Eure Gaby
#ModernCFO