Zur Abwechslung mal ganz analog und real habe ich mich mit Andreas Seidel in Düsseldorf getroffen und mit ihm über Verantwortung und Selbstbestimmung in der digitalen Transformation gesprochen. Mit dem Forum für Verantwortung in der digitalen Wirtschaft und Gesellschaft stößt er in den beruflichen Netzwerken LinkedIn und XING regelmäßig Diskussionen an. Ausgewählte Beiträge aus diesem Forum werden wir ab sofort auch hier auf digihuman.org veröffentlichen.

Andreas Schiel In dem neuesten Papier, das du in dem von dir gegründeten Forum veröffentlicht hast, schreibst du über „Digitalisierung zwischen Zweck und Mittel“. Liegt im aktuellen Prozess der digitalen Transformation eine Verwechslung von Zweck und Mittel vor?

Andreas Seidel Ja, das ist definitiv richtig. Wir haben ganz einfach die Situation, dass viele technische Innovationen von kreativen Bastlern gebaut werden. Die haben einfach ihre Idee im Kopf, weniger die Verwertung. Und die Tatsache, dass sie eine Innovation in die Welt gesetzt haben ist für sie eigentlich schon eine genügende Rechtfertigung, und sie kümmern sich nicht darum in welchen Kontext sie diese Innovation stellen – was ganz einfach zu der Frage führt, wie diese Innovationen dann letztlich eingesetzt werden. In dieser Verwertungskette sind wir heute in der Situation, dass Berater und die primären Profiteure von technologischer Förderung und Entwicklung auch darauf angewiesen sind, erst einmal Innovationen in die Welt zu bringen und zu verkünden ohne sich in erster Linie um die Umsetzung zu kümmern. Das ist eine Entwicklung, in der sich sehr schnell Digitalisierung zum Selbstzweck entwickelt. Die Frage, wo die Anwendbarkeit dieser Lösungen liegt, wird dadurch zurückgestellt. Auch die Frage, wenn wir von Digitalisierung als Mittel sprechen, wie der Kontext zu einer ethischen Verantwortung dieses Mittels zu sehen ist, ist eine große Herausforderung. Eine saubere Trennung zwischen Zweck und Mittel ist auch deswegen nötig, um zu entscheiden: Welche dieser vielen Innovationen wollen wir wirklich einsetzen und fördern – und welche laufen letztendlich in Sackgassen hinein?

Andreas Schiel Wozu sollte denn die Digitalisierung, der digitale Strukturwandel aus deiner Sicht ein Mittel sein?

Digitale Technik als Mittel zum sinnvollen Zweck

Andreas Seidel Es gibt sehr viele sinnvolle Einsatzgebiete für Digitalisierung – das ist gar keine Frage. Wir haben ganz einfach eine Welt, die sich durch Globalisierung automatisch immer stärker vernetzt hat. Und wir haben immer mehr Kommunikationsbeziehungen, die über unser persönliches Umfeld hinausgehen. Das sind zunächst einmal ganz normale zwischenmenschliche Beziehungen, es sind aber auch wirtschaftliche Beziehungen. Und hier können wir nicht mehr face-to-face agieren und operieren, dadurch entsteht ganz einfach die Notwendigkeit, Digitalisierung konkret einzusetzen. Das läuft dann zum Beispiel darauf hinaus, wenn wir von einem privatwirtschaftlichen Einsatz von Digitalisierung ausgehen, dass wir Unternehmen stärker vernetzen müssen. Allerdings hat das sicherlich auch zur Folge, dass wir dann prüfen müssen, wie wir Digitalisierung als Mittel auch wirksam einsetzen. Das heißt konkret, wie wir das vielleicht auch als Heimwerker von unserem Werkzeugkasten zu Hause wissen, nicht jedes Werkzeug ist für jede Aufgabe gleich gut geeignet. Wir müssen also auch abwägen, wie wir ein Werkzeug richtig einsetzen – und das führt auch zu Veränderungen.

Andreas Schiel Die Werkzeuge von denen du sprichst, die haben ja normalerweise nicht du oder ich gemacht, sondern sie werden von Softwareentwicklern, möglicherweise im Auftrag großer Konzerne programmiert. Und wir haben da nun im Grunde einen strategischen Nachteil, weil wir gar nicht genau wissen, womit wir eigentlich arbeiten. Du hast in deinem letzten Papier angedeutet, es gebe ein Herrschaftswissen oder jedenfalls einen Graben zwischen denen, die solche digitalen Werkzeuge, also Software, Algorithmen und dergleichen herstellen und verkaufen und denjenigen – also uns allen – die sie nutzen.

Herrschaft und Abhängigkeit durch Daten

Andreas Seidel Ja, das ist richtig. Es fängt schon mit dem Begriff Algorithmus an, mit dem viele Menschen erst einmal operativ gar nichts anfangen können, sie haben eigentlich gar keine Vorstellung. Algorithmus ist an sich ein generischer Begriff, der für alles Mögliche steht, wo eine Berechnung vorgenommen werden kann. Je mehr Daten wir aber heute zur Verfügung haben, je mehr Daten wir auch sammeln, desto mehr Möglichkeiten mit diesen Daten zu rechnen ergeben sich zwangsläufig. Und wir haben dann auf der einen Seite die Situation, dass wir Software haben, die sicherlich an sich erst einmal Expertenwissen ist. Wir haben aber auf der anderen Seite auch die Daten, mit denen die Software in irgendeiner Weise arbeitet. Dieses Zusammenspiel – dass einfach immer mehr Daten zur Verfügung stehen, eben auch sehr viel mehr persönliche Daten, die wir z.B. als Konsumenten tagtäglich generieren, führt natürlich dazu, dass dann die Software auf der anderen Seite immer tiefer gehende Ergebnisse liefert. Wir kommen dann natürlich in eine Situation, dass wir von Software, die ganz einfach Unternehmensabläufe unterstützt, übergehen zu Software, die auch immer mehr Einblicke in unsere persönlichen Daten liefert.

Da kommen wir sehr schnell in einen Grenzbereich, wo wir sagen müssen, dass aus Insiderwissen zunehmend Herrschaftswissen wird. Wobei eben der Zugriff auf Daten und letzten Endes die kommerzielle Verwertung auch unserer persönlichen Daten derart stattfindet, dass wir als Bürger oder als Konsumenten in einem ganz neuen Abhängigkeitsverhältnis stehen. Es gibt ja zum Beispiel Vorschläge, die in jüngerer Vergangenheit diskutiert wurden, dass wir als Bürger unser Einkommen dadurch generieren, dass wir unsere Daten wie an einer Börse zur Verfügung stellen, und der Wert unser Daten wird dann nach den Volatilitäten der Börse gewichtet. Und wenn wir jetzt gerade, wie es so schön heißt, unique, also einmalige Daten liefern, die an der Börse spannend sind, dann können wir hohe Einkommenswerte erzielen. Wenn aber alle in den gleichen Trend einschwenken, dann werden unsere Daten belanglos, verlieren an Wert. Dann kommen wir sehr schnell in eine Situation, dass wir dazu gezwungen werden, immer wieder neue, einmalige Daten für uns zu generieren, um an dieser Datenbörse Einkommenswerte für uns zu schaffen. Ich denke, wenn man solche Zusammenhänge sieht und versteht, dann wird einem auch plastisch deutlich, was Herrschaft und auf der anderen Seite auch was Abhängigkeit bedeutet.

Andreas Schiel Um uns nicht in eine solche, sozusagen Versklavung durch Daten, zu begeben, was können wir tun, um Souveränität zu gewinnen, den Graben zu überwinden zwischen denen, die Software entwickeln und damit Geld verdienen und uns, die nur Anwender dieser Software sind? Du hast über den Unterschied von Entwicklungs- und Umgangswissen geschrieben. Hier dürfte es sicher nicht reichen, Kindern in der Schule das Programmieren beizubringen, oder?

Andreas Seidel Ja, das ist ein ganz wichtiger Ansatzpunkt: Von Aristoteles gibt es ja eine schöne Aussage zu dem Verhältnis von Konstruktionswissen und Anwendungs- bzw. Handlungswissen. Da sagt er: Auf der einen Seite gibt es den Steuermann an Bord eines Schiffes, der das Steuerruder bedient und der, sehr traditionell und klassisch, das Handlungs- und Anwendungswissen repräsentiert. Und auf der anderen Seite gibt es den Schiffsbauer, der das Steuerruder konstruiert und herstellt. Nichts anderes ist das Verhältnis zwischen denjenigen, die zum Beispiel Software programmieren und uns, die wir diese Software anwenden – und letzten Endes können wir nur die Vorgabe liefern, was für uns nützliche Software ist. Das heißt also auch, das wir von uns aus auch Position beziehen müssen, in dem Sinne, dass wir nicht nur etwa jeder neuen App, die auf den Markt kommt, hinterherlaufen, dass wir nicht ohne Weiteres akzeptieren, wenn uns neueste Datenüberwachungssoftware vom Staat präsentiert wird, dass wir uns etwa auch gezielt in politischen Organisationen wie netzpolitik.org engagieren, dass wir uns bewusst damit auseinandersetzen, wie Daten eigentlich funktionieren, wie sie auch z.B. in den Unternehmen in denen wir arbeiten unsere Arbeitsabläufe beeinflussen, dass wir also nicht einfach hingehen und uns zu Abhängigen von Daten machen, sondern dass wir eine Mündigkeit entwickeln, indem wir verstehen, was da eigentlich passiert, dass wir eingreifen können in die Datenverwendung, auch in die Organisation unserer Arbeitsabläufe, dass wir dort bewusst aktiv werden können und nicht nur in allem bloß die Rolle des Konsumenten einnehmen.

Digitale Mündigkeit

Andreas Schiel Ich glaube Mündigkeit ist ein ganz wichtiges Stichwort. Digitale Mündigkeit ist übrigens eine Formulierung, die von der Körber-Stiftung aus Hamburg benutzt wird für eine Initiative zu diesem Themenbereich. Ich würde gern eine Einschätzung von dir haben: Glaubst du, dass solch eine Bewegung, ein solches Bemühen um digitale Mündigkeit etwas ist, das nur aus der Zivilgesellschaft hervorgehen kann? Oder ist das etwas, das wir eigentlich auch von einigen Lösungen erwarten und erhoffen dürfen, die schon auf dem Markt sind? Vielleicht nicht von den großen Konzernen – aber ich denke hier z.B. an Messenger die auf Verschlüsselung setzen, oder an kluge Apps, die mir nicht nur etwas vorsetzen, sondern mich auch fragen: Wie gefällt dir das? Möchtest du eine andere Form der Bedienung, ein anderes Interface? Siehst du da zumindest einen Hoffnungsschimmer?

Andreas Seidel Ich sehe den Schlüssel schon in der Zivilgesellschaft, denn allein von dort können die Impulse kommen, dass sich solche Entwicklungen auch durchsetzen. Wir hatten ja jetzt Anfang des Jahres in den USA die mittlerweile schon legendäre Entwicklerkonferenz South By Southwest. Und da wurden von den Entwicklern, die in der Vergangenheit sich ja immer sehr elitär dargestellt haben, die kompromisslos ihre neuen Entwicklungen rund um das Silicon Valley vorangetrieben haben, dort wurden zum ersten Mal ganz systematisch und über die ganze Konferenz hinweg Fragen gestellt: Was haben wir eigentlich in der Vergangenheit betrieben, haben wir auch an die Nutzer gedacht? Stehen wir eigentlich mit unseren Entwicklungen auf der richtigen Seite? Und um solche Dialoge einfach auch voranzubringen, Softwareentwicklung, Anwendungsentwicklung zu stärken, die nicht nur sagt, ‚Wir pushen die nächste Technologie‘, sondern auch fragt, ‚Was machen wir hier?‘, dafür brauchen wir die Zivilgesellschaft als Gegenpol, die sagt: Ja, genau da steigen wir ein. Wir steigen mit euch Entwicklern in den Dialog ein, wir nutzen eure Software, die Verschlüsselung bietet, die uns Mitsprache bietet, die uns als Zivilgesellschaft stärkt. Dadurch werden eben auch Anwendungen wirtschaftlich wieder tragbar, die heute möglicherweise von großen Anbietern wie Google oder Facebook durch ihre schiere Masse erdrückt werden. Wenn wir so durch unser Handeln konkrete Gegenpositionen aufbauen können, haben wir eben auch eine Chance, andere Entwicklungen zu stärken.

Andreas Schiel Trotzdem wird man ja für ein solches Unternehmen potente Verbündete brauchen, die im IT- und Softwarekosmos als Entwickler zu Hause sind, denn wir bewegen uns immer weiter in eine digitale Welt. So dass anzunehmen ist: Die Probleme der Zukunft werden auch und immer digital gelöst werden müssen. Da frage ich mich schon, wo findet man diese Verbündeten? Es gibt ja immerhin jetzt gewissermaßen auch von ganz oben Bewegungen und Tendenzen etwa seitens Bill Gates oder Elon Musk von Tesla, die beispielsweise kritisch über künstliche Intelligenz nachdenken. So gibt es das durch Elon Musk geförderte Projekt Open AI, und wir finden an vielen Stellen eben auch bei den Konzernchefs führender Software- und Technologiefirmen mahnende Worte und Leute, die sagen: Lasst uns nochmal nachdenken, lasst uns nichts falsch machen. Das geht ja über ein Lippenbekenntnis wie das von Google (Don’t be evil!) schon deutlich hinaus. Sind das gute Alliierte, oder wo sonst in der Softwarewelt soll man nach solchen suchen?

Andreas Seidel Es ist schwer festzumachen, denn man kann einzelne Aussagen nicht unbedingt isoliert betrachten. Zum Beispiel ist da Marc Zuckerberg, der ja auch oft verkündet, dass es ihm um ethische Standards geht. Schaut man aber genau hin, geht es ihm um seine eigenen ethischen Standards. Er hat ja ein Großteil seines Firmenkapitals abgegeben, interessanterweise aber nur Anteile ohne Stimmrecht. Wer dieses Kapital erwirbt hat also keinerlei Mitspracherecht bei den Entwicklungen, die Zuckerberg vorantreibt. Und auch von Leuten wie Elon Musk gehen sehr unterschiedliche Impulse aus. Was auch gerade das Thema künstliche Intelligenz angeht, so entsteht, wenn ich das richtig interpretiere, oftmals der Eindruck, dass künstliche Intelligenz den Machern in den Großkonzernen zum Teil selbst entgleitet. Wir hatten Ende letzten Jahres Microsoft, das mit einem KI-Assistenten »Tay« in einen öffentlichen Testlauf gestartet ist: »Tay« sollte eigentlich über die sozialen Netzwerke in einen Dialog mit den Nutzern treten, und es dauerte wenige Tage bis dieser Assistent nur noch Nazi- und Hassparolen verbreitet hat. Die Kommunikation mit den Anwendern führte dazu, dass »Tay« nur noch einseitge Meinungen aufgegriffen hat. Wir haben aus der jüngeren Forschung auch Beispiele, wo man etwa bei Google künstlich intelligente Systeme miteinander kommunizieren lassen hat und wo man zu dem Schluss kam: Wir verstehen gar nicht mehr, wie diese Maschinen untereinander kommunizieren.

Damit sind auch die genannten Personen in einer Situation, wo sie mit der Gefahr konfrontiert sind, dass ihnen eine derartige Technologie entgleitet. Das heißt aber noch nicht, dass sie deshalb wirklich sagen: Wir wollen jetzt Technik schaffen, die einer breiten Mehrheit von Menschen zugänglich und nützlich ist.

Den Dialog mit den Entwicklern suchen

Andreas Schiel Würde das im Umkehrschluss heißen, dass wir auf alternative Entwicklerkreise setzen müssen, etwa wie um das renommierte Betriebssystem Linux, oder etwa bei uns in Deutschland die politisch engagierten Hacker vom CCC? Würdest du sagen, das sind potenzielle Ansprechpartner, wenn es darum geht, digitale Mündigkeit nicht nur zu proklamieren, sondern auch wirklich wirkungsvoll umzusetzen?

Andreas Seidel Es sind wirklich wichtige Ansprechpartner. Wir sollten es aber auch weiter fassen: Ich hatte ja gerade die Entwicklerkonferenz in den USA angesprochen, wo junge Startups selbst anfangen, Fragen zu stellen. Und mit diesen Startups ist man natürlich direkt in der Entwicklerszene. Und wenn man es schafft in den Dialog mit diesen Menschen zu treten, insofern, dass sie dahin kommen, nicht nur ihre Ideen zu verwirklichen, sondern auch Fragen, wofür diese eigentlich nützlich sind, für wen diese Ideen produziert werden. Vieles in diesen jungen Unternehmen ist ja ganz zweckfrei entstanden, wie eingangs schon angedeutet. Wenn es uns aber gelingt, Entwickler wieder dazu zu bringen, sich solche Fragen zu stellen – und hier ist der ganze Dialogprozess unheimlich wichtig, ist es wichtig mit den Leuten ins Gespräch zu kommen – dann können wir sehr viel erreichen.

Andreas Schiel Kann es sein, dass im Prozess der sogenannten Digitalisierung, der ja nicht zuletzt auch bedeutet, dass zusehends maßgeschneiderte Lösungen für den Kunden entwickelt werden, in dem sich, wie man ja gerne sagt, der Markt von einen Anbieter- in einen Kundenmarkt verwandelt, dass in einem solchen Prozess vielleicht auch ein gewisser emanzipativer Aspekt verborgen ist? Es gibt ja das schöne Zitat: Wo Gefahr ist, wächst das Rettende auch. Liegt nicht auch eine Chance in diesen Prozessen, die wir derzeit beobachten, dass vieles kleinteiliger wird, dass man vieles vom Endnutzer her denkt, dass man da auch zu einem Punkt kommt, wo man wirklich vom Menschen her denken kann und damit auch in die Richtung einer Ermächtigung des Menschen gehen kann?

Andreas Seidel Grundsätzlich besteht diese Chance. Ich spreche ja nicht nur mit typischen Fachleuten aus der Wirtschaft und mit Entwicklern – darunter auch weit vorausdenkende wie vom Fraunhofer-Institut – sondern eben auch viel mit dem typischen Nutzer, sei es als Konsument, oder sei es als Beschäftigter in einer Arbeitsumgebung. Heute haben wir noch vielfach die Situation, dass Digitalisierung sehr stark als Expertenthema verstanden wird. Es liegt noch gar nicht so lange zurück, dass fast 80 Prozent der Befragten hier in Deutschland noch nicht einmal wussten, was eigentlich Industrie 4.0 ist, oder das Internet der Dinge. Wir brauchen eine gewisse Emanzipation des Nutzers. Dass die Nutzer für sich auch sagen: Das ist nicht nur eine Expertenentwicklung, sondern wir als Nutzer sind eigentlich selbst die Experten, weil wir diejenigen sind, die die Handlungskompetenz, das Handlungswissen zu den Technologien schaffen. Das ist ein ganz wichtiger Entwicklungsschritt, den wir schaffen müssen. Und darauf liegt jetzt ein großes Augenmerk unserer Aktivitäten, dieses zu entwickeln. Ich habe neulich von einem unbestrittenen Technologieexperten gelesen, der von einer Expertendemokratie gesprochen hat, der geschrieben hat, die Normalnutzer seien im Prozess der Technologieentwicklung eher Risikofaktoren. Man solle lieber auf Expertenmeinungen setzen und nicht auf die Meinung der vielen. Das ist eine Gefahr, der wir dann auch einfach entgegentreten müssen und auch klar sagen müssen: Wir als Nutzer sind aus unserer Sicht, aus unserem Handlungswissen auch Experten. Und wir sind als Handlungsexperten vielleicht sogar die wichtigeren Experten, im Vergleich zu denjenigen, die nur entwickeln können.

Andreas Schiel Vielen Dank, Andreas, für das Gespräch. Ich freue mich auf unsere weitere Zusammenarbeit zu diesen Themen!

***
Andreas Seidel (*1957) ist Betriebswirt, ursprünglich mit den Schwerpunkten Human Resources, betriebliche Bildung und Volkswirtschaftspolitik. Er hat seit den 80er Jahren zahlreiche Innovationen im Bereich der Logistik begleitet und dazu auch verschiedene Zukunftsstudien verfasst. Andreas Seidel ist Initiator des Forums für Verantwortung in der digitalen Wirtschaft und Gesellschaft, das auf LinkedIn, einer gleichnamigen Gruppe in XING sowie in einer Vielzahl von Gesprächen und Debatten aktiv ist. Einige der Beiträge aus diesem Forum werden jetzt auch hier, auf digihuman.org erscheinen.