Eine Frage der Ethik – Vom Wettlauf zwischen Mensch, Moral und Maschine

Verfasst von: Helén Orgis
  • 7/10/2019
  • Lesestoff : 6 Minuten
Digitale Ethik: Gedanken zu Mensch, Moral und Maschine

Gedanken über ethische Grundwerte, die Essenz dessen, was „menschlich“ ist, und Impulse der Morals & Machines Konferenz 2019 für Politik, Unternehmen und alle Nicht-Maschinen.

Stellen wir uns das Jahr 2519 vor: Was werden sich die Menschen über unsere Gegenwart erzählen? Werden wir zum Sinnbild menschlichen Versagens im Umgang mit Künstlicher Intelligenz? Oder wird man sich daran erinnern, wie wir aufgehört haben mit den Maschinen „mithalten“ zu wollen und endlich begonnen haben, wieder Mensch zu sein? Heute könnte der Aufbruch in eine neue Zeit sein. Könnte. Denn besinnen wir uns auf den Moment. Blickt man auf die Einführung des Social Scorings in China und die Whistleblower-Skandale über Alleingänge der Tech-Giganten und Regierungen, über Datenmissbrauch, Spionage und Bewachung, sind wir überhaupt noch in der Lage, ein zukünftiges und gemeinschaftliches Wertesystem zu entwerfen? Oder steckt die Menschheit knietief in einer Sinn- und Wertekrise?

Zurück zum Wir

Gegeben der Tatsache, dass der technologische Wandel in immer höherer Geschwindigkeit, Komplexität und für die breite Gesellschaft oft in einer Blackbox abläuft, muss man sich die Frage stellen, ob Künstliche Intelligenz überhaupt ethisch sein kann. Negativbeispiele, wie eine diskriminierende Recruiting-Software von Amazon1, verweisen auf das massive Problem homogener Entwicklerkreise und historischer Daten, die die Basis für intelligente Algorithmen darstellen. Schaffen wir es (rechtzeitig), dass intelligente Systeme und Maschinen ethische Werte vertreten und unser Leben nachhaltig verbessern können?

Im Zentrum dieser und ähnlich drängender Fragen steht die Überlegung, wie intelligente Anwendungen und Maschinen ein System besser machen sollen, dass in sich fehlerbehaftet, teils widersprüchlich und manchmal sogar korrupt ist. Also Anwendungen und Maschinen, die oftmals nicht nach ethischen oder demokratischen Prinzipien geschaffen wurden.

„Wenn wir Kritik an KI üben, üben wir gleichzeitig Kritik an unserer Gesellschaft.“ Christine Dingler im Gespräch auf Morals & Machines 2019 in Dresden

Was jetzt nach Sozialromantik klingt, stellt eine wichtige Prüfinstanz für Ethik und gesellschaftliche Grundwerte in der digitalen Welt dar: Diversität und Teilhabe. So betonten Andrea Martin und Jörg Hellwig im Morals & Machines Expertenpanel in Dresden, dass Diversität, in all ihren Facetten, keine Modeerscheinung ist. Sie ist unsere einzige Chance auf eine gesunde und inklusive Zukunft. Auch Urs Gasser, u. a. Harvard Law School Professor, konstatiert in seiner Keynote auf Morals & Machines: „It’s all of us who co-create and shape the future“. Wir, das Kollektiv, sind die Antwort auf die Frage, wie wir schon heute sicherstellen können, dass Künstliche Intelligenz in Zukunft nicht die menschlichen Fehler der Vergangenheit wiederholt.

Dieser Ansatz ist bereits in der KI-Strategie der Bundesregierung verankert2. Doch eine der wichtigsten Triebfedern für gesellschaftlichen Wandel waren und bleiben Unternehmen, die sich rechtzeitig damit auseinandersetzen und anhand konkreter Kennzahlen analysieren müssen. Doch viele traditionelle Unternehmen hadern noch mit dem offenen Umgang von Denkweisen und diversen Teams sowie dem Aufbrechen von Hierarchien. Geht man davon aus, dass der technologische Wandel keinen Industriezweig unberührt lassen wird, sind somit alle Industrieunternehmen gleichermaßen in der Pflicht; sowohl diejenigen die die KI-Lösungen entwickeln als auch diejenigen, die sie schließlich zum Einsatz bringen.3

Wo setzt man nun an? Ein erster Schritt kann die Erhebung relevanter Daten im Unternehmen sein. Wie „bunt“ sind wir? Welche Bereiche hinken in Sachen Diversität hinterher? Wo stellen mangelnde moralische Prüfinstanzen eine Gefahr für das Unternehmen und die Gesellschaft dar? Inklusions- und Diversitätsbeauftragte, wiederkehrende Initiativen sowie I&D-Kennzahlen sollten verzielt und tief in der Unternehmensstrategie verankert werden.

Wichtig zu verstehen ist zudem, dass Diversität und Teilhabe nicht nur als wichtige Prüfinstanzen in der digitalen Welt fungieren, sondern auch essentielle Erfolgs- und Innovationsfaktoren für den Wirtschaftsstandort Deutschland darstellen. Denn während die Fachkräftelücke in bereits fast allen Industrien schmerzliche Realität ist und Produktionsstandorte zunehmend aus der westlichen Welt verschwinden, stellen Wissen und Innovationen wichtige Grundpfeiler unseres Wohlstandes und Wachstums dar.

Raus aus der Schweigespirale

Die Theorie der Schweigespirale geht auf Elisabeth Noelle-Neumann zurück, die sich mit der Dominanz des vorherrschenden Meinungsklimas beschäftigte und der oft mangelnden Bereitschaft vieler Menschen, dieser zu widersprechen. In den letzten Jahren ist auch der Begriff der ‚toxischen‘ Gesellschaft oder Umgebung entstanden. Doch welche Auswirkungen hat das Schweigen der Mehrheit, wenn die Minderheit zu laut und damit zu mächtig wird? Betrachten wir das Phänomen im Kontext des technologischen Fortschritts aus zwei Perspektiven.

Treiber intelligenter Systeme

Beginnen wir mit den Unternehmen, die die Entwicklung künstlicher Intelligenz vorantreiben und dafür auf Unmengen von Daten angewiesen sind. Das Teilen von Daten und Informationen basiert schon immer auf der Idee des Fortschritts – und der Macht. Daten können, richtig genutzt, immensen Nutzen für die Gemeinschaft generieren, doch in den falschen Händen auch großen Schaden anrichten. Danah Boyd, Sprecherin auf der Morals & Machines Bühne in der Dresdner Frauenkirche, mahnt, dass selbst Entscheider und Entwickler in der Tech-Branche die Risiken wiederholt schlicht weg falsch einschätzen oder übersehen. Diese fatale Fehleinschätzung führt nicht selten dazu, dass Daten und Knowhow unter Verschluss gehalten werden. Das vorherrschende Meinungsklima sowie ungeschriebene Regeln innerhalb der Unternehmenskultur verhindern so schon intern, dass Motive und Treiber hinter technologischen Entwicklungen rechtzeitig klar erkennbar sind.

Oft genug hat sich das Interesse einzelner bereits gegen die Interessen vieler gestellt. Zu viel Macht in einer Hand, sollte uns alle nachdenklich stimmen. Zudem sollte nicht alles, was technisch möglich ist, auch umgesetzt werden. Unternehmen sollten sich als Wächter gesellschaftlicher Werte und menschlicher Einzigartigkeit betrachten. Im Interview auf Morals & Machines betont Robert Habeck, dass „insbesondere menschennahe Bereiche frei vom Einfluss künstlicher Algorithmen und automatisierter Entscheidungen bleiben sollten“. Menschennah bezieht sich, ähnlich dem Amazon-Beispiel der diskriminierenden Recruiting-Software, auf Bereiche, die viel Kontext, Intuition und eben auch Emotionen einfließen lassen sollten. Auch im Pflege- und Gesundheitsbereich sowie in Bildung und Erziehung wird auf die unersetzliche Mensch-zu-Mensch-Beziehung hingewiesen.

Getriebene intelligenter Systeme

Den Techniker gerufen, mit nur einem Klick. Alle wichtigen Dokumente, an einem Ort. Über Single Sign-On von Facebook oder Google nur noch ein Passwort merken, anstatt zehn. Die digitale Welt macht vieles so einfach. Intelligente Helfer und Systeme sind nicht mehr aus unserem Alltag wegzudenken. Bei all diesen Anwendungen geben wir einiges von uns preis und hoffen im Gegenzug, dass diese Daten nicht missbraucht werden. Wir spüren, dass die Teilnahme am sozialen Leben ohne Zugang zu bestimmten „sozialen“ Netzwerken und Medien zunehmend unmöglich wird. Doch gleichzeitig fehlt uns immer stärker das Wissen über die Funktionalität dieser Technologien. Was ist, wenn wir zum Spielball neuer Technologien werden? Das Thema hat längst seinen Weg in Wohnstuben, Kneipen und Kaffeeküchen gefunden. Doch wo bleibt der breite, öffentliche Diskurs? Wo blieb der hörbare Aufschrei nach der NSA-Affäre? Und auch hier ist sie zu beobachten. Die Schweigespirale. Anstatt Verantwortliche zur Rede zu stellen, sein Recht einzufordern, auf die Straße zu gehen, passiert nichts. Lieber sucht man das intime Gespräch unter Gleichgesinnten und isoliert sich im schlimmsten Fall zunehmend von der breiten Öffentlichkeit. Anstatt die Skepsis gegen die Verantwortlichen zu richten, richtet man sie gegen die Gesellschaft als Ganzes – und läuft Gefahr auf eine reaktionsunfähige, zukunftsmüde Silo-Gesellschaft.

Wie bricht man nun das Schweigen? Wie lernen wir, Ängste und Sorgen ernst zu nehmen? Der Chemnitzer Professor Bertolt Meyer resümiert im Gespräch mit Osh Agabi und Francoise Baylis, dass „Technologie selten gesellschaftliche Probleme allein gelöst hat. Vielmehr sei ein Zusammenspiel aus einer breiten gesellschaftlichen Bewegung, offenen Debatten und konstatierenden Politik notwendig“. Das heißt, auch hier können konsequente Prüfinstanzen und gesetzliche Vorgaben greifen. In Dresden warnte Angela Merkel jedoch bewusst vor zu viel Regulierung. „Wir sind fast schneller am Überlegen, welche Leitplanken wir bauen, bevor wir fröhlich mit Daten umgehen“.

Meredith Whittaker betont, dass die Schweigespirale nur ernsthaft durchbrochen werden kann, wenn wir Whistleblower und investigative Journalisten vor Verfolgung und rechtlichen Konsequenzen schützen. Whittaker macht deutlich, dass wir bereits alle betroffen sind und beginnen müssen, kritisch und lautstark zu hinterfragen. Wir haben keine Zeit zu verlieren.

„The time to resist is now. Start today. Get informed today. Engage in conversations today!“
Meredith Whittaker, AI Now Institute


Das Beispiel Greta Thunbergs zeigt, so kontrovers die Klimadebatte geführt werden mag, sie wird nun endlich geführt – von Politik, Unternehmen, den Medien und der breiten Öffentlichkeit. Und sie ist längst überfällig. Das zeigt, dass Wandel gelingen kann, wenn eine Mehrheit sich bewegt.

Nur keine Berührungsängste

Fühlen Sie sich in der Debatte um Künstliche Intelligenz und neue Technologien zeitweise ohnmächtig? Sie wären nicht allein. Obgleich das Verständnis dafür da ist, dass der digitale Fortschritt notwendig ist, können die Bedenken um Risiken zeitweise lähmen oder sogar Zukunftsangst verursachen. Auf Morals & Machines wurde daher auch darüber diskutiert, wie wir Brücken schlagen und eine Zukunft der friedlichen Koexistenz gestalten können.

Was es für eine ausgewogene Mensch-Maschinen-Beziehung braucht, sind Bildung und Begegnung. Mensch und Maschine müssen sich stärker annähern, um – wie in einer guten Beziehung – feststellen zu können, wo es passt und wo nicht. Nur so können wir uns auch auf das zurückbesinnen, was wir in den letzten Jahrzehnten verloren haben. Unsere Menschlichkeit. Wir waren so bemüht, immer kalkulierter, immer emotionsbefreiter zu agieren, dass wir eines nicht gesehen haben: Wir sind schlechte Maschinen und doch gleichzeitig eines der beeindruckendsten Naturwunder. Jetzt ist der Moment sich dessen zu erinnern und endlich danach zu handeln.

Im Umgang mit intelligenten Systemen müssen wir uns folglich nun fragen: Was unterscheidet uns von Maschinen oder sie von uns? Und vor allem, was brauchen wir, damit wir sinnerfüllt miteinander leben, also koexistieren, können? Dieser Diskurs braucht einen frei zugänglichen Raum und eine öffentliche Plattform. Denn es liegt an uns zu definieren, was „menschlich“ ist und bleiben soll. Im Umgang mit Künstlicher Intelligenz gilt es dabei, experimentierfreudig und offen zu bleiben. Die Zukunft geht uns alle an. Wichtig in der Reflexion und Definition unserer bestehenden sowie zukünftigen Grundwerte ist es daher, unsere Zukunft nicht einigen wenigen zu überlassen und den notwendigen gesellschaftlichen Wandel gemeinsam hervorzurufen. Schon heute könnte der Aufbruch in eine neue Zeit sein. Es liegt an uns diese Verantwortung wahrzunehmen und die Welt von morgen aktiv mitzugestalten.


Einen konkreten Einblick in aktuelle Anwendungen von KI in der Industrie und damit verknüpfte ethische Fragestellungen gibt Ihnen KI-Experte Arian van Hülsen in diesem Video.


1 Bastian, M. (2018): Bericht: Amazon stellt KI Recruiting-Software mit Vorurteilen gegen Frauen ein, Link (abgerufen 21. Juni 2019)
2 Deutsche Bundesregierung (2018): Strategie Künstliche Intelligenz der Bundesregierung, Stand November 2018, Link (abgerufen 21. Juni 2019)
3 BMWi (2019): TECHNOLOGIESZENARIO „KÜNSTLICHE INTELLIGENZ IN DER INDUSTRIE 4.0“, S. 11, Link (abgerufen 25. Juni 2019)

Tags:
  • Industrial Equipment
  • Life Sciences
  • Oil and Gas
  • Retail and Consumer Products
  • Aerospace and Defense
  • Automotive
  • Electronics and High-Tech
  • Industrial Connectivity
  • Industrial Internet of Things
  • Digital Transformation
  • Industry 4

Der Autor

Helén Orgis

Helen Orgis schloss ihr Wirtschaftsstudium an der Northumbria University mit Auszeichnung ab und hat einen Master-Abschluss in Corporate Communication von der Hochschule für Oekonomie & Management München. Ihre Leidenschaft für neueste Technologietrends und Innovationen geht auf ihre frühe Karriere zurück, wo sie bereits im Alter von 25 Jahren ein interdisziplinäres Transformationsprojekt bei einer der weltweit größten Versicherungsgesellschaften verantwortete. Sie ist eine erfahrene Digital Marketing Expertin und Technologie-Evangelistin.

In ihrer jetzigen Funktion als Head of Content Strategy & Digital Growth EMEA treibt sie die digitalen Wachstumsstrategien und Marketing Best Practices in Europa voran. Sie engagiert sich aktiv für mehr Frauen in der Technologiebranche und ist Co-Founderin von Zukunftsnarrative.com. Seit Februar 2019 ist sie aktives Mitglied des Digitalverbands Bitkom.

Helen’s Mission ist jeder Person und Organisation dabei zu helfen, von den neuen Technologien zu profitieren, individuelle digitale Kompetenzen aufzubauen und dadurch Zugang zur intelligenten, vernetzten Welt von Morgen zu erhalten.