Ich staunte nicht schlecht, als ich in meinem Posteingang plötzlich eine Anfrage vom Studienleiter hatte, ob ich denn den Eid des Archimedes an der Diplomfeier präsentieren möchte. Natürlich habe ich dieses Angebot sofort angenommen, aber etwas nervös war ich dann schon. Aber zum Glück hatte ich auf meiner Reise durch China und Japan genug Zeit diese kurze Rede vorzubereiten, sodass das mit der Nervosität auch bald vorbei war.
20.09.2019 Kongresshaus Biel
Liebe Mitstudenten, liebe Dozenten, liebe Eltern, Verwandte und Freunde
Nun habe ich die Ehre euch den Eid des Archimedes zu präsentieren. Aber wieso müssen denn wir frisch diplomierte Ingenieure uns überhaupt Gedanken um Ethik in unserem Beruf machen?
Seit etwa 300 Jahren hat die Technik unser allen Leben drastisch verändert. Und es ist klar, dass auch in Zukunft unser Leben von der Technik bestimmt sein wird. Und zwar von der Technik die wir entwickeln.
Wir Ingenieure haben also die Kraft die Welt nachhaltig zu verändern. Und um aus Spider-Man zu zitieren: Aus grosser Kraft folgt grosse Verantwortung.
Aber Ethik wird meistens als etwas schwarz-weisses dargestellt. Ethik ist aber vielmehr wie Fifty Shades of Grey, und jeder muss selber wissen was er davon hält.
Aber ich empfehle euch allen sich mal damit zu befassen. Also mit Ethik meine ich.
Als ich diesen Eid zum ersten Mal gelesen habe da dachte ich mir: Das ist ja alles klar, selbstverständlich werde ich mein Wissen nicht irgendwie gegen die Menschen einsetzen.
Erst nachdem ich mich einige Zeit damit befasst habe, wurde mir klar wie schnell man den eigentlich gegen diesen Eid verstossen kann.
Und das möchte ich euch nun anhand den mir drei wichtigsten Punkte dieses Eids zeigen.
Beim ersten Punkt geht es um Verantwortung. Suprema ist eine Firma die biometrische Zugangskontrollsysteme für Gebäude entwickelt. Diesen Sommer wurde bekannt, dass diese Millionen von Fingerabdruckdaten unverschlüsselt im Internet gespeichert hat.
Der Schaden für die Betroffenen ist riesig, ja nicht zu beziffern. Denn die diese können ihren Fingerabdruck nicht einfach ändern wie vielleicht ein Passwort.
Das Handeln diese Firma ist also eindeutig verantwortungslos, aber wer ist schuld?
Vieleicht der Techniker der ein Fehler in der Konfiguration gemacht hat?
Der Manager der zu wenig Kontrolliert hat?
Oder doch der Systemdesigner der überhaupt zugelassen hat, dass diese Daten überhaupt und verschlüsselt gespeichert werden?
Das ist eigentlich auch egal denn jeder von ihnen hätte den Unfall verhindern können und trägt somit die moralische Verantwortung dafür.
Es ist darum wichtig, dass wir Ingenieure uns immer überlegen wie die Menschen durch unsere Maschinen und Systeme verletzt werden können, egal ob körperlich oder in ihrer Privatsphäre.
Und wenn wir eine Gefahr sehen dürfen wir nicht schweigen, sondern müssen auch darauf aufmerksam machen. Denn auch für diese Expertise werden wir bezahlt.
Bei meinem nächsten Punkt geht es um Fairness, oder wie schnell man ein unfaires, gar diskriminierendes System baut. Das hat nämlich uns Amazon gezeigt.
Amazon hat ein System entwickelt welches Bewerbungsdossier screent und den Personalverantwortlichen nur die besten Kandidaten präsentiert.
„Cool!“ haben ein paar Entwickler gesagt und bauten mittels maschinellen Lernens auf historischen Daten ein KI-System.
Und sie gaben sich grosse Mühe alle geschlechtsspezifischen Informationen aus den Dossiers zu entfernen, und doch hat sich später herausgestellt, dass das System eine sehr klare Meinung hatte welches Geschlecht denn für eine bestimmte Stelle zu bevorzugen sei.
Wie kann das sein? Nun, die KI-Algorithmen fanden in den CVs für uns kaum durchschaubare statistische Feinheiten welche auf das Geschlecht zurückschliessen liessen.
Aber es geht noch weiter.
Kürzlich stolperte ich über ein Paper von Forschern die mittels Social-Media Daten das Risiko für Postnatale Depressionen berechnen. Die Resultate sind eindrücklich und sollten für eine frühe Intervention genutzt werden. Toll! Wirklich!
Aber stellen wir das nun aber in den Kontext einer Bewerbung.
Was wenn ein neurales Netz ohne unser Wissen auch Depressionen prognostiziert?
Was wenn eine Bewerbungs-KI Menschen diskriminiert die ein höheres Risiko für Depressionen haben?
Oder vielleicht Menschen die mit grösserer Wahrscheinlichkeit bald Eltern werden.
Das erkennt man nicht wenn man sich irgendwelche Quoten anschaut.
Was lernen wir daraus?
Erstens:
Einer Black-Box die wir nicht verstehen müssen wir sehr kritisch gegenüberstehen.
Und zweitens:
Wichtige Entscheidungen die einen direkten Einfluss auf das Leben einzelner Menschen haben sollten besser von einem Menschen getroffen werden.
Bei meinem letzten Punkt geht es um Respekt. Oder wie es im Eid heisst: Ich werde meinen Beruf so ausüben, dass die Umwelt respektiert wird.
Hierzu ein Beispiel auszuwählen fällt mir schwer, denn es gibt einfach zu viele.
Aber wie der VW-Konzern Motoren so zu steuern, dass diese die erlaubten Abgasgrenzwerte nur einhalten, wenn das Auto gerade auf dem Prüfstand ist, das verstösst bestimmt gegen diesen Eid.
Der Klimawandel ist eines der wichtigsten Probleme unserer Zeit. Bei der Lösung tun wir uns allerdings schwer.
Es liegt wohl in der Natur des Menschen kurzfristige Interessen höher zu Gewichten.
Aber was können wir Ingenieure tun?
Es braucht mehr umweltfreundliche Alternativen die auch günstiger sind. Denn nur wenn diese preiswerter sind werden sich diese auch durchsetzen.
Es liegt an uns jungen Technikern diese zu entwickeln.
Aber heute ist ein Tag zum Feiern! Wir erhalten unser Diplom.
Doch so schnell wie die Zeit verfliegt werden wir schon bald auf diesen Moment zurückschauen.
Und wenn wir zwischendurch
- Neues geschafft haben ohne andere Menschen unnötigem Risiko auszusetzen…
- Fair gegenüber allen waren…
- und dabei Respekt gegenüber der Natur zeigten….
Dann bin ich mir sicher, können wir uns mit einem Lächeln auf den Lippen an diesen Moment zurückerinnern und denken: Ja, doch, das wars Wert!
Vielen Dank
https://www.vpnmentor.com/blog/report-biostar2-leak/
https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G
https://www.zeit.de/mobilitaet/2015-09/vw-volkswagen-software-ecm-ecu-diesel