Ich arbeite mit verschiedenen Systemen. Wichtig ist mir dabei, europäische Anbieter sowie jene, die vom Dienstgeber erlaubt sind, zu verwenden.

Aus meiner Sicht ist das sehr wichtig. Wenn wir uns in Europa unsere Lebensqualität, die Menschenrechtssituation und Konkurrenzfähigkeit bewahren wollen, sind Regularien wichtig. Mit dem AI-Act oder der Datenschutzgrundverordnung will Europa auf eine menschenrechtskonforme Nutzung der neuen Technologien hinwirken. Es braucht aber auch eine entsprechende Haltung in der Technologieentwicklung. Wir dürfen Regulierungen nicht gegen Innovation ausspielen.

Dahinter stehen große philosophische Fragen: Wie balancieren wir Werte wie Sicherheit, Freiheit und Privatsphäre aus? Das betrifft viele Bereiche der Informatik, etwa Cybersecurity oder Robotik. Ein Ansatz hierfür ist das Value-Based Engineering, bei dem ethisch reflektierte Werte gezielt in die technische Gestaltung und in den Code von Systemen übersetzt werden.

Welche Werte gesellschaftlich als wünschenswert gelten, wird in politischen und gesellschaftlichen Aushandlungsprozessen verhandelt und spiegelt sich schließlich in Gesetzen und regulatorischen Rahmenbedingungen wider. Europa pocht auf humanistische Werte, die uns auch in Zeiten der KI ein menschenwürdiges Leben sichern. Wenn Studierende, die künftig in der Technologieentwicklung arbeiten, zwar technische Systeme gestalten können, aber kein Bewusstsein für humanistische Werte haben, ist das kontraproduktiv für die Entwicklung unserer Gesellschaft.

Ich versuche, das mit den Studierenden konsequent durchzudenken: Was bedeutet es als künftige*r Entwickler*in, Verantwortung zu tragen? Studierende müssen verstehen, wie sich Werte in technische Gestaltung und Codequalität übersetzen lassen und wie im Entwicklungsprozess technischer Systeme Reflexionsräume als Qualitätsmerkmal verankert werden können. Dafür benötigen sie ein reflektiertes ethisches Bewusstsein sowie die Fähigkeit, Wertekonflikte zu erkennen, kritisch abzuwägen und in verantwortbare technische Entscheidungen zu überführen.

Man sollte immer hinterfragen, welche Nutzer*innen von einem System profitieren und welche die Risiken tragen: Wem hilft es? Wem schadet es? Es geht um Technologiefolgenabschätzung. Das sollte auch in den Unternehmen fest verankert sein.

In Europa wächst die Bewegung des Digitalen Humanismus. Im Kern geht es in diesem Ansatz darum, digitale Technologien und Künstliche Intelligenz konsequent an menschlichen Werten, gesellschaftlichem Wohl und demokratischen Prinzipien auszurichten. Es gibt immer mehr Informatiker*innen, die sagen, dass wir uns außerhalb der technischen Machbarkeit auch mit den gesellschaftlichen Auswirkungen von Innovationen beschäftigen müssen. Es erkennen immer mehr Menschen aus allen Regionen der Welt, dass diese Transformationsprozesse tiefgreifende Veränderungen für uns als Gesamtgesellschaft bedeuten.

Digitale Technologien haben ein großes Integrations-, aber auch ein extremes Exklusionspotenzial. Sie sind Fluch und Segen zugleich. In den Lehrveranstaltungen zur Maschinenethik oder zu zukunftsfähigen Technologien versuche ich dafür zu sensibilisieren. Zudem zeigen sich enorme Herausforderungen im Umgang mit neuen Technologien. Neben unterschiedlichen digitalen und fachlichen Kompetenzen besteht die Herausforderung, dass Menschen technischen Systemen mitunter unkritisch vertrauen, Entscheidungen an Maschinen delegieren oder algorithmische Vorschläge ungeprüft übernehmen. Technische Kompetenz ohne kritische Reflexion kann somit blinde Flecken erzeugen.

Vertrauen in technische Systeme entsteht durch eine ethisch reflektierte Gestaltung, transparente gesetzliche Regulierung sowie nachvollziehbare Sicherheitsstandards, die eine verantwortungsvolle Balance zwischen individueller Freiheit, Datenschutz und gesellschaftlicher Sicherheit gewährleisten. Die Verantwortung kann man nicht nur an die Nutzer*innen abschieben. Neben anderen Disziplinen sind auch unsere Informatiker*innen aus den Studiengängen Cybersecurity, AI for Sustainable Technologies und Robotik gefragt. Man denke an Anwendungsszenarien von autonomen Waffensystemen, an die Prävention von Desinformationskampagnen oder an die Entwicklung und den Einsatz von Pflegerobotern.

Am deutlichsten wird es, wenn man sich die eigene Betroffenheit vergegenwärtigt. Wie wichtig ist mir, dass Bereiche meines Lebens geschützt sind? Wenn bei der Kriminalitätsbekämpfung Gesichtserkennungssoftware eingesetzt wird, wird man schnell zustimmen. Doch was, wenn es um das eigene Gesicht geht? Dann ist man nicht mehr so freigiebig. Wieder zeigt sich, dass man selbst zur*m Akteur*in eines Aushandlungsprozesses wird. Und wieder: Wie wichtig hier Bewusstseinsbildung ist.

Lassen Sie mich das am Beispiel des autonomen Fahrens veranschaulichen. Wir sind uns einig, dass der Verkehr sicher sein soll. Wie dieses Auto Entscheidungen trifft, berührt viele ethische Fragen. Für wen wird gebremst? Zählt bei einer Abwägung jedes Menschenleben gleich viel? Es gibt unzählige Variablen, die diskutiert und berücksichtigt werden müssen. Oder nehmen wir die Pflegerobotik. Was darf der Roboter tun, wenn Patient*innen sich selbst- oder fremdgefährdend verhalten? Darf die Person fixiert werden, auch wenn dabei Verletzungen und Freiheitsentzüge in Kauf genommen werden müssen? Das sind Fragen, die weit über das technische Programmieren hinausgehen, denen wir uns aber auch im Sinne sicherer Systeme stellen müssen. Informatiker*innen treffen Entscheidungen und modellieren mathematisch, wie Werte gewichtet werden.

Ich glaube, gerade das Gegenteil ist der Fall. Wenn technische Lösungen auf gesellschaftliche Probleme und Herausforderungen reagieren, entsteht ein enormes Innovationspotenzial.

Derzeit werden sehr viel Zeit und Geld investiert, damit Menschen im Umgang mit technischen Systemen wie z.B. den großen Sprachmodellen geschult werden. Ich würde mir wünschen, dass wir nicht nur auf die technischen Fertigkeiten schauen, sondern auch auf die Entwicklung einer Kultur, die die Chancen und Risiken des Einsatzes von KI verantwortungsvoll diskutiert. Kritisches Denken setzt fachliche Kompetenz und die Bereitschaft voraus, sich eigenständig mit Inhalten auseinanderzusetzen, um Ergebnisse technischer Systeme reflektiert einordnen, prüfen und hinterfragen zu können. Gerade deshalb bleibt es zentral, und ich wünsche mir, die Fähigkeit und auch die Motivation zum selbstständigen Denken zu bewahren und uns das Denken nicht von Maschinen abnehmen zu lassen.