Künstliche Intelligenz – zahlreiche Chancen, aber auch Risiken

ChatGPT und eine Reihe anderer KI-Softwares für die breite Öffentlichkeit werden die Art und Weise, wie wir lernen und lehren, grundlegend verändern. Diese neuen, aussergewöhnlich leistungsfähigen Werkzeuge werfen auch zahlreiche ethische Fragen zu den Werten auf, die unsere Gesellschaft als wichtig oder eher unwichtig erachtet. Wir haben uns mit Johan Rochel unterhalten, einem digitalen Ethiker, der an den Hochschulen für Wirtschaft (HEG) und Ingenieurwissenschaften (HEI) unterrichtet. 

Wie wird sich die KI Ihrer Meinung nach auf das Bildungswesen auswirken?

Sie hat bereits einen grossen Einfluss! Ich denke dabei vor allem an die Erstellung von Inhalten, aber auch an die Beurteilung der Kenntnisse. Diese neuen Werkzeuge verändern die Art und Weise, wie wir unterrichten und die Studierenden evaluieren. Wir müssen gemeinsam darüber nachdenken, wie künftige Prüfungen aussehen sollen, was wir bei den Studierenden wirklich bewerten wollen, und ob wir den Einsatz technologischer Hilfsmittel zulassen oder nicht. Im Moment befinden wir uns noch in einer Phase der fröhlichen Anarchie. 

Welche Verantwortung tragen Studierende bei der Nutzung von ChatGPT?

Meiner Meinung sollten die Grundsätze der Verantwortung und Ehrlichkeit gelten. ChatGPT ist ein Hilfsmittel und die Studierenden sind für die Inhalte der abgegebenen Arbeiten verantwortlich. Darüber hinaus müssen sie über intellektuelle Redlichkeit verfügen, d. h. sie müssen angeben, wenn sie Werkzeuge wie ChatGPT genutzt haben. Die Aufgabe der Dozierenden besteht unter anderem darin, die Studierenden auf die Grenzen dieser Tools aufmerksam zu machen. 

Wie kann KI den Zugang zu Bildung und Forschung beeinflussen?

Die Herausforderungen in Bezug auf die Chancengleichheit beim Zugang zu Technologien sind gross. Darüber hinaus wirft die Stabilität dieser Hilfsmittel Fragen auf: Sind diese Werkzeuge genügend ausgereift, um offiziell im öffentlichen Bildungswesen eingesetzt zu werden? Ich habe auch Bedenken, dass bestehende Ungleichheiten, insbesondere in Zusammenhang mit den Ressourcen, verstärkt werden könnten.   

Was sind die Herausforderungen bezüglich des Schutzes der Privatsphäre der Studierenden bei der Verwendung von KI?

Wir verstehen noch nicht vollständig, was ChatGPT mit den Daten macht, was grosse Fragen zum Datenschutz aufwirft. Die künstliche Intelligenz macht derzeit grosse Schlagzeilen, und wer sich nicht damit beschäftigt, wirkt altmodisch und riskiert, den technologischen Anschluss zu verpassen. Trotz dieses Drucks müssen wir vorsichtig sein und uns der Risiken bewusst sein.

Ist KI eine leistungsstarke disruptive Technologie?

Auf jeden Fall. Im Gegensatz zum Internet handelt es sich jedoch nicht um eine Infrastruktur. Die Integration von KI in gängige Anwendungen, wie die Office-Suite von Microsoft, kann ihre Einführung erheblich beschleunigen. Künstliche Intelligenz, die in häufig genutzte Tools integriert wird, wird allgegenwärtig sein.

Wie können wir die akademische Integrität in einem Umfeld gewährleisten, in dem KI komplexe inhaltliche Manipulationen ermöglicht?

Dies ist ein wichtiger Aspekt. KI-gestützte Tools sind nicht an sich verantwortlich, sondern der Mensch, der sie benutzt, unter anderem um die Korrektheit von Zitaten und Referenzen zu gewährleisten. Dies kann den Produktionsprozess beschleunigen und Herausforderungen mit sich bringen, aber echte Fortschritte werden auch weiterhin von Menschen gemacht werden.

Wie können Lehrpersonen, Forschende und Institutionen geschult werden, um die ethischen Herausforderungen von KI zu verstehen?

Es ist von entscheidender Bedeutung, nicht nur die Studierenden, sondern auch die Dozierenden und Forschenden für die ethischen Herausforderungen der KI zu sensibilisieren. Dies kann in die digitale Bildung integriert werden und erfordert eine entsprechende Schulung. Die Fähigkeit, ethische Herausforderungen zu erkennen und zu bewältigen, muss ein integraler Bestandteil der Ausbildung im Ingenieurwesen und der Forschung sein. 

Welche Themen sprechen Sie mit Ihren Studierenden an?

Verschiedene Themen in Zusammenhang mit der Ethik von Innovation und Technologie, insbesondere der Datenethik, den Auswirkungen auf die Gesellschaft und die zwischenmenschlichen Beziehungen. Diese Fragen werden unter dem Gesichtspunkt der sozialen Gerechtigkeit behandelt. Wir diskutieren aber auch über grundsätzlichere Themen, z. B. was es bedeutet, intelligent, kreativ, autonom usw. zu sein. 

Weshalb ist es wichtig, das Thema Ethik im Rahmen der Ausbildung von Ingenieuren und Ingenieurinnen zu behandeln?

Ethik gehört zu den Kernkompetenzen von Ingenieuren und Ingenieurinnen. Sie sind ständig mit ethischen Entscheidungen konfrontiert, wenn sie verschiedene Optionen vergleichen, um eine Wahl zu treffen. Meine Aufgabe besteht darin, ihnen dabei zu helfen, diese Entscheidungen explizit zu treffen und die ethischen Herausforderungen in Zusammenhang mit dem Datenschutz, der Auswahl von Algorithmenmodellen usw. zu verstehen. 

Was vergessen Ingenieure und Ingenieurinnen oft in Bezug auf Ethik?

Sie werden in erster Linie dazu ausgebildet, technische Probleme zu erkennen und zu lösen, was wichtig ist. Allerdings ist eine technische Frage nie nur technisch. Es ist entscheidend, diese Probleme im Kontext zu betrachten. Ethische Fragen sind unvermeidlich, und wir müssen uns fragen, welche Auswirkungen sie auf die anderen Aspekte des Technikpuzzles haben.