News

Kopflos klug mit Künstlicher Intelligenz?

TA-Swiss, Stiftung für Technoliogiefolgen-Abschätzung, hat in einer neuen Studie die Chancen und Risiken untersucht, die mit dem Einsatz von Künstliche Intelligenz-Systemen in unterschiedlichen Anwendungsbereichen verbunden sind.
20. April 2020 Michaela Geiger

Die interdisziplinäre Studie mit dem Titel «Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen Intelligenz» analysiert den Einsatz von neuen, «intelligenten» Algorithmen anhand von fünf Schwerpunkten: Arbeitswelt, Bildung, Konsum, Verwaltung und Medien. Dabei werden die technologischen, rechtlichen und ethischen Aspekte übergreifend behandelt und ihre Auswirkungen in den fünf aufgeführten Bereichen untersucht.

Als Fazit geben die Studienautoren einige generelle Empfehlungen im Umgang mit KI-Systemen:

  1. Der Einsatz von KI-Systemen sollte deutlich und auf einfache Weise kenntlich gemacht werden, damit Betroffene wissen, dass die Interaktion mit einem KI- System stattfindet und nicht mit einem Menschen.
  2. Wichtige Entscheidungen, die Personen betreffen, sollen nicht ohne reifliche Abwägungen der Vor- und Nachteile einem KI-System überlassen werden. Geht es um relevante personenbezogene Fragen, muss in der Regel das Ergebnis des Systems durch einen Menschen nachgeprüft und begründet werden.

  3. Der Einsatz von KI hat Folgen, die weit über die technischen Implikationen hinausreichen. Wer KI entwickelt, einsetzt oder mit ihren Ergebnissen weiterarbeitet, sollte daher auch über Kenntnisse in Ethik und Recht verfügen und darüber hinaus zu interdisziplinärer Zusammenarbeit mit Vertretern anderer Wissenschaftsgebiete bereit und fähig sein.

 

Heikel wird es besonders, wenn die KI mit personenbezogenen Daten arbeitet. Daher sollten beispielsweise öffentliche Einrichtungen oder Unternehmen künstliche Intelligenz (KI) nach klaren Regeln, nachvollziehbar und transparent einsetzen, empfehlen die Studienautoren. Ein eigenes Gesetz über den Einsatz künstlicher Intelligenz wird jedoch als nicht zielführend erachtet.

Private Unternehmen, die KI beispielsweise bei der Personalselektion einsetzen, müssen transparent Auskunft geben, so die Experten. «Auf Nachfrage müssen sie Betroffenen einen vertieften Einblick in deren Daten geben.» Organisationen, die im Interesse von Kundinnen und Kunden agieren, müssen ebenfalls Einsicht erhalten, um den Einsatz von KI überprüfen zu können. Weiter könnten diese Organisationen Zertifikate ausstellen für Anbieter, die bestimmte Regeln einhalten.

 

Aus- und Weiterbildung in KI ist ein Muss

Selbstlernende Systeme, die sich durch Training ständig verbessern, werfen im HR und anderen Bereichen ein grundlegendes Problem auf: Wer trägt die Verantwortung für eine Entscheidung, wenn die Prozesskette, die dazu geführt hat, im Dunkeln liegt, weil sie von niemandem mehr nachvollzogen werden kann? Selbst wenn am Ende ein Mensch die Ergebnisse der Software beurteilt und die Entscheidung trifft, wird es problemtisch, wenn dieser sein Werkzeug immer schlechter versteht. Aus- und Weiterbildung in KI-Systemen sei daher unabdingbar, so die Studie.

Bezogen auf den Bereich Arbeit werden oft Bedenken geäussert, KI würde Arbeitskräfte überflüssig machen. Die Studienautoren erblicken im Einsatz von KI jedoch auch eine Chance: So könnte KI dazu beitragen, dank Effizienzsteigerungen die persönliche Arbeitszeit zu reduzieren. Um solches zu ermöglichen und befürchtete Arbeitsplatzverluste oder soziale Verwerfungen zu vermeiden, müssen Aus- und Weiterbildung in KI gefördert werden.

 

Massnahmen gegen die Zweiteilung des Arbeitsmarktes sind gefragt

Die im Rahmen der Studie von TA-Swiss befragten Fachleute halten es zudem für wahrscheinlich, dass KI die Zweiteilung des Arbeitsmarktes vorantreiben wird. Sie erwarten, dass sich die Schere zwischen Arbeitnehmern mit hoher Qualifikation und entsprechenden Löhnen und solchen mit tiefer Ausbildung und einem geringen Einkommen weiter öffnen wird. Empfohlen werden dahern Massnahmen gegen die Zweiteilung des Arbeitsmarktes.

Auch sehen die Experten eine stärkere Kontrolle der Angestellten sowie eine wachsende Instabilität der Arbeitsverhältnisse voraus. Dass KI zum Rückgang der Arbeitszeit und -belastung beitragen wird, wird dagegen als unwahrscheinlich erachtet. Alles in allem hält es die Mehrheit der Experten für wahrscheinlich, dass Grossunternehmen besonders stark von diesen Veränderungen in der Arbeitswelt profitieren werden.

 

Keine Delegation von Entscheidungsgewalt an die Maschine

Eine deutliche Mehrheit für die Studie befragten Fachleute ist sich einig: Wenn es um vorausschauende Analysen oder die Erstellung eines Persönlichkeitsbildes («Profi ling») geht, dürfen KI­Systeme nur Empfehlungen abgeben; die Entscheidung selbst muss den Menschen vorbehalten bleiben. Eine knappe Mehrheit der Befragten ist zudem der Ansicht, KI dürfe nur verwendet werden, um raum- oder objektbezogene Entscheidungen vorzubereiten, nicht aber, wenn es um Beschlüsse geht, die Personen betreffen.

 

KI in Bildung und Forschung: Unterstützung für die Humanintelligenz

In der Bildung kann laut Studie KI eingesetzt werden, um die Fähigkeiten von Lernenden zu analysieren und Bildungsoptionen vorzuschlagen. Dabei werden grosse Mengen an Daten über die Betroffenengesammelt und generiert. Daraus resultiert gemäss Studienautoren: «Bildungseinrichtungen müssen sicherstellen, dass Schülerinnen und Studenten dadurch später keine Nachteile entstehen.»

 

Schlüsselkompetenzen ausbauen und Transparenz sicherstellen

Für die Forschung gewinnt KI laufend an Bedeutung; für grössere Entwicklungssprünge ist sie oft gar eine Voraussetzung. Die befragten Experten sind daher mehrheitlich der Ansicht, wissenschaftliche Einrichtungen sollten Anlaufstellen für Weiterbildung und Nutzung von KI in der Forschung einrichten, die auch als Knotenpunkt für die interdisziplinäre Auseinandersetzung mit diesen Techniken dienen könnten. Mit Blick auf die Daten, die durch KI erzeugt werden, ist sich die Mehrheit der Befragten einig, dass dieses Eigentum der jeweiligen Forschungseinrichtung bleiben oder im open access-Format allen zugänglich gemacht werden müssen. Das mit KI-Systemen erzeugte Wissen schliesslich muss so weit möglich transparent und reproduzierbar sein. Um diese Forderung zu erfüllen, braucht es entsprechende Transparenzrichtlinien.

Ein weiterer Aspekt ist das Vermitteln von Wissen über KI: Hochschulen sollen abklären, wie das Verständnis der Fähigkeiten, aber auch der Grenzen von KI-Systemen gefördert werden kann. Ebenfalls Aufgabe der Hochschulen sollte die Entwicklung ethischer Standards für die Erforschung und Nutzung von KI sein.

 

Ausblick: Mehr interdisziplinäre Forschung ist erforderlich

KI werde sich rasant weiterentwickeln und fortlaufend neue Fragen aufwerfen, so die Prognose der Studienautoren. «Dafür braucht es neben der fachspezifischen auch eine breitangelegte interdisziplinäre Forschung auf dem Gebiet der künstlichen Intelligenz.» Durchgeführt wurde die Studie von Forschenden der Digital Society Initiative der Universität Zürich, der Abteilung Technologie und Gesellschaft der Empa und dem Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften.

 

Die TA-SWISS Studie sowie die Kurzfassung dazu sind erhältlich unter ta-swiss.ch/KI

Auch als eBook steht die Studie zum freien Download bereit: www.vdf.ch


Webdesign by Multi Digital