Matthias Grünewald Verlag /Verlagsgruppe Patmos in der Schwabenverlag AG, Ostfildern 2022,
ISBN 978-3-7867-3295-2, 252 Seiten, Hardcover, Format 19,5 x 12,5 cm, € 28,00
Derzeit kommt kaum ein Medium um Berichte über die gesteigerten Möglichkeiten der KI herum. So berichtet Adrian Kreye in der SZ Nr. 67 vom 21. März 2023 (vergleiche dazu https://www.sueddeutsche.de/kultur/ethikrat-kuenstliche-intelligenz-1.5772104?reduced=true) über die am Vortag veröffentlichte Stellungnahme des Deutschen Ethikrats zu Fragen des Verhältnisses von Mensch und Maschinen (vergleiche dazu https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf). Demnach haben digitale Technologien und Künstliche Intelligenz (KI) mittlerweile in nahezu allen Bereichen des öffentlichen und privaten Lebens Einzug gehalten. Für die ethische Bewertung solcher Entwicklungen und ihres Einsatzes in verschiedensten Bereichen ist es aber nötig, nicht nur die Technologien zu verstehen, sondern auch ihre Wechselwirkungen mit den Personen, die sie verwenden oder von ihrer Anwendung betroffen sind. Für die Autorinnen und Autoren der Studie ist deshalb die Frage zentral, welche Auswirkungen damit verbunden sind, wenn Tätigkeiten, welche zuvor Menschen vorbehalten waren, an Maschinen delegiert werden. Werden menschliche Autorschaft und Handlungsmöglichkeiten durch den Einsatz von KI erweitert oder vermindert?
In der Diskussion dieser Frage scheinen zentrale Themen auf, die Regine Kather in ihrer Erörterung der anthropologischen und philosophischen Hintergründe von Systemen künstlicher Intelligenz und Transhumanismus gut ein Jahr zuvor in ihrer Studie ›Die Verheißung gesteigerter Lebensqualität‹ erörtert hat, darunter auch die Frage, ob sich die transhumanistische Vision von der Optimierung und Überwindung des Menschen noch mit überkommenen Menschenbildern vermitteln lässt und die Frage, welche Umwälzungen die KI mit sich bringt. Nach der in Freiburg lehrenden Philosophin lassen sich die bevorstehenden Veränderungen am ehesten mit denen der Neolithischen Revolution vergleichen, die durch die Einführung von Ackerbau und Viehzucht die Sesshaftigkeit und die Entwicklung einer städtischen Kultur ermöglicht haben, dann aber auch mit denen der Industriellen Revolution. „Die Entwicklung von KIS, so die Hoffnung der UNO, der EU, von Deutschland ebenso wie von China, soll dazu dienen, auf der Grundlage marktwirtschaftlicher Prinzipien nahezu acht Milliarden Menschen eine Versorgung mit Gütern und Dienstleistungen anzubieten und deren Wohlstand zu mehren. Die Datenökonomie ersetzt die Einbindung des Individuums in traditionelle soziale und religiöse Traditionen durch eine individuelle oder kollektive Lenkung von Bedürfnissen. Die Gefahr der Manipulation … ist damit … offensichtlich. Es ist daher wichtiger denn je, die alten Tugenden, sich von seinen eigenen Emotionen distanzieren und auf sie reflektieren zu können, zu pflegen, um die innere Freiheit gegenüber gezielt einsetzten Reizen zu behalten und so die digitalen Möglichkeiten sinnvoll nutzen zu können.
Doch die Entwicklung und Einsatz von KIS dient nicht nur der Lösung drängender Menschheitsprobleme. Mit ihrer Hilfe soll sich, so die Vertreter von Trans- und Posthumanismus, die menschliche Spezies selbst optimieren und schließlich transformieren. Sie soll neue Fähigkeiten erwerben, Gesundheits- und Lebensspanne verlängern und sich sinnlich wie mental neue Horizonte erschließen. Durch Neuroenhancement, Gentechnologie und die Verschmelzung von Mensch und Maschinen zu Cyborgs soll allmählich ein neuer Mensch, eine Art Übermensch entstehen. Der Transhumanismus sieht sich als Erbe und Überwinder des Humanismus und damit als Vorreiter des Posthumanismus, der die menschliche Spezies in einem vom Menschen selbst ausgelösten Prozess hinter sich lässt“ (Regine Kather S. 22 f.). Nick Bostrom versteht unter einer posthumanen Fähigkeit eine Fähigkeit, die das maximal durch gegenwärtige Menschen Erreichbare ohne technische Hilfsmittel weit überschreitet. Dabei könnte jeder Mensch mit der entsprechenden technologischen Unterstützung durch die Verbesserung seiner emotionalen, psychologischen und intellektuellen Fähigkeiten zu einem Posthumen werden (vergleiche dazu Regine Kather S. 215 und https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies?hmsr=joyk.com&utm_source=joyk.com&utm_medium=referral).
Den Menschen als Zwischenform und als Bindeglied zu begreifen bedeutet, dass er nicht mehr das Maß aller Dinge und Schöpfer aller Werte ist. Der Körper gilt nur noch als die notwendige physiologische Grundlage, die nichts mehr mit der biografischen Identität zu tun hat und für die Situieren in der Welt ohne Bedeutung ist. Wir können uns zwar verbessern, aber am Ende holt uns der Tod doch ein. Deshalb wird auch darauf eine technische Antwort gesucht. „Bereits in Ansätzen realisiert ist der … Versuch, aus den gesammelten Online-Daten eines Nutzers durch Deep Learning eine möglichst präzise digitale Kopie eines Menschen zu erschaffen, eine Replika oder einen Chatbot“, der für die Angehörigen an besonderen Tagen wie dem Schuleintritt auftreten und Nachrichten eines Verstorbenen hinterlegen kann (Regine Kather S. 222). Wer biologische und keine digitalen Replik will, soll sich künftig klonen lassen können. Eine dritte Möglichkeit ist die Kryostase, das Einfrieren des gesamten Organismus im Moment des Todes bei – 196 ℃ in der Hoffnung, dass eine Zeit kommt, in der der Tote wieder aufgeweckt, durch neue medizinische Möglichkeiten wieder gesund werden und weiterleben kann. Der Einsatz von Nanorobotern zum Zweck der Zellreparatur könnte eine vierte Möglichkeit und das Mind Uploading eine fünfte sein: „Wenn die persönliche Biografie tatsächlich vollständig auf Prozessen der Informationsverarbeitung beruht, dann ließen sich die im Gehirn gespeicherten Informationen beim Tod des biologischen Organismus auf ein Speichergerät übertragen und in einen neuen organischen oder künstlichen Körper eingeben; und dann könnte die Biografie auf einer anderen materiellen Grundlage unbegrenzt weitergeführt werden … Der Posthumane wäre dann eine im Computer hochgeladene Persönlichkeit“ (Regine Kather S. 226) und sein Gehirn nicht länger, wie Thomas Fuchs vorgeschlagen hat, ein Beziehungsorgan (vergleiche dazu Thomas Fuchs: Philosophie des Geistes: Das Gehirn – ein Beziehungsorgan https://www.information-philosophie.de/?a=1&t=4908&n=2&y=1&c=2).
Kather schließt so: „Da die menschliche Spezies selbst in einem langen Prozess entstanden ist und es keinen Grund zu der Annahme gibt, die Evolution sei abgeschlossen, ist die Frage nur folgerichtig, ob nicht neue, komplexere Formen von Intelligenz und Bewusstsein entstehen oder sogar kreiert werden können. Da sich zudem nicht nur im Zweig der Hominiden … Formen von Bewusstheit und Intelligenz entwickelt haben, ist es durchaus vorstellbar, dass irgendwann nicht nur Intelligenz, sondern auch Bewusstheit auf Siliziumbasis verwirklicht werden könnte. Dennoch sollte man die Gefahr, vor der die Mythen warnen, nicht unterschätzen, dass nämlich Menschen sich göttliche Machtfüller anmaßen und einer Hybris verfallen, die in den Abgrund reißt.
In dem Bemühen um Optimierung, Steigerung und Transformation von Eigenschaften gelten Inselbegabungen als ein Indiz dafür, dass bisher längst nicht alle Möglichkeiten ausgeschöpft sind. Dies gilt freilich auch für die Spitzenerfahrungen, von denen mystische Traditionen berichten. Neben dem Streben um kognitive, emotionale und körperliche Optimierungen sollte man daher auch diese Form der Selbstüberschreitung weiter erforschen. Dann könnte tatsächlich das Ideal einer abgerundeten Persönlichkeit, die den Renaissancephilosophen ebenso wie Transhumanisten wie [Stefan Lorenz] Sorgner und Bostrom vorschwebt, in neuer Weise leitend sein. Die technische Entwicklung würde dann in einen umfassenderen Sinnhorizont eingebettet, der die Teilnahme an der Natur, den Mitmenschen und möglicherweise einem transzendenten Sein beinhaltet“ (Regine Kather S. 239 f.).
Adrian Kreye ginge diese transhumanistische Vision derzeit noch viel zu weit, weil wir für den Umgang mit Künstlicher Intelligenz noch nicht gerüstet sind. Das zeigt sich nach seiner Meinung auch am aktuellen Gutachten des Ethikrats. Demnach muss die KI zwar immer Werkzeug bleiben, aber moralisch problematische Resultate können dennoch durch KI-Systeme verursacht werden und sie haben Einfluss auf menschliches Handeln. Dieses ist also weder völlig autonom noch völlig sozial oder technisch determiniert, sondern in zunehmendem Maß soziotechnisch situiert. Der Ethikrat fasst die Einleitung in seine Stellungnahme in den Punkten 63 bis 65 so zusammen:
„63. KI zeigt [in] vielen Fällen eindeutig positive Folgen im Sinne der Erweiterung der Möglichkeiten menschlicher Autorschaft. Im Rahmen der Diffusion von Technik und Innovationen in die Gesellschaft, ihrer Nutzung und Veralltäglichung kommt es jedoch auch zu Verminderungen menschlicher Entfaltungsmöglichkeiten. Durch den Einsatz digitaler Technologien können Abhängigkeiten von diesen oder Anpassungsdruck entstehen – und andere, bis dahin etablierte Optionen verschlossen werden.
64. Solche Effekte können schleichend und teilweise unbewusst durch Verhaltensänderungen entstehen [und] auftreten, ohne dass Intentionen von Akteuren dahinterstehen. Das Ersetzen als Endpunkt des Delegierens vormals menschlich ausgeübter Tätigkeiten an technische Systeme erfolgt jedoch intentional. Eine derartige Übertragung ist für sich genommen ein Ausdruck der Wahrnehmung menschlicher Autorschaft. Die zentrale ethische Frage ist, ob und wie diese Übertragung die Möglichkeiten anderer Menschen beeinflusst, vor al- lem von jenen, über die entschieden wird. Daraus ergibt sich ein Bedarf, die Übertragung menschlicher Tätigkeiten auf KI-Systeme auch gegenüber den davon Betroffenen transparent zu gestalten und bei der Beurteilung von KI zu berücksichtigen, für wen eine Anwendung jeweils Chancen oder Risiken, und Erweiterungen oder Verminderungen der Autorschaft mit sich bringt. Damit sind Aspekte sozialer Gerechtigkeit und Macht involviert.
65. Weiterhin sind psychologische Effekte im Zusammenhang mit KI-Systemen zu beachten, vor allem der Automation Bias. Menschen vertrauen algorithmisch erzeugten Ergebnissen und automatisierten Entscheidungsprozeduren häufig mehr als menschlichen Entscheidern. Damit wird Verantwortung – zumindest unbewusst – an diese „Quasi-Akteure“ delegiert. Selbst wenn ein KI-System normativ strikt auf die Rolle der Entscheidungsunterstützung begrenzt wird, kann Automation Bias dazu führen, dass ein KI-System allmählich in die Rolle des eigentlichen ‚Entscheiders‘ gerät und menschliche Autorschaft und Verantwortung ausgehöhlt werden“ (Vorabfassung der Stellungnahme des Deutschen Ethikrates ›Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz‹ vom 20. März 2023, S. 21 f.)
ham, 27. März 2023