Die
digitale Revolution würde unsere ganze Gesellschaft umwälzen – das
ahnten wir ja schon. Aber wird sie auch eine lebenswerte Zukunft
schaffen? Diese bange Frage wird immer drängender in dieser Corona-Zeit,
in der die digitale Überwachung immer invasiver wird und Algorithmen
über Leben und Tod entscheiden. Kommt jetzt wirklich bald das digitale
Paradies, oder haben wir uns verirrt? Sind wir womöglich gar in eine
Dystopie geraten? Was können wir tun?
Wir leben in
einer Welt, in der wir an den Fortschritt glauben. Nirgendwo sind wir in
den letzten Jahren so begeistert vorangestürmt wie bei der
Digitalisierung. Schon zum Greifen nah schien das digitale Paradies, in
dem Algorithmen-gesteuert alles von selber läuft, von der Produktion bis
zum selbstfahrenden Auto; in dem automatisch Milch und Honig fließen
(dank Internet-of-Things-Kühlschrank); in dem personalisierte
Urlaubsangebote mit einem Klick gebucht werden können; in dem „Alexa“
unser Leben erleichtert; in dem das perfekte Liebesdate lockt – dank
Dating-App; in dem Krankheiten eliminiert werden sollen und Körper
technisch aufgerüstet. Vielleicht würden wir bald ewig leben, so hoffte
mancher schon. Doch dann kam Corona...
Im Grund wusste man, dass
irgendwann wieder eine Pandemie um die Welt gehen würde – und mit einer
gewissen Chance würde es eine Lungenkrankheit sein. Die
Datenschutzgesetze und Menschenrechte waren ebenfalls keine
Überraschung. Dennoch war man schockierend schlecht vorbereitet.
Wochenlang gab es Lieferengpässe – sogar bei Desinfektionsmitteln und
Masken. Mehrfach mussten Krankenstatistiken und wichtige Indikatoren
korrigiert werden. Messergebnisse waren unzuverlässig, nicht einmal
repräsentativ. Prognosen führten in die Irre. Menschen starben
massenweise – oftmals an Triage. Zahlreiche Unternehmen lagen am Boden.
Viele Selbständige verzweifelten. Politiker wussten nicht mehr ein noch
aus.
Indessen überschlugen sich Unternehmer flugs mit innovativen Vorschlägen: elektronische IDs[1] und Immunitätsausweise[2] standen bereit. Klaus Schwab wollte gleich den „Great Reset“ mit dem World Economic Forum.[3] Auch ein „Internet of Bodies“ stand zur Debatte.[4] Man könnte doch am besten gleich den Gesundheitszustand im Körper ausmessen und automatisch weiterfunken.[5]
Keiner der Vorschläge schien so richtig mit dem Grundgesetz vereinbar.
Gut fanden sie vor allem die Unternehmen, die auf spektakuläre Gewinne
hofften – doch oft genug scheiterten sie an der gesellschaftlichen
Realität.
Hat die Digitalisierung sich verlaufen? Zeit für eine
Zwischenbilanz! Lange Zeit waren wir mit der Plattform-Ökonomie
zufrieden. Sie lieferte uns bequeme und zeitsparende Lösungen. Doch sie
läuft nicht mehr rund. Kartell-Verfahren beklagen schwere
Marktverzerrungen.[6] Demokratische Wahlen wurden im großen Stil manipuliert.[7] Die Digitalisierung schaffte ein neues Präkariat.[8]
Soziale Medien förderten Hate Speech. Fake News wurden zur globalen
digitalen Seuche – vielleicht nicht weniger gefährlich als Corona.
Kurzum, das Vertrauen ins daten-getriebene Zeitalter hatte beträchtlich
gelitten. Und das hat seine Gründe.
Eine nachhaltige Wirtschaft?
Fehlanzeige! Demokratieplattformen? Nicht vorhanden! Digitale
Katastrophen-Assistenten. Eile mit Weile! Apps für umweltfreundlichen
Konsum? In Arbeit! Partizipative Gesundheitsplattformen? Nicht
erwünscht! Mein Urteil mag vielleicht zu harsch sein, aber die
Hauptentwicklungen der Digitalisierung lagen sicher woanders.
Oftmals
hörte man das Credo: „Die Demokratie ist eine veraltete Technologie.“
Peter Thiel sorgte sich vor allem darum, den Kapitalismus sicher vor der
Politik zu machen.[9] Facebook’s Motto war gleich: „Move fast and break things.“[10]
Derweil machten sich Elon Musk, Apple-Mitbegründer Steve Wozniak, und
sogar Bill Gates Sorgen um die Folgen von Superintelligenz.[11]
Man hielt ihnen entgegen, man könne der KI ja jederzeit den Stecker
ziehen. Doch stattdessen zog man den Stecker bei den COVID-19-Patienten.
Derweil ist der Zustand der Demokratien ebenfalls kritisch. Ehemalige Datenschützer[12] warnen genauso wie ehemalige Bundesrats-[13] und Verfassungsgerichtspräsidenten.[14]
Ihr Bücher kommen gegen die Aufmerksamkeitsökonomie nicht an. Die
anonyme demokratische Wahl – wurde mit Big Data gehackt. Nicht nur
schaut man virtuell gewissermaßen heimlich in die Wahlkabine.[15] Auch werden die Entscheidungen mit personalisierten Informationen gezielt manipuliert.[16]
Diese Art der Rattenfängerei höhlt das „one person one vote“ Prinzip
aus. Wer mehr Werbedollar investiert, kann mehr Menschen den Kopf
verdrehen. Die Dokumentation „The Great Hack“[17] haben Sie vielleicht gesehen. Ehemalige Cambridge-Analytica-Angestellte sprechen von Mindf*ck[18] und von Datendiktatur.[19]
Profiling, Targeting, Scoring...
Die
gängigen Methoden des Überwachungskapitalismus sind das „Profiling“
(d.h. die Erstellung digitaler Dossiers) und das „Targeting“ (die
gezielte Manipulation). Im Rahmen des personalisierten „Neuromarketing“[20] – auch „Big Nudging“[21]
genannt – werden diese vielfach zu Werbezwecken eingesetzt. Sie sind
aber auch Bestandteil des täglich tobenden globalen Informations- und
Propaganda-Krieges,[22]
weswegen wir wohl die Fake News Plage haben. Zur Begegnung dieses
Problems greifen auch bei uns Zensurmethoden zunehmend um sich.[23]
Ein weiteres Prinzip ist das „Scoring“.[24]
Im Zusammenhang mit China’s „Social Credit Score“ wurde die Methode als
totalitäres Kontrollinstrument des Staates berühmt-berüchtigt.[25]
Indessen untergraben Scoring-Methoden (wie der „Customer Lifetime
Value“) auch im Westen die Menschenwürde. Scores werden genutzt, um
Business-Prozesse zu optimieren. Doch dadurch werden Menschen wie Dinge
verwaltet. Darüber hinaus wird Diskriminierung zum Geschäftsprinzip.
Nicht nur bekommen wir für die gleiche Leistung unterschiedliche,
„personalisierte“ Preise in Rechnung gestellt. Wir bekommen auch andere
Angebote angezeigt. Vielleicht werden Ihnen bestimmte Produkte und
Services gleich ganz vorenthalten. Ihre und meine digital „kuratierte“
Welt unterscheiden sich massiv. Im Einzelnen haben wir leider keine
Ahnung wie. Auch wissen wir nicht, welche „sozialen Ingenieure“ für die
Verhaltens- und Gesellschaftssteuerung[26]
verantwortlich sind. Man darf bezweifeln, ob sie immer qualifiziert und
legitimiert sind. Ist womöglich gar der Nürnberger Kodex[27] tangiert?
Lawrence Lessig warnte uns noch, indem er sagte: „Code is law“.[28]
Algorithmen bestimmen immer mehr, was geht und was nicht – ganz am
Parlament vorbei. Nicht nur die Demokratie ist weitgehend Makulatur
geworden, dank digitaler Revolution. Das Gleiche gilt auch für den
Rechtsstaat. „Predictive Policing“-Methoden[29]
machen das Prinzip Unschuldsvermutung null und nichtig. Ihr zufolge
hätte als unschuldig zu gelten und wäre vor willkürlichem Zugriff zu
schützen, wer nicht aufgrund von rechtsstaatlich erlangten Beweisen
angeklagt und in einem öffentlichen, fairen Prozess schuldig gesprochen
wurde. Doch spätestens seit dem „Karma Police“ Programm des britischen
Geheimdienstes GCHQ[30]
werden wir Bürgerinnen und Bürger ausnahmslos durchleuchtet – nicht nur
auf mögliche Rechtsverletzungen, sondern auch auf ihre Gesinnung,
Geschmack und Persönlichkeit. Wurde hier illegal eine Art digitales
Jüngstes Gericht installiert? Und fällt es neuerdings auch Todesurteile?
Zunehmend ist von algorithmen-basierten Sterbe-Entscheidungen[31] und Todesalgorithmen[32]
die Rede. Sie werden jetzt vielleicht denken, die schrecklichen
Triage-Entscheidungen der jüngsten Zeit hätten mit Covid-19 zu tun,
nicht mit der Digitalisierung. Doch vermutlich liegen Sie da falsch.
Denn die Diskussionen um mangelnde Nachhaltigkeit, Überbevölkerung und
Populationskontrolle begannen schon vorher.[33]
Noch vor fünf Jahren warnte die FAZ:[34]
„Big Data ist Big Business. Die Sammlung und die Verknüpfung von
Informationen über Menschen im Netz bringen Milliarden ein. Und die
Methoden werden immer abgefeimter und perfekter. Es ist Zeit, dagegen
vorzugehen.“ Nun aber wird eine daten-getriebene Methode zur
Echtzeit-Prognose der Covid19-Mortalität vorgeschlagen, abgestützt auf
eine Gesundheitsdatenbank[35]
– das elektronische Patientendossier lässt grüßen. So können Prognosen
zu Lebenserwartungen in algorithmen-basierte Entscheidungen über Leben
und Tod übersetzt werden.[36] Insbesondere lässt sich das System für Triage-Entscheidungen verwenden.
Bereits 2020 war in „MIT Technology Review“ von einem Triage-Tool zu lesen, das wohl noch lange im Einsatz sein würde.[37] Auch die Organisation von Triage-Entscheidungen ist algorithmisch codifiziert.[38]
In Übereinstimmung mit der Verfassung ist das alles wohl nicht. Doch
den Rechtsstaat kümmert der „Todschlag durch Unterlassen“ bisher wenig.
Hat man überhaupt schon begriffen, was da gerade passiert?[39]
Trolley-Problem: Das kleinere Übel?
In jüngster Zeit stützte sich die Triage-Debatte oftmals auf das „Trolley-Problem“ ab.[40] Hier geht es um die Frage, wer sterben muss, wenn nicht alle leben können.[41] Die Debatte wurde im Zusammenhang mit autonomen Fahrzeugen zum Megathema gehyped.[42] Vordergründig ging es darum, Menschenleben zu retten.[43] De facto jedoch wurde das verfassungsgemäße Prinzip, demzufolge jedes Menschenleben gleichwertig zu behandeln sei,[44]
durch das Prinzip des „geringeren Übels“ ersetzt, das weder mit dem
Gleichheitsprinzip noch mit dem Recht auf Leben vereinbar ist.[45]
Ehe
man sich versah, hatten soziale Ingenieure eine unterschiedliche
Wertigkeit des Lebens eingeführt, die man mit dem „Moral Machine
Experiment“[46] flugs zu ermitteln versuchte. „Oma oder Obdachlosen überfahren?“ titelten Zeitungsartikel entsetzt über das makabre Experiment.[47]
Damit zog das gnadenlose utilitaristische Nutzen-Denken vollends ins
Gesundheitssystem ein, in dem einst die Menschenwürde im Vordergrund
stehen sollte. Das Ziel individueller Gesundheit wurde durch das Ziel
„gesellschaftlicher Gesundheit“ ersetzt. Und so werden heute
Triage-Entscheidungen vielerorts nicht mehr nur in Kriegen und
kriegsähnlichen Katastrophenlagen getroffen – sondern auch zur
Optimierung von Patientenfluss und Krankenhauslogistik.[48] Inzwischen ist wieder von „Eugenik“ die Rede.[49]
Andere
machten sich gar nicht erst die Mühe, mit Kostendeckeln,
Kapazitätsengpässen oder Trolleyproblemen zu argumentieren. Sie sprachen
gleich von computer-gestützter Euthanasie.[50]
Denn genau darum schien es hier zu gehen: um Wege zur Reduktion der
„Überbevölkerung“, wie sie in der Vergangenheit gefordert wurden. Doch
wer solche Wege empfiehlt oder auch nur toleriert, dem muss klar sein,
dass derzeit jährlich bis zu 80 Millionen Menschen zusätzlich sterben
müssten, um die Weltbevölkerung konstant zu halten.[51] Das entspricht der Zahl der Opfer des 2. Weltkriegs und des Holocaust zusammen – jedes Jahr! Es wäre ein wahnsinniger Plan.
Dabei
war es nur soweit gekommen, weil man die Natur vollkommen aus dem
Gleichgewicht gebracht hatte. Anfang der 70er Jahre wurde klar, dass im
21. Jahrhundert mangels Nachhaltigkeit Umweltkatastrophen und
Ressourcenknappheiten wahrscheinlich waren.[52]
Dennoch exportierte man die ressourcenverschwendende Wirtschaftsweise
der Industrienationen in die ganze Welt. Der Ressourcenverbrauch wuchs
um ein Vielfaches. Sogar der Energieverbrauch pro Kopf stieg sprunghaft.[53]
Mit dem Erdölverbrauch wuchs die Weltbevölkerung über Jahrzehnte
proportional. Es war eigentlich klar, was zu tun war. Doch nun führten
jene, die die Katastrophe auf den Weg gebracht hatten, ebendiese als
Argument an, um ein Grundrecht nach dem anderen auszuhebeln.
Das
„Prinzip des kleineren Übels“ führt schnell zu Willkür. Je schlimmer
die Situation, desto weniger Regeln und Gesetze sind zu beachten. Das
schafft Fehlanreize für die Mächtigen. So lässt sich alles aushebeln,
was uns lieb und teuer ist – unsere Menschenrechte vor allem. Wo doch
die Menschenwürde eigentlich ein ewiges und unveräußerliches Recht ist,
das wir per Geburt erhalten. Es ist das fundamentalste Recht, das
demokratische Politiker mit allen Mitteln verteidigen müssten. Geschieht
das unzureichend oder nicht, verliert der Staat als solches
Legitimität. Es ist an der Zeit, dass Wissenschaftler und Ingenieure,
Politiker, Richter und Journalisten Farbe bekennen. Ansonsten droht uns
die digitale Geburt eines autoritären oder gar totalitären Regimes, das
Elemente von Feudalismus, Kommunismus und Faschismus daten-getrieben neu
erfindet.
Die Parallelen zu früheren Zeiten sind kaum mehr zu
leugnen. Viele heutige Gesellschaftsformen enthalten Elemente wie
Planwirtschaft, Orwell’sche Massenüberwachung, unethische Experimente
mit Menschen (ohne ihr vorheriges Einverständnis), social Engineering
und Mind Control,[54]
Propaganda und Zensur, Versuche der (Gesinnungs-)Gleichschaltung,
staatliche Kontrolle oder Paternalismus, großflächiges Policing (mit
Programmen wie PreCrime), Einführung unterschiedlicher Wertigkeit von
Menschen, Infragestellung von Menschenrechten, Einführung verschiedener
Rechte für verschiedene Bürger, je nach „Relevanz“, im schlimmsten Fall
sogar Triage oder Euthanasie.
„Digitales Paradies“ oder Paradigmenwechsel?
Wir
haben uns auf das „digitale Paradies“ gefreut. Doch jetzt diskutieren
wir darüber, ob wenigstens Geimpfte aus dem Quasi-Hausarrest des
Lockdowns irgendwann entlassen werden können. Wir sprechen über
„Dichtestress“ und „systemrelevante Menschen“. Menschen, die sich dem
System unterordnen, sollen Privilegien erhalten, so der Vorschlag. Für
die anderen scheint kein Platz mehr in der Gesellschaft zu sein. Sie
werden aussortiert. Das heißt jetzt wohl „new Normal“. Die einstigen
Utopien sind in eine Dystopie umgeschlagen – einen Überwachungsalptraum,
in dem Künstliche Intelligenz daten-getrieben über Menschen zunehmend
bestimmt. Sie haben keine reale Chance mehr, mitzubestimmen oder sich zu
wehren.
Wie konnte es nur soweit kommen? Steckt womöglich ein kapitaler Denkfehler dahinter?
Zunächst
sollten wir die Idee hinterfragen, dass wir nun zu Maschinenmenschen
(„Cyborgs“) werden sollten, um am Ende Unsterblichkeit zu erreichen,
indem wir unsere Hirninhalte und Persönlichkeit in die Cloud hochladen.[55]
Gemäß ihrem „Glaubensbekenntnis“ muss ein Transhumanist unter anderem
sein eigenes Leben über alles stellen und nach Omnipotenz streben.[56]
Doch würden wir uns nun alle technisch aufrüsten, dann würden sich die
Konflikte in der Welt nur weiter verschärfen. Für die meisten Menschen
ginge das nicht gut aus. Einige glauben sogar, es könnte das Ende der
Menschheit bedeuten.[57]
Während manche – wie Ray Kurzweil – davon träumen, dank Digitalisierung zu Göttern zu werden,[58] sind andere eher skeptisch. Steve Wozniak, Mitbegründer von Apple, etwa fragt:[59]
„Werden wir wie Götter sein? Werden wir wie Haustieren sein? Oder
werden wir wie Ameisen sein, die man achtlos zertritt?“ KI-Pionier
Jürgen Schmidhuber glaubt an die Singularität und menschengemachte
künstliche Superintelligenz. Für ihn werden Menschen einst wie Katzen
sein.[60]
Hört sich das wie eine bessere Zukunft an? Wollen wir das? Oder begehen
wir da einen fatalen Fehler? Elon Musk zum Beispiel warnt: „Ich denke,
hinsichtlich Künstlicher Intelligenz sollten wir äußerst vorsichtig
sein. Wenn ich schätzen sollte, was unsere größte existenzielle
Bedrohung ist, dann ist es wahrscheinlich das.“[61]
Wenn
Sie mich fragen, braucht es dringend einen Paradigmenwechsel. Zunächst
einmal sind Menschen keine biologischen Roboter. Wir sind nicht einfach
nur rücksichtslose Optimierer, wie es uns oft suggeriert wird. Wir sind
empathisch, haben ein soziales Gehirn. Das macht uns zu einer
kooperativen Spezies – der wohl erfolgreichsten auf der Erde. Was unser
Leben menschlich und lebenswert macht, das lässt sich schwer in Zahlen
fassen: Menschenwürde, Bewusstsein, Liebe, Freiheit, Kreativität. In
einer daten-getriebenen Gesellschaft droht das unter die Räder zu
kommen. Denn alles, dessen Wert nicht in Zahlen beziffert werden kann
oder wird, wird wegoptimiert.
Eine bessere Welt, aber wie?
Damit
sind wir bei einem weiteren wichtigen Thema angekommen: der Optimierung
der Welt. Dank Informationstechnologie haben Produktion und Logistik
einen Effizienzrekord nach dem anderen gebrochen. Warum also sollten wir
nicht gleich die ganze Welt optimieren? Nun, erstens, weil trotz aller
Effizienzsteigerungen der Ressourcenverbrauch der Welt weiter explodiert
ist. Das Nachhaltigkeitsproblem wurde also keineswegs entschärft – es
vergrößerte sich sogar. Dennoch hat sich das utilitaristische Denken der
Nutzenmaximierung weitestgehend durchgesetzt.
Man müsse nur
alle externen Effekte unseres Handelns und Wirtschaftens in Dollar
beziffern, dann würde schon alles gut, heißt es. Eine CO2-Steuer würde
das Klimaproblem lösen. Auch der Mangel an Organen wäre so zu lösen –
mit marktwirtschaftlichen Methoden. Da war es nur konsequent, dass in
China Menschen – angeblich auch gegen ihren Willen – Organe entnommen
wurden.[62] Betroffen waren vor allem die geringst-bewerteten Volksgruppen.
Gemäß
dieser Logik würden nun nicht nur Organe, sondern auch alle Menschen
einen Citizen Score zugeordnet bekommen, der ihren gesellschaftlichen
Wert ausdrückte. Damit nahm eine Art apokalyptischer Endzeitkapitalismus
seinen Lauf. Zahlen bestimmten jetzt, wer noch etwas vom Leben zu
erwarten hatte und wer nicht[63] – ähnlich wie das schon zuvor im Nationalsozialismus der Fall war.[64]
Es
ist irritierend, dass Optimierung anscheinend nicht zwangsläufig zu
einer lebenswerteren Zukunft führt. Doch das hat seine Gründe. Denn
Optimierung basiert auf einer Zielfunktion, und die ist letztlich
eindimensional[65]. Dadurch drängt ein einziges Ziel alle anderen, inkompatiblen Ziele in den Hintergrund.
Optimieren
Sie nur lange genug ein einziges Ziel, so wird die Vernachlässigung der
anderen Ziele zu Problemen führen. Natürlich können Sie die
Zielfunktion dann ändern (z.B. von der Maximierung von Profit zur
Minimierung von CO2). Aber dennoch führt der Denkansatz zu einer
Politik, die ständig damit beschäftigt ist, neue Brandherde zu löschen.
Die Natur funktioniert anders. Sie hat die ressourcenschonende
Kreislaufwirtschaft bereits erfunden, die wir in unserem ökonomischen
System verzweifelt zu schaffen versuchen. Sie erreichte das nicht durch
Optimierung, sondern durch Ko-Evolution. An vielen Orten zugleich
passieren mannigfaltige Verbesserungen (durch Mutation und Selektion –
gewissermaßen durch Innovation). Und zahlreiche Feedback-Loops führen zu
einem oft symbiotischen Zusammenwirken.
Nicht dass die Natur
perfekt wäre, doch wir können noch viel von ihr lernen. Das
Erfolgsrezept liegt in zahlreichen Synergie-Effekten.[66]
Diese sind eine Frage der Netzwerkstrukturen und Interaktionen – also
dessen, was sich zwischen Subjekten und Objekten abspielt. Häufig sind
es also unsichtbare, immaterielle Beziehungen, die über das Ergebnis
entscheiden. Passen die Interaktionen, dann resultieren Koordination und
Kooperation, kollektive Intelligenz und Ordnung, häufig sogar durch
Selbstorganisation.[67] Andernfalls resultieren Instabilität und Kaskadeneffekte, Chaos und Desaster.[68]
Die Digitalisierung gibt uns nun die Mittel an die Hand, das Ergebnis zu entscheiden.[69]
Mit dem Internet der Dinge lassen sich multi-dimensionale, lokale
Feedbacks etablieren, die für positive Interaktionen und Netzwerkeffekte
sorgen. Stellen wir es geschickt an, dann braucht es dafür keine
globale Massenüberwachung, Profiling, Targeting und Kontrolle.
Digitalisierung, Demokratie, Menschenrechte, Nachhaltigkeit und
Resilienz sind keine Widersprüche! Doch es braucht einen neuen
Denkansatz, um sie gegenseitig zu versöhnen und zu verbessern.[70] Mit dem Konzept eines sozio-ökologischen Finanzsystems 4.0 haben wir den ersten Schritt getan.[71] Jetzt liegt es an uns allen, damit Frieden und Prosperität – und eine bessere Zukunft zu schaffen.[72] Technologischer Totalitarismus oder digitale Demokratie.[73] Sie haben die Wahl. Entscheiden Sie sich bitte! Jetzt.
[1] https://www.project-syndicate.org/commentary/digital-id-covid19-human-rights-surveillance-technology-by-dirk-helbing-and-peter-seele-2020-09
[2] https://www.dw.com/de/corona-pandemie-ethikrat-gegen-immunitätsausweis/a-55017210
[3] https://en.wikipedia.org/wiki/Great_Reset
[4] https://www.weforum.org/agenda/2020/06/internet-of-bodies-covid19-recovery-governance-health-data/
[5] https://www.rand.org/blog/articles/2020/10/the-internet-of-bodies-will-change-everything-for-better-or-worse.html
[6] https://www.wiwo.de/politik/europa/amazon-google-und-co-eu-nimmt-den-kampf-gegen-internetgiganten-auf/26609398.html
[7] https://www.faz.net/aktuell/feuilleton/medien/cambridge-analytica-manipulierte-waehler-weltweit-16568193.html
[8] https://www.derstandard.at/story/2000078786980/arbeitsforscherin-die-digitalisierung-kreiert-ein-neues-prekariat
[9] https://www.businessinsider.com/peter-thiel-is-trying-to-save-the-world-2016-12
[10] https://www.amazon.com/Move-Fast-Break-Things-Undermined/dp/0316275778
[11] https://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-warn-about-artificial-intelligence/
[12] https://www.aufbau-verlag.de/index.php/uberwachung-total.html
[13] https://www.faz.net/aktuell/politik/lammert-warnt-vor-einem-ausbluten-der-demokratie-15184290.html
[14] https://www.nzz.ch/international/hans-juergen-papier-warnt-vor-aushoehlung-der-grundrechte-ld.1582544
[15] https://www.silicon.de/41575201/obama-wahlsieg-dank-big-data-und-analytics
[16] https://www.extremetech.com/extreme/245014-meet-sneaky-facebook-powered-propaganda-ai-might-just-know-better-know
[17] https://en.wikipedia.org/wiki/The_Great_Hack
[18] https://www.penguinrandomhouse.com/books/604375/mindfck-by-christopher-wylie/
[19] https://www.harpercollins.de/products/die-datendiktatur-wie-wahlen-manipuliert-werden-9783959673907
[20] https://en.wikipedia.org/wiki/Neuromarketing
[21] https://www.spektrum.de/kolumne/big-nudging-zur-problemloesung-wenig-geeignet/1375930
[22] https://www.droemer-knaur.de/buch/yvonne-hofstetter-der-unsichtbare-krieg-9783426277867
[23] https://nzzas.nzz.ch/kultur/social-media-sind-die-neue-globale-zensurbehoerde-ld.1528410
[24] https://www.pcwelt.de/ratgeber/Superscoring-Wie-wertvoll-sind-Sie-fuer-die-Gesellschaft-10633488.html
[25] https://www.economist.com/briefing/2016/12/17/china-invents-the-digital-totalitarian-state
[26] https://www.leopoldina.org/politikberatung/wissenschaftliche-kommissionen/digitalisierte-gesellschaft/bessere-menschen-durch-digitale-technologien/
[27] https://de.wikipedia.org/wiki/Nürnberger_Kodex
[28] https://www.basicbooks.com/titles/lawrence-lessig/code/9780786721962/
[29] https://www.republik.ch/2020/12/11/die-polizei-weiss-was-sie-morgen-vielleicht-tun-werden
[30] https://theintercept.com/2015/09/25/gchq-radio-porn-spies-track-web-users-online-identities/
[31] https://www.project-syndicate.org/commentary/artificial-intelligence-resilience-covid19-climate-change-by-dirk-helbing-and-peter-seele-2020-11
[32] http://www.passagen.at/cms/index.php?id=62&isbn=9783709204177
[33] https://www.bloomberg.com/news/articles/2019-11-05/scientists-call-for-population-control-in-mass-climate-alarm
[34] http://people.tuebingen.mpg.de/bs/faz-monopol-auf-daten.pdf
[35] https://www.nature.com/articles/s41467-020-20816-7
[36] https://daserste.ndr.de/panorama/archiv/2017/Der-Todesalgorithmus-Computer-berechnet-Lebenserwartung,todesalgorithmus112.html
[37] https://www.technologyreview.com/2020/04/23/1000410/ai-triage-covid-19-patients-health-care/
[38] https://orbit.dtu.dk/en/publications/modelling-the-social-practices-of-an-emergency-room-to-ensure-sta
[39] http://futurict.blogspot.com/2021/01/es-geht-um-ihr-leben-warum-wir-eine.html, http://futurict.blogspot.com/2021/02/es-geht-um-ihr-leben-warum-wir-eine.html
[40] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6642460/
[41] https://de.wikipedia.org/wiki/Trolley-Problem
[42] https://www.zeit.de/kultur/2017-09/kuenstliche-intelligenz-algorithmus-spam-autonomes-fahren
[43] https://www.researchgate.net/publication/319205931_An_Extension_of_Asimov%27s_Robotics_Laws
[44] https://www.bmvi.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf
[45] https://www.nzz.ch/meinung/ethisch-sterben-die-gefahr-der-moralischen-entgleisung-ld.1542682
[46] https://www.nature.com/articles/s41586-018-0637-6
[47] https://www.finanzen100.de/finanznachrichten/wirtschaft/ethische-probleme-im-auto-oma-oder-obdachlosen-ueberfahren-makabrer-mit-test-zeigt-dilemma-selbstfahrender-autos_H439792768_308609/
[48]https://www.researchgate.net/publication/51862217_Swedish_emergency_department_triage_and_interventions_for_improved_patient_flows_A_national_update
[49] https://www.tagesanzeiger.ch/ist-es-eugenik-482375266020
[50] https://www.bol.com/nl/f/computermodel-voor-ondersteunen-van-euthanasiebeslissingen/37129233/
[51] Schätzung auf der Basis der Geburts- und Todeszahlen bei https://www.worldometers.info
[52] https://en.wikipedia.org/wiki/The_Limits_to_Growth
[53] https://www.e-education.psu.edu/earth104/node/1347
[54] https://www.youtube.com/watch?v=C74amJRp730
[55] https://www.derstandard.de/story/2000076111193/start-up-will-gehirn-in-die-cloud-laden-nebenwirkung-tod
[56] https://en.wikipedia.org/wiki/The_Transhumanist_Wager
[57] https://www.watson.ch/digital/wissen/533419807-kuenstliche-intelligenz-immenses-potential-und-noch-groesseres-risiko
[58] https://www.huffpost.com/entry/ray-kurzweil-nanobots-brain-godlike_n_560555a0e4b0af3706dbe1e2
[59] https://www.computerworld.com/article/2901679/steve-wozniak-on-ai-will-we-be-pets-or-mere-ants-to-be-squashed-our-robot-overlords.html
[60] https://www.faz.net/aktuell/feuilleton/debatten/kuenstliche-intelligenz-maschinen-ueberwinden-die-menschheit-15309705.html
[61] https://www.theguardian.com/technology/2014/oct/27/elon-musk-artificial-intelligence-ai-biggest-existential-threat
[62] https://www.businessinsider.de/politik/china-entnimmt-uigurischer-minderheit-gegen-willen-organe-09-2019/
[63] https://www.amazon.com/iGod-Willemijn-Dicke/dp/1544271573/
[64] https://youtu.be/fdloeMNZs7k
[65] (auch wenn man mit einem Index arbeitet, der mehrere Funktionen gewichtet)
[66] https://www.springer.com/de/book/9783662101872
[67] https://www.springer.com/gp/book/9783642240034
[68] https://www.nature.com/articles/nature12047
[69] https://patents.google.com/patent/US20160350685A1/en
[70] https://www.springer.com/gp/book/9783030623296
[71] https://www.springer.com/gp/book/9783030713997, in parts available here: http://ebook.finfour.net
[72] https://link.springer.com/article/10.14441/eier.D2013002
[73] https://www.researchgate.net/publication/348917283_Digital_Democracy_How_to_make_it_work
