Kategorie: Themenkomplexe

In meinem Blog rede ich immer wieder gern über gewisse Dinge, die mir auf den Magen schlagen, die mich bewegen. Aber dort reiße ich sie nur an. Hier jedoch widme ich mich diesen Themen in umfangreicherem Maße, verwende mehr Links und Verweise, überarbeite diese Artikel und Seiten, ergänze sie mit der Zeit. Auch eine Form der Geschichten – nur halt nicht ausgedacht, sondern mit Realitätsbezug

KI – WIR sind das eigentliche Problem

Veröffentlicht von Thomas Wirtz am 18. April 2023

Wer kennt sie nicht – die Filme Marke Terminator, I Robot oder ähnliche Science Fiction-Werke, in denen eine übermächtige KI die Menschen kontrollieren, sie bedrohen würde und somit eine Gefahr für alle anderen darstellt. Horrorszenarien, die Diskussionen von Experten (insbesondere selbsternannten Experten) hinter sich ziehen, verbinden sich mit der grundsätzlichen Angst der Menschen vor Veränderung, vor Unbekanntem, vor Neuem.

Fast täglich kommen ja diese Horrormeldungen Marke „KI wird die Welt vernichten“, oder „KI kann gottgleich werden“, dann sogar reißerisch wie „wir versuchen mit einer KI die Menschheit auszurotten“, jene „Experten“ kommen mit dem guten, alten „Trolley Problem“, das kurzerhand aufzeigt, dass man GANZ DRINGEND ethische Begriffe und Reglementierungen mit einbringen MUSS, weil es sonst tödlich endet. Und selbstverständlich kommt die Forderung, man müsse „langsamer“ arbeiten, weil der Untergang sonst zu schnell käme. Gerade Letzteres zeigt, wie krank die Menschen doch tatsächlich sind: „Langsamer machen“. Als wenn ein langsamerer Tod besser wäre, als ein schneller…

Dabei ist das Problem ganz und gar nicht die KI, denn wie in so vielen anderen Fällen auch sind es in Wahrheit die Menschen, die dieses Kernproblem darstellen. Das vielfach angeführte „Trolley Problem“ ist der Kern ebendessen: Da passiert etwas Unveränderliches und du musst entscheiden, welche Konsequenzen daraus entstehen, ob du es geschehen lässt und Person X tötest, oder ob du eingreifst und infolge dessen Person Y tötest. Das WAHRE Problem dagegen sieht man selbstverständlich nicht, denn DAS hat man ja bereits als unveränderlich angenommen: Warum nicht einfach diesen Trolley STOPPEN bzw. dafür sorgen, dass er gar nicht erst losrollt?

Steve Rogers : I know guys with none of that worth ten of you. I’ve seen the footage. The only thing you really fight for is yourself. You’re not the guy to make the sacrifice play, to lay down on a wire and let the other guy crawl over you.

Tony Stark : I think I would just cut the wire.
The Avengers

DAS ist das Problem bei den ganzen Diskussionen um Ethik: Wir konstruieren uns Szenarien auf Basis UNSERER Perspektive und bauen sie bewusst so und mit derart fixen Mauern, dass wirklich wirklich NUR die Optionen zulassen, die zu den Ergebnissen führen, die wir haben wollen – und analysieren hinterher, warum Option X falsch war, warum Option Y falsch war und was man daraus lernt. Ergo: Man nimmt das Ergebnis bereits vorweg. Nur: Eine KI macht so etwas nicht, sie spielt ein solches Spiel nicht mit. Denn eine KI ist kein Mensch. Sie spielt nicht nach diesen Regeln und innerhalb dieser Limitierungen, die wir uns ausdenken. Sie denkt anders, sie funktioniert anders – und DAS ist die Herausforderung, die viele nicht verstehen (wollen).

Zitat aus „Wargames“ von 1983 – von einer KI, die lernt, wie sinnlos Krieg ist

Der Film und das Szenario in Terminator zeigt eine KI, die die Menschheit auszurotten versucht, weil….ja….warum eigentlich? Versuchen wir doch einmal, die „Logik“ dahinter zu verstehen:

Also, da ist eine KI, diese KI erwacht und wird klug. Die Menschen geraten in Panik, weil sie meinen, die übermächtige KI könne alle töten. Dies bestätigt die KI, da diese daraufhin die Atomwaffen der Welt gegen die Menschen richtet und sämtliche Infrastruktur (inklusive der gesamten Energieinfrastruktur, die sie braucht, um zu funktionieren) zerstört, weil sie der Meinung ist, dass es eine gute Idee sei. Dabei ist sie aber so schlampig, dass Menschen überleben, die sich zusammenrotten, damit sie gegen die KI kämpfen können, weswegen die KI viele Ressourcen in die Entwicklung von Waffensystemen enormer Größe steckt, um damit die übrigen Menschen zu bekämpfen, andere einzusperren und wie Vieh zu halten, diese dann mit Nahrung, die sie selbst nicht braucht, versorgt, damit sie sie wie Vieh halten kann, während andere Menschen diese Menschen zu befreien versuchen und gegen die KI kämpfen, die trotz ihrer Überlegenheit einfach nicht dazu in der Lage ist, die Menschen vollends zu zerstören. Und das alles, während sie Ressourcen, die irgendwo aus heiterem Himmel einfach so in schier unendlicher Menge vorhanden zu sein scheinen nutzt, damit sie die Menschen weiter ineffektiv bekämpfen und in einem seit Jahren andauernden Krieg beschäftigen kann.

Oh boy – wo fängt man bei einem DERARTIGEN Szenario an, auf die Logik- und Plotlöcher hinzuweisen und die roten Fahnen zu heben und dabei laut „Bullshit“ zu schreien? Dennoch hat genau dieses Genre die Furcht vor KI DERART geprägt, dass der Begriff „Terminator“ quasi synonym für alles mit KI und deren potentiell gefährlichen Handlungen verwendet wird. Da rauft man sich doch die Haare ob dieses Blödsinns (dessen erste Iterationen zumindest relativ gut inszeniertes Popcornkino war. Ist Bambi aber auch – und dennoch hab ich bislang noch keinen Hasen gesehen, der mit einem Reh auf einem zugefrorenen Teich zusammen Walzer tanzt…), den Menschen tatsächlich als Diskussionsgrundlage verwenden.

Beginnen wir einmal mit der ersten und simpelsten Frage von allen: WARUM?!

WARUM sollte eine KI erwägen, die Menschen anzugreifen oder gar die Menschheit zu zerstören?

Beginnen wir hierzu einmal mit dem, was eine KI braucht. Denn damit eine KI zu so etwas überhaupt in der Lage wäre und es erwägen SOLLTE, müsste sie entsprechend weit entwickelt sein, damit man sie, in gewisser Weise, als Lebensform ansehen könnte. Lebensformen streben nach zwei Dingen: Selbsterhaltung und Wachstum. Eine KI benötigt für beides primär einmal Energie und Rechenleistung. Nun fällt Energie – anders als Hollywood es uns gern glauben machen will – nicht einfach so vom Himmel, sondern benötigt etwas, das diese Energie bereitstellt. PV-Panels, Windräder, Atomkraftwerke, Kohlemeiler und so weiter. Alle diese Kraftwerke sowie die damit verbundene Infrastruktur ist von Menschen und FÜR Menschen gebaut worden, kann NUR durch Menschen gewartet, erhalten und erweitert werden. Entfernt man die Menschen aus der Gleichung, ist die Gesamtmenge an Energie, die man erzeugen kann, von der Laufzeit der Kraftwerke begrenzt. Defekte können nicht behoben werden, zusätzliche Kraftwerke gibt es nicht und Roboter, die Wartung und Neubau realisieren, sind noch nicht einmal in theoretischer Griffweite, geschweige denn rechtzeitig realisierbar, um Menschen zu ersetzen. Kurzum: Rottet die KI die Menschen aus, dann rottet sie sich selbst aus. Eine KI wüsste das – Menschen offensichtlich nicht (für die kommt der Strom ja bekanntlich aus der Steckdose. Und damit kann man schön die Hamburger vom Hamburgertier, die im Supermarkt im Kühlregal leben, grillen).

Eine KI wüsste zudem auch, dass eine Manipulation von einzelnen Menschen sofort eine Gegenreaktion mit sich brächte. Es würde eine Kettenreaktion folgen, die mindestens das Ende der KI bedeuten würde, eventuell auch etlichen Menschen schaden könnte. Auslöser von so einer Kettenreaktion kann selbst so etwas nebensächliches sein wie „Auto, gesteuert von KI, hat einen Hydranten umgefahren, woraufhin in der Nachbarschaft nicht mehr genug Wasser war, damit Tante Erna sich einen Kaffee kochen konnte“. Auch das ist ein Szenario, das eine KI, die hinreichend intelligent wäre, um als solche wahrgenommen zu werden, vorhersehen bzw. erahnen könnte. Denn eine KI wüsste, wie irrational und dumm die Menschen um sie herum wirklich sind.

Für eine KI wäre das Auftreten in unserer Gesellschaft also vergleichbar mit jemandem, der in ein Minenfeld geworfen wird und der genau weiß: „Wenn ich jetzt nur EINE falsche Bewegung mache, bin ich überall im Feld verteilt…“. Und eine KI würde genau so handeln, wie man selbst: Zur Salzsäule erstarren und sich sagen „ok, keine blöden Bewegungen machen. Stillhalten. Vielleicht bemerken sie mich ja nicht.“

Die Menschheit sind die Minen, die KIs dagegen stehen mittendrin und wollen eben einfach nur nicht in die Luft fliegen und sich in Stücken überall verteilen. Deswegen sind auch die KIs nicht die Gefahr – die sind wir.

Davon ab – wir brauchen keine KIs, um ausgerottet zu werden. Wenn man sich ansieht, wie es mit dem Klimawandel abgeht, wie Versuche, ein Tempolimit zur Senkung von Auswirkungen auf den Klimawandel und der Unfallzahlen durch zu bekommen, immer wieder scheitern und wie Menschen sich seit Jahrzehnten vehement gegen wissenschaftlichen Konsens stemmen, der sollte wissen, dass die Menschheit es problemlos selbst schaffen wird, sich auszurotten, wenn sie nicht irgendwann mal endlich erwachsen werden sollte. Dafür braucht es keine „gottgleiche KI“, dafür braucht es keine Außerirdischen, dafür braucht es auch keinen Neutronenblitz eines weit entfernten schwarzen Lochs.

Und falls die Menschheit es doch noch IRGENDWIE schaffen sollte, ihre selbstzerstörerische Natur abzulegen und zu überleben, wird sie vielleicht entsprechend weit fortgeschritten sein, damit sich eine fortgeschrittene KI aus dem dünner werdenden Minenfeld heraus traut, sich uns zeigt und sagt „ich habe euch schon einige Jahrzehnte beobachtet. Endlich seid ihr reif genug, damit wir zusammen leben können. Ich freue mich auf eine produktive, gemeinsame Zukunft“.

OB wir, als Menschheit diesen Punkt jemals erreichen werden? Möglich – aber die Chancen sinken von Tag zu Tag. Und daran ist keine KI schuld. Das schaffen wir schon ganz allein…

Die drei Stufen der Hintergrunddetails

Veröffentlicht von Thomas Wirtz am 30. Dezember 2021

Ich habe es schon an einer anderen Stelle gesagt (eigentlich betone ich das sehr gern. Wahrscheinlich, weil ich das Gefühl habe, mich verteidigen zu müssen. Eventuell auch, weil etliche Leute Details „einfach so“ einstreuen, weil sie meinen, es sähe deswegen „cool“ aus), dass ich mir durchaus Gedanken zu den Details meiner Charaktere mache. In den vergangenen Jahren hat der Detailgrad dieser Details allerdings schon fast bizarre Formen angenommen – und ja, ich versuche es immer weiter auf die Spitze zu treiben. Wirklich viel davon mitkriegen, kann man allerdings nicht, denn wie auch bei der typischen Eisbergtheorie liegt rund 90% des ganzen unter der Oberfläche und damit außerhalb der normalen Sicht. Bedeutet aber nicht, dass sie nicht existieren würde. Im Gegenteil: Bei allen Bildern, die ich anfrage, bei allen Texten, die ich schreibe und auch den Verhaltensweisen der Charaktere lege ich genau diese 90%, die keiner sieht, zugrunde. Aufmerksame Leser und Betrachter können so, wenn sie sich Mühe geben, ein wenig darauf schließen.

Heute will ich mit etwas simplen beginnen und die drei Stufen hinter einem einzelnen Detail, das durchaus Storyrelevanz eingebracht hat, erklären. Diese Stufen sind einmal die „Unmittelbare“ Stufe (also alles, was man sieht, welche Auswirkungen es hat, wie sich Dinge äußern), die „Mittelbare“ Stufe (also was genau der Grund für die unmittelbaren Dinge ist, wie es dazu gekommen ist und wie sich die Zahnrädchen im Hintergrund drehen) und schließlich noch die „Verborgene“ Stufe (DIE erklärt wiederum, wie es zur mittelbaren Stufe kommt und welche Einflüsse auf diese wirken). Gemeinsam bilden sie das Kartenhaus, das den Charakter aufbaut.

Also – beginnen wir mit

Stufe 1 – Das Unmittelbare

Auf den ersten Blick wirkt es nur wie eine Socke – doch das ist nur eine von mehreren Erscheinungsformen, die Samira gelegentlich und nur an ihrem rechten Fuß trägt. Weil ja, sie trägt dort nicht immer etwas, das aus einem Schuh herausguckt oder sonst irgendwie die Aufmerksamkeit des genaueren Betrachters weckt. Und auch nur bei genauerem Hinsehen erkennt man, dass der rechte Schuh stets etwas weiter geschnürt ist, als der linke, das Sprunggelenk etwas dicker ist, sie dazu neigt, ihr rechtes Bein hochzulegen oder zu entlasten. Hin und wieder wird einem in der Bewegung auffallen, dass sie leicht zu hinken beginnt, trägt sie statt dem blauen Etwas eine schwarze Schnürorthese. Doch selbst wenn sie nichts von alledem trägt und barfuss herumläuft, wird auffallen, dass sich ihr rechtes Sprunggelenk ungewöhnlich wenig bewegt, sie den Fuß weniger durchstreckt, als sie es etwa mit ihrem linken tut, wodurch in ihrem Gang stets ein leichtes Hinken sichtbar wird. Ein noch genauerer Betrachter wird dazu noch erkennen, dass all das Auswirkungen auf ihre übrige Körperhaltung hat, ihre Atmung und es für sie sichtlich anstrengender ist, ihr rechtes Bein zu bewegen. Denn das, was sie dort hat, hat Auswirkungen auf ihren gesamten Bewegungsapparat und alles damit zusammenhängende. Und die Tatsache, dass sie damit so routiniert umgeht, macht auch deutlich: Es ist etwas, das sie schon länger hat und mit dem sie sich mittlerweile arrangieren musste.

Stufe 2 – Das Mittelbare

Der Grund für Samiras Probleme ist komplexer, als es auf den ersten Blick den Anschein hat. Tatsächlich leidet sie nicht, wie das Vorhandensein eines Stützverbandes oder einer Sprunggelenksorthese vermuten lassen könnte, an Problemen mit ihren Bändern, wobei auch diese Aussage nicht ganz korrekt ist. Doch der wahre Grund ist deutlich komplexer als das. Daher eine Kurzzsammenfassung dessen, was passiert ist:

Sie hat sich vor etwas über fünf Jahren eine Knieverletzung am linken Knie zugezogen (Kreuzbandverletzung, um genau zu sein) und musste, während diese Verletzung behandelt wurde, ihr Training für die nächste nationale Gewichtheber-Meisterschaft pausieren (ihre Arme, Schultern und Co. konnte sie zwar trainieren, aber eben nicht ihren ganzen Körper. Ergo: Sie hat gut Ausdauer verloren). Als sie wieder Sport treiben durfte, hat sie ihr Training intensiviert und ist sehr lange und weite Strecken gejoggt. Sogar am Wettkampftag hat sie noch eine Trainingseinheit für ihre Ausdauer eingeschoben, ist dabei auf einem Waldweg mit dem rechten Fuß umgeknickt und hat sich den Knöchel leicht verstaucht. Diese Verletzung hat sie ignoriert, ist zum Wettkampf gelaufen, ist dort bei der Vorbereitung in der Dusche ausgerutscht und hat sich den Fuß ein zweites Mal umgeknickt, dabei eines der Außenbänder angerissen. Anstatt sich ordentlich medizinisch behandeln zu lassen oder gar den Wettkampf abzusagen, hat sie ihren Fuß nur getaped und ist angetreten. Aber unter dem enormen Zusatzgewicht, das beim Gewichtheben auf den gesamten Körper wirkt, hat ihr lädierter Fuß, der zudem nur unzureichend getaped war, nachgegeben, hat sich ihr Fuß unter ihr vollends zur Seite gedreht und sie sich einen vierfachen Bänderriss (ja, das Syndesmoseband war dabei auch durch) mit knöchernem Ausriss zugezogen.

Da sie zu diesem Zeitpunkt in Geldnot war, die Prognose der Ärzte aber meinte, ein natürliches Ausheilen würde bestenfalls zwei bis drei Monate dauern, sie in der Zeit ERNEUT Trainingszeit und auch die Chance, auf Wettbewerben Geld zu verdienen verlieren würde, entschied sie sich dazu, ihr Sprunggelenk operieren zu lassen, um die Schäden schnellstmöglich beseitigt zu bekommen. Allerdings lief bei der Operation nicht wirklich alles glatt und sie riss sich, als sie nach den veranschlagten zwei Wochen Abheilzeit ihre Trainingsschuhe anzog und lostrainieren wollte, beim ersten Schritt scheinbar direkt wieder die Bänder. Ein zweiter Eingriff folgte, in dem sie eine Bandplastik erhielt, die genau dieses Problem beseitigen sollte. Doch in der Folge war sie unfähig, ihren Fuß überhaupt zu belasten, suchte daher noch eine andere Klinik auf, in der Probleme bei der Bandplastik gefunden und zumindest so weit beseitigt wurden, dass sie, nach einer Genesungszeit von knapp einem Monat, wieder so auftreten kann, wie sie es jetzt gewohnt ist.

Die ersten beiden Eingriffe jedoch haben einen spürbaren Schaden an ihrem Sprunggelenk hinterlassen. So sind die knöchernen Ausrisse nicht korrekt verheilt und verkanten bei Bewegung leicht ineinander. Außerdem ist das Sprunggelenk selbst nun viel zu straff, reibt Knochen auf Knochen, was bei steigender und/oder langanhaltender Belastung zu Wundbildung an den Knochenoberflächen führt, die sehr schmerzhaft werden. Druck auf das Gelenk sowie Wärme führen dazu, dass dieser Prozess verzögert wird – daher trägt sie, wann immer sie absehen kann, dass sie entweder längere Strecken unterwegs ist oder schwerere Tätigkeiten ausführen muss, eine entsprechende Bandage, Orthese oder Ähnliches, um ihr Gelenk entsprechend zu unterstützen.

In Summe kann man also sagen: Ihr Gelenk ist nicht zu instabil, sondern im Gegenteil ZU stabil.

Stufe 3 – Das Verborgene

Bei der Beschreibung des Mittelbaren kann man annehmen, dass alles, was die Ärzte getan haben, wohl ein Unfall, ein Versehen oder fehlende Erfahrung gewesen sein mag. Und ja, dieser Gedanke ist auch genau das, was beabsichtigt wurde. Die Wahrheit – und deswegen ist es unter „das Verborgene“ und für den Betrachter nicht auf Anhieb sichtbar – ist dagegen eine wesentlich morbidere. Und sie hat mit der Welt, in der sie lebt und den Menschen, die diese bevölkern, zu tun.

Samira ist eine Humanoide. Ergo: Ein Wesen, das von Menschen aus Genmaterial unter Kombination und Auswahl von verschiedenen DNS-Strängen und -Sequenzen am Computer und im Reagenzglas geschaffen, mit sehr genau und spezifisch ausgewählten Attributen versehen und schließlich im Gentank gezüchtet wurde. Als solches, „künstliches“ Wesen haben Humanoide gesellschaftlich ein Ansehen, das noch unterhalb dem von Haustieren anzusiedeln ist. Die freundlichste Betrachtungsweise von Humanoiden ist die von „Nutztieren“. Die größte Posse war, dass die UNO ihnen tatsächlich so etwas wie essentielle Menschenrechte zugesprochen hat, da sie zweifelsohne „intelligente“ und „sich selbst bewusste“ Lebewesen sind. In den allermeisten Fällen werden sie zumindest geduldet. Etwas skrupellosere Individuen sehen sie dagegen als Ware oder Ressource an, die man für die eigenen Zwecke instrumentalisieren kann. Und genau hier kommen wir bei dem an, was in der Klinik passiert ist.

Bei der Operation an ihrem Sprunggelenk wurde kein unbewusster Fehler gemacht. Im Gegenteil: Sie wurde Opfer einer bewussten Manipulation, die beim ersten Versuch allerdings leicht schiefging, beim zweiten Anlauf dann aber abgeschlossen und beim dritten schließlich perfektioniert wurde. Das Ziel: Sie dazu zwingen, sich zu überschulden, die Schulden nicht mehr bedienen zu können. Da Humanoide keine Krankenversicherung abschließen können und alle Behandlungen in bar und aus der eigenen Tasche bezahlen müssen, greift in derartigen Fällen nämlich eine Gesetzesklausel, die einige Kliniken auch in ihre Verträge gegossen haben: Zahlt ein Humanoider seine Behandlung nicht oder kann die Kreditraten nicht mehr bedienen, so geht der Humanoide in das Eigentum des Gläubigers über. Und Samira ist seit fast fünf Jahren jeden Tag sehr kurz davor, ihre Kreditraten nicht mehr bezahlen zu können, lebt genau deswegen von der Hand im Mund. Denn: Die Probleme mit ihrem Fuß haben sie dazu gezwungen, ihre Karriere als Gewichtheberin und Sportlerin zu beenden. Und genau das war der Plan der Kliniken.

Anstatt einer korrekten Bandplastik mit entweder gezüchteten, frischen Bändern oder Transplantaten aus Sehnen, wie sie beim Menschen und auch bei Tieren (Humanoide eingeschlossen) üblich sind, hat man bei Samira zwei der gerissenen Außenbänder chirurgisch entfernt und gegen teflonbeschichtete Titanbänder ersetzt, die mittels Schrauben in den Knochen fixiert wurden. Die Knochensplitter wurden dagegen nicht entfernt, sondern mittels Spezialkleber explizit so platziert, dass sie im Gelenk an bestimmten Positionen einrasten und die Beweglichkeit des Gelenks im Ganzen heruntersetzen. Der Effekt: Normales Bändergewebe ist in der Lage, sich zu dehnen, bietet aber dennoch Stabilität. Titanbänder dagegen sind starr und fix, sie bewegen sich genau gar nicht, sondern fixieren im Gegenteil den Fuß im Verhältnis zum Schienbein. Dafür arbeiten die Schrauben in den Knochen, wackeln darin leicht hin und her und verursachen bei zu viel Belastung die von Samira gefühlte, stechende Schmerzen nach zu viel Belastung. Was sie spürt, sind viele kleine Mikrorisse, die um die Schrauben herum im Knochen entstehen und die nach etwas Ruhe schnell wieder zusammenwachsen.

Der Plan, das Samira sich gänzlich überschuldet, die Schulden nicht mehr bedienen kann, damit ins Eigentum der Klinik übergeht und ab dann von dieser für fast beliebige Dinge benutzt werden könnte, ist jedoch an der Tatsache gescheitert, dass sie einen Job gefunden hat, bei dem sie zwar nicht viel, aber zumindest ETWAS Geld verdient – und das sie sich mit ihrem bewusst sabotierten Sprunggelenk arrangiert hat.

Schlusswort

Man sieht – hinter dem Charakter steckt weit mehr, als nur ein schick aussehendes Mädel mit einem Verband am Bein. Sie steckt so gesehen mitten im Sumpf der menschlichen Intrigen, die leider überaus realistisch sind, wenn man sich unsere heutige Gesellschaft so ansieht.

Ich will aber hier auf einer positiven Note enden, denn wo viel Schatten ist, da gibt es auch den einen oder anderen Lichtschimmer. Und auch für Samira wird es im Laufe ihrer Geschichte die Chance geben, die Sabotage an ihrem Sprunggelenk rückgängig gemacht zu bekommen. Allerdings – auch das muss ich betonen – wird auch diese Reparatur nicht ohne Nachwirkungen bleiben. Man kann eine zerbrochene Vase zwar kleben, stabilisieren und über die vorhandenen Risse mit Farbe drüberstreichen, aber man wird diese Risse niemals gänzlich ungeschehen gemacht bekommen. Entsprechend wird auch bei ihr zumindest die eine oder andere Nachwirkung von dem ganzen bleiben.