Monat: Juni 2023

Unintelligentes Klingeln

Mit der Großmut der Ohnmächtigen nehmen IT-Nutzer regelmäßig übergriffiges Verhalten der großen Technologiekonzerne hin. So muss man eigentlich jede Programm-Aktion nennen, die in die Entscheidungsfreiheit des „Users“ bei der Arbeit mit seinem eigenen Gerät eingreift.

Das sind teils harmlose Dinge, wenn z.B. der Programmierer zu wissen glaubt, was ich an einer bestimmten Stelle als nächstes möchte und diesen Schritt „zu meiner Unterstützung“ gleich ausführen lässt.

Ärgerlicher sind in die Startroutine des Rechners eingeschleuste Programme, die ich nicht will, die ich nicht verlangt habe, die mich stören, die aber oft nur mit sehr großem Aufwand zu entfernen sind. Was würde eigentlich ein Konzernchef sagen, wenn man ihm jeden Morgen seinen Schreibtisch mit Bergen von Werbemüll zuschütten würde, den er dann mühsam selbst entsorgen müsste, bevor er losarbeiten kann?

Geduldig hingenommen wird, dass einem Betriebssysteme Datenstrukturen auf der eigenen Festplatte aufzwingen, auch wenn man die für unlogisch und unbrauchbar hält. Der berühmte Ordner „Dokumente“… Versucht man eigenmächtig, ein bisschen Logik in diese Strukturen zu bringen, werden die beim nächsten Update im besten Fall rückgängig gemacht oder das Betriebssystem reagiert bockig mit allerlei Fehlermeldungen – oder gar nicht mehr. Ein Buchhändler kommt doch auch nicht auf die Idee, meine Regale beschriften zu wollen…

Zu groß und beherrschend ist offensichtlich die Macht der Großkonzerne, als dass man sich dagegen mit Erfolg auflehnen könnte. Und nicht jeder hat Zeit, Lust und die Fähigkeit, sich alternative Betriebssysteme zu installieren.

Jüngste Dreistigkeit: Die Programmierer von Android, dem Betriebssystem der meisten Smartphones, hatten die menschenfreundliche Idee, den „Usern“ das Absetzen von Notrufen zu „erleichtern“. Mit dem Ergebnis, dass beim Radfahren, beim Joggen oder wenn das Handy mal runterfällt, ein 112-Notruf ausgelöst wird.

Bis zu 600 Notrufe pro Tag gingen plötzlich bei der Leitstelle in Würzburg ein. Die meisten davon automatisch ausgelöst. Doof, wenn man an diesem Tag wirklich einen Unfall hat…

Die Menschheit wird hier schlicht zum Versuchskaninchen für offensichtlich stümperhafte, hier auch sehr gefährliche, Programmierversuche missbraucht.

Ähnlich sieht das die Lieblingswinzerin des Schreibers, der sich hiermit als Freund des Frankenweins outet. Sie kam, nachdem ihr Kartenlesegerät mehrfach ausgefallen war, ins Grübeln über intelligente Technik. Ihr gehört heute das Schlusswort, leider in Standardsprache, im fränkischen Dialekt war es noch viel schöner:

„Seit zwei Tagen funktioniert das Ding nicht richtig. Und da reden die über Künstliche Intelligenz und autonomes Fahren!“ (Pause) „Aber schön wär’s schon, wenn man abends aufs Weinfest geht und das Auto fährt einen dann heim.“ (Pause) „Aber was hab’ ich davon, wenn mich das Auto dann an einen Baum fährt? Da kann ich gleich selber betrunken fahren!“

Der Markt nimmt 10 Milliarden

Intel will eine Chipfabrik in Brandenburg bauen. Das freut den Bundeskanzler und den brandenburgischen Ministerpräsidenten, denn:

„Wir dürfen nicht zulassen, dass wichtige Zukunftstechnologien nur noch in Asien produziert werden“ (Haseloff).

„Wir dürfen uns technologisch nicht immer weiter von China abhängig machen“ Scholz).

Also zahlt der Staat erst einmal 10 Milliarden Euro, damit Intel wirklich in Brandenburg baut und nicht in den USA (die sicher genauso viel zahlen würden). Dazu werden (wie bei der Tesla-Fabrik in Grünheide) jede Menge Sonderregelungen gelten wie z.B. eine vorläufige Baugenehmigung, die dann nicht mehr rückgängig gemacht werden kann, aufgeweichte Umweltschutzregeln und vieles mehr.

Sind das nun die „entfesselten Marktkräfte“, von denen Lindner im Wahlkampf immer gefaselt hat und heute noch faselt („Technologieoffenheit“, der Markt mit seiner „Innovationskraft“ wird’s schon regeln).

Vielleicht funktioniert „der Markt“ ja irgendwie zu Zeiten, in denen man kommod seine Geschäfte machen kann und es dabei „nur“ auf Kosten der Arbeiter geht. Sobald aber irgendein Problem auftaucht, ruft die Wirtschaft laut nach dem Staat, denn die „Innovationskraft“ ist offensichtlich nicht für Situationen da, in denen beim Geschäftemachen plötzlich Risiken auftreten könnten.

Gerät eine Branche in die Krise und müsste nach den Regeln des Marktes deshalb Leute entlassen, übernimmt der Staat via Kurzarbeitergeld den Großteil des Lohnes. Das ist schön für die Arbeiter, die weiterhin ihr Geld gekommen und schön für die Unternehmer, die ihr Personal behalten können, teils sogar, ganz ohne Lohn zu bezahlen.

Wird wegen einer internationalen Krise der Sprit vorübergehend knapp – und ganz nach den Regeln des Marktes – entsprechend teuer, führt das mitnichten dazu, dass jetzt marktwirtschaftlich wegen des hohen Preises die Nachfrage sinkt. Der Staat schüttet einen „Tankbonus“ aus – für alle natürlich – und sorgt so (ökologisch völlig unsinnig) dafür, dass alle genau so viel Sprit kaufen wie früher, die Energiekonzerne, die ein Stück vom Tankbonus gleich für sich abgezweigt haben, noch höhere Gewinne machen als bisher und dass die oberen 10% der Bevölkerung weiterhin genau so viel Co2 in die Luft pusten dürfen wie die unteren 50% zusammen.

Übrigens: Wenn die Mär, „Angebot und Nachfrage regeln den Preis“ auch nur ansatzweise stimmen würde, müssten die dringlichst gesuchten Facharbeitskräfte längst ein Vielfaches der bisherigen Löhne verdienen. In Wahrheit dürfen sie ein bisschen an einer work-life-balance basteln. Stattdessen begibt sich fast die ganze Bundesregierung auf Anwerbetour quer durch alle Kontinente, um aus den ärmeren Ländern Arbeitskräfte weg- und nach Deutschland zu locken.

Wie die Wirtschaft die Rolle des Staates bei ihrer Gewinnmaximierung sieht, hat Industriepräsident Russwurm beim „Tag der Industrie“ deutlich gemacht: Er hat dem Staat(!) den Facharbeitermangel vorgeworfen. Wie war das in den letzten Jahrzehnten? Weite Teile der deutschen Wirtschaft haben sich geweigert, Fachkräfte auszubilden – trotz staatlicher Ausbildungsprämien. Schließlich war es billiger, diese aus den ehemaligen Ostblockstaaten einzustellen. Jetzt brauchen die ihre Leute plötzlich selbst.

Vermutlich stellt Russwurm sich das so vor:

Der Staat bildet junge Leute aller Branchen aus und überreicht sie, wenn ihre Arbeitskraft zum Gewinne machen reicht, den Arbeitgebern. Das funktioniert aber nur, wenn der Staat zusätzlich die Differenz, die sich aus dem Arbeitspreis, der sich aufgrund der hohen Nachfrage ergibt und dem, was die Unternehmer zu zahlen bereit sind, übernimmt.

So geht Marktwirtschaft in der Krise.

KI: Seelchen oder Fluch?

Nun sind sie also da, die ersten universitären Betrugsversuche mit Hilfe der sog. künstlichen Intelligenz in Form der ChatGPT. Hamburger Studenten haben illegal Handys in ihre Prüfungen mitgebracht, sich die Examensarbeiten von ChatGPT formulieren lassen und sind dabei aufgeflogen.

Tatsächlich wurde, seit die ChatGPTs auf den Markt kamen, sofort reflexhaft vor Betrugsversuchen bei Prüfungen gewarnt – als sei das das größte Problem im Umgang mit dieser Technologie. Dabei offenbart die Diskussion über den Umgang mit dieser zunächst einmal erhebliche Probleme mit der „natürlichen“ Intelligenz:

Tatsächlich gab es ernst gemeinte Aussagen von Studierenden, die davon träumen, sich Prüfungsarbeiten so erstellen lassen zu können: Thema eingeben – fertig ausgespuckten Text abgeben („Wenn das Problem mit den fehlenden Quellenangaben gelöst ist“). Bildungsforscher und universitäres Lehrpersonal zogen daraus den Schluss, dass man schriftliche Prüfungsarbeiten gleich abschaffen müsse und wieder mehr auf mündliche Prüfungen zu setzen sei.

Beide Positionen beruhen auf demselben Fehler: Sie sehen in Prüfungsarbeiten lediglich ein Objekt der Benotbarkeit; der entscheidende geistige Prozess, der hinter der erfolgreichen Erstellung einer schriftlichen Prüfungsarbeit steht und der das eigentlich Wichtige ist, wird vernachlässigt. Natürlich ist es für die intellektuelle Entwicklung des Menschen weiterhin nötig, dass er lernt, Gedanken zu fassen, zu systematisieren und zu formulieren.

Das Problem mit der Bewertbarkeit ist so lächerlich, das selbst das bayerische Kultusministerium das bei Facharbeiten in den früheren Leistungskursen an Gymnasien (wo ja die Gefahr des Betrugs auch schon immer gegeben war) lösen konnte:

Zu jeder Facharbeit gab es ein kurzes Prüfungsgespräch, in dem der oder die Prüfende schnell eruieren konnte, ob der Verfasser mit den Inhalten seiner Arbeit tatsächlich vertraut ist. Gleichzeitig war dies für Schülerinnen und Schüler eine frühe Gewöhnung an kolloquiumsähnliche Prüfungssituationen, die sich bei der universitären Ausbildung schließlich bis zum Rigorosum hinziehen.

Natürlich bedeutet das zusätzlichen Zeitaufwand, der jedoch dadurch abgefangen werden könnte, dass die ChatGPT dem Lehrpersonal formale, aber zeitraubende Tätigkeiten wie z.B. die Überprüfung einer Arbeit auf sprachliche und formale Mängel abnimmt.

Grundsätzlich kann die ChatGPT als deutlich verbessertes Werkzeug der Informationstechnologie dem Menschen sehr viele formale Arbeiten abnehmen.

Aber schon bei der (oft als Beispiel erwähnten) Erstellung eines Arztbriefes, der in bestimmten Situationen lebensrettend sein kann, ist doch Vorsicht geboten in einem Land, dessen Kultusministerien es noch nicht einmal schaffen, die Abituraufgaben fehlerfrei elektronisch an die Schulen zu übermitteln.

Generell sind alle Phantasien befremdlich, die der Vorstellung nachhängen, die sog. KI könnte tatsächliche Intelligenzleistungen des Menschen ersetzen. Dies ist schon auf Grund der Arbeitsweise (rein quantitative Auswahl von Lösungsmöglichkeiten aufgrund bereits vorhandener Texte) schwer vorstellbar. Im Grundzustand belassene Algorithmen würden z.B. soziale Vorurteile, die in Texten am häufigsten auftreten, lediglich verstärken. Deshalb bekommen diese Algorithmen Anweisungen, zu filtern. Hinter diesen Anweisungen steckt aber immer noch ein programmierender Mensch, dessen Manipulationsmöglichkeiten gruselig stark sind.

Wenig diskutiert wird auch, dass viele Tätigkeiten, die Technologie-Optimisten der ChatGPT zutrauen, Tätigkeiten sind, die essentiell zum Mensch gehören, ihn  ausmachen. Ist dem Menschen wirklich geholfen, wenn ihm die KI eines Tages z.B. die meisten technologischen Entwicklungen abnimmt und Flugzeuge (selbstständig !) entwickelt? Ihm alle Planungs- und Verwaltungsaufgaben abnimmt? Was macht der Mensch dann? Glaubt man im Ernst, dass er sich hinsetzt und ein „gutes Buch“ liest – das vermutlich von einer ChatGPT geschrieben wurde? Im Ernst: Es wurde tatsächlich schon angepriesen, welche tollen Liebesgedichte diese Programme verfassen könnten. Braucht irgendwer auf der Welt wirklich ein von einer Maschinensprache verfasstes Liebesgedicht?

Es finden tatsächlich sich kaum Überlegungen, was der Mensch denn dann tun soll, sollte die KI ihm alle diese Tätigkeiten, die ja nicht nur lästig sind, sondern einen Wesenskern des Menschen, die Kreativität, bedienen, abnehmen. Diesbezüglich befindet sich die Diskussion auf dem Stand des alten Witzchens von Ephraim Kishon, der eine seiner Figuren davon träumen lässt, sich zwei Schachcomputer zu kaufen, die er dann gegeneinander antreten lasse. Dann habe er mehr Zeit, ins Kino zu gehen.

Eine absolut kuriose Vorstellung davon, was der Mensch in seiner neugewonnenen Freizeit zu tun hätte, die zugleich zeigt, wie getrennt von jedem Verstand sich die Debatte teils entwickelt, entwirft der Kognitionsforscher Eric Schulz in SPIEGEL 18/2013 (alle Zitate von dort):

Der Mensch könne sich jetzt um die problematische Seele der ChatGPT kümmern. Ernsthaft.

Er berichtet erfreut davon, dass das Programm, das er mit Fragebögen zur Messung von Angst gefüttert hat, in seinen Antworten sehr „menschliche“ Angstreaktionen gezeigt hat.(Echt jetzt? Die hat dieses angeblich intelligente Programm halt in den Texten gefunden, mit denen man es gefüttert hat.) Allerdings seien die Reaktionen immer etwas ängstlicher als die von natürlichen Menschen. Warum? Es könne „zum Beispiel sein, dass die Gehorsamkeit, auf die so eine KI trainiert wird, mit einem gewissen Maß von Angst einhergeht.“ Das war zwar  bisher eher von autoritär erzogenen Hunden bekannt. Aber wäre das nicht einfach geil, wenn mein Computer plötzlich vor mir Angst hätte und ein „Bewusstsein“ (ja, auch davon ist bei Schulz die Rede) davon, ab wieviel Nerverei ich ihm den Stecker ziehe?

Aber Schulz meint das gar nicht lustig. Er spricht allen Ernstes davon, dass man sich „um das Leid kümmern“ solle, „das ein Chatbot womöglich empfindet“. Er könne sich schon „vorstellen, dass sich künftig nicht nur Informatiker, sondern auch Psychiater genau angucken, wie solche (KI)-Agenten ticken – und dann versuchen, sie zu heilen.“

Auch wenn man Schulz fairerweise zugute halten muss, dass er dringlich vor der Gefahr warnt, die darin liegt, dass die Verfügungsgewalt über solche Systeme in den Händen weniger Mächtiger liegen wird:

Im besprochenen Fall wäre eine andere Lösung wohl erfolgversprechender: Man gibt die aus dem Lot geratene ChatGPT zu einem Programmierer und schickt den Autor zum Psychiater.