Ich wollte schon vor einigen Tagen was schreiben, als ich diese Heise News las: Vertrauen in KI.

Vertrauen ist "nur" ein Gefühl, denn wenn man etwas weiss, ist es Wissen, eine Gewissheit. Vertrauen ist eine Emotion, ein Gefühl, eine Täuschung. Vertrauen kann antrainiert werden, von Fremden, Autoritäten, Eltern, Vertrauten( :-) ), Partnern. Es drückt eine Art von Kontrollebene aus, die anderen Menschen gegenüber angewandt wird.

Beispiel: Wenn ich einem Menschen vertraue, dann kann der mir eine Versicherung andrehen. Wirklich wissen (über die Versicherung, den Menschen) kann ich dann ja meistens nicht genug, drum eben kein Wissen. Ich überlasse die Kontrolle der Fakten dem Gefühl. Wir Menschen können das, wir haben eine Geschichte unseres Lebens im Rucksack, daher ist unser Gefühl Vertrauen ggf. auch mal weniger gut oder überschwenglich ausgeprägt. Vertrauen basiert also auf einer Geschichte. Eine KI hat das nicht. Bzw. sie wurde/wird ja trainiert ... dort ist die Geschichte. Es ist die Geschichte des Trainingsmaterial. Und wer fütterte dies der KI? Zu Beginn Menschen, danach KI (Merkwort GAN).

Natürlich, Erziehungsberechtigte füttern den Nachwuchs auch mit motivationsbasiertem Material. Hier also noch kein Unterschied. Aus wiederholten, gleichen Erfahrungen bildet sich im Menschen eine Gewohnheit aus - das Vertrauen, wobei es wohl aus diesem Grund eben Gewohnheit heissen soll: Es ist die Erwartung, dass Gleiches sich immer ähnlich auswirkt. Ich nenne das natürlich nicht Vertrauen. Überspitzt formuliert nenne ich das geistige Faulheit.

Doch ein Mensch hat die Fähigkeit, seine Erfahrungen in einem konkreten Fall über Bord zu werfen und gegen seine Geschichte zu handeln. Das nennt man dann "in der Gegenwart sein". Der Mensch hat etwas in sich, das im Kontakt mit einem anderen Menschen dessen Geschichte wahrnehmen kann – so dass er sich der Geschichte unterordnen kann, sprich: empathisch, einfühlsam, barmherzig sein kann.

Eine KI kann das nicht. Sie hat nur die Geschichte, denn sie ist nur ein dummes Stück Software. Trainiert ja, flexibel nein.

Wie kann man also als EU-Digitalchefin Vertrauen fordern in eine Technik, die nichts Menschliches hat? Eine Technik, die von Menschen entwickelt und trainiert wurde, ja, denen ich aber nie begegnen kann. Was kann ich also erfühlen von deren Motivation, deren Absichten?

Wie kann man Vertrauen fordern in etwas, dessen Motivation im aktuellen Fall man nicht kennt?

Wunderbar daher die heutige News Deepfakes werden perfekt sein.

Mir war das schon immer klar. Da ich einer der C64-Generation bin, sehe ich in meiner Geschichte die Entwicklung der Grafikfähigkeiten innert nur 35 Jahren. Wenn Deepfakes also in 5 Jahren perfekt sind, dann hat der sehende Mensch keinerlei Indikatoren mehr, ein Bild, ein Video von etwas tatsächlich Geschehenem zu unterscheiden.

Und darin soll ich vertrauen? Geht's noch? Wer muss denn aus welcher Motivation gerade mir ein Deepfake unterjubeln wollen? Der Technik muss ich nicht vertrauen, sie ist nur eine Maschine. Den Menschen, die sie steuern, möchte ich vertrauen dürfen. Aber ihre Absichten, die gelangen nicht mehr direkt zu mir. Worauf soll mein Sensorium also ein Vertrauen oder Misstrauen aufbauen? Sic.

Daher glaube ich weder einem Text, noch einem Bild, noch einem Audio-Track, noch einem Video. Ich bin aber auch nicht einfach misstrauisch. Ich gebe einem Artefakt einfach keine Bedeutung (mehr). Es ist nur eine Information. Es hat nichts mit irgendeiner Wahrheit zu tun. Wenn mich etwas interessiert, muss ich mir die Mühe machen, mehrere Quellen zum angebotenen Informationshäppchen zu finden. Dann erst beginne ich, eine Information als wohl wahr für mich zu betrachten.

Dass man die Sichtweise natürlich auch umdrehen kann, zeigen Filme wie Matrix und viele andere. Auch Wissenschaftler überlegen sich seriös, ob wir Menschen nicht selbst schon einfach Instanzen eines KI-Prozesses sind.

"Leben" wir in einer Simulation? Tja ... mind-boggling ...

Es gibt daher eh nur eines, was die Philosophen und Menschheitslehrer seit immer lehr(t)en: Die einzige Pflicht, die du hast, ist glücklich zu sein. Und das kann man allerdings mit oder ohne Deepfakes und KI, mit "Realität" oder "Simulation" erreichen. Zumindest zeitweise.

Also, schafft Euch glückliche Zeiten. Dies bestimme, was Ihr (mit) anderen (an)tut.