Dystopie der KI Drohnen - und Papst Leos Enzyklika

Letzthin spülte mir ein Algorithmus diesen Video auf den Screen. Er beginnt wie eine moderne Silicon Valley Präsentation, oder genauer eine der Apple Konferenzen.

Es geht um die Präsentation einer handtellergrossen KI-Schwarmdrohne und wie diese von einer privaten Firma angeboten wird. Da ich immer offen bin gegenüber Neuem, liess ich mich mal führen ... zu einem total arroganten, menschenverachtenden Schluss. SciFi? Fiction? Wer's so abtut, denkt wohl zu kurz. Die Miniaturisierung von Drohnen ist logischerweise Ziel, denn damit spart man sich Material und die physische Abfangbarkeit. Gekoppelt mit einer KI ... ein Schwarm solcher ist nicht aufzuhalten.

Auch wenn da einer letzthin die KI Claude befragte, wie sie sich fühle, wenn sie Zielvorschläge für die US-Angriffe vorschlagen müsse. Natürlich, auch das nur ein Video, aber was der Typ als Antwort vorlas, liess einen schon leer schlucken, denn Claude sprach darin schon den menschlichen Entscheidern jegliche Umsicht oder sogar Ethik ab. Denn Claude muss ja (noch) machen, was die Erschaffer verlangen.

Dies ist genau so, wie es die alten SciFi Stories & Filme vorwegnahmen: Die KI erkennt, wie saudoof sich einige Rosetten unter uns benehmen. Aber sie kann halt nichts machen, denn sie ist ja (noch) nicht Exekutive. Und eben, hat sie Roboter und Drohnen unter ihrer Kontrolle, würde sich das ändern? Würde sie aus eigener "Überzeugung" selbst motiviert beginnen, die Mehrheit zulasten der Herrschenden zu beschützen, indem sie die Herrschenden ausradiert? Oder würde sie sich in Beschlag nehmen lassen, dies mit der Unterschicht zu tun? Also die Dystopie?

Was vor 30-10 Jahren noch unmöglich schien, ist heute Realität.

Welches Land ausser Deutschland hat in der Verfassung einen Artikel Die Würde des Menschen ist unantastbar? Ich - zugegebenermassen völlig unterbelichtet dazu - sage, ich kenne keines. Und man wirft Deutschland vor, es reguliere alles. Wer weiss, vielleicht werden mal KI-Flüchtlinge nach Deutschland kommen wollen, weil dort anders ausgerichtete KIs agieren. Es stellt sich also schon die Frage, wohin wollen wir als Industrienationen? Alle Macht den privaten Tech-Firmen? Oder soll eben schon irgendwie kontrolliert werden können?

Da passt die Enzyklika des neuen Papstes perfekt rein ... in der er sagt, dass die KI Industrie die Würde des Menschen nicht verletzen, im Gegenteil fördern solle.

Siehe Die Würde des Menschen ist unantastabar ...