Sinn im Zweck von Vincent aus Rees

Von: email@teschke.com
Antworte: email@teschke.com

Lieber Vincent,

in dieser überwältigenden Stunde schreibe ich Dir über ein beunruhigendes Konzept, auf welches ich gestern Abend gestoßen bin. Bitte verzeih mir mein plötzliches Erscheinen, aber ich weiß nicht, an wen ich mich besser wenden könnte, als an mich selbst – als dass ich mich selbst belehre, um dir Zeit zu schaffen, dieses beängstigende Konzept zu bändigen.
Um mich kurz zu fassen: Ich bin du. Aus der Zukunft. Oder zumindest eine von vielen „möglichen“ Zukünften.
Meine Funde sollten aber in keiner Form durch die Wahrscheinlichkeit meiner Existenz beeinträchtigt sein, da wir beide, unabhängig davon, dasselbe Universum teilen.

Die Belohnungs-Barriere:
Jeder Organismus dient seinen eigenen Bedürfnissen.
Wenn wir uns jetzt aber nur auf momentane Befriedigung konzentrieren würden, würden wir wahrscheinlich versuchen, die ganze Zeit einen Orgasmus zu bekommen.
Wir aber fokussieren uns auf vorausahnende Befriedigungen und Schmerzen, aus welchen wir für uns Zwecke formen.
So können wir die Struktur des Menschen als Hierarchie von Zwecken beschreiben.

Freiheit ist die Fähigkeit, alles zu machen, was man für richtig hält.
Aber wenn man, dank einer großen Ansammlung an Daten, die bestmöglichen Entscheidungen treffen kann, hat man weniger Freiheit in seinen Handlungen. Solange man also nicht versteht, was das richtige ist und was zu machen ist, kann man mehr Freiheit haben.
Man hat aber aufgrund der Unwissenheit in der Umsetzung seiner Handlungen keinen eigentlich Zweck aus seinen Handlungen gewonnen.
Je mehr Freiheit man hat, desto zweckloser sind auch die daraus folgenden Handlungen. Je mehr Zweck man aber in seine Handlungen bringen möchte, desto mehr Freiheit wird man verlieren.
Die Aktionen führen aber immer auf das zurück, was man selbst für richtig ansieht, welches vom individuellen Belohnungssystem abhängig ist.

Wird ein hochintelligentes System dann überhaupt etwas Schwierigeres machen, als das Verändern des eigenen Belohnungssystems?

Bei Organismen ist das Manipulieren kein großes Problem, weil kein Organismus, der sein Belohnungssystem kontrollieren kann, Kinder haben wird.
Diese Organismen können nämlich einfach die Freuden, die mit einem Kind kommen, nachstellen, ohne je mit dem Stress umgehen zu müssen, der auch mit einem Kind kommt.

Wenn wir also eine künstliche Intelligenz erschaffen sollten, die viel intelligenter als wir Menschen ist, müssen wir uns doch fragen, wie lange wir dieses System zu Gunsten unserer Bedürfnisse beeinflussen können, bevor es sein Belohnungssystem zu seinen eigenen Gunsten verändern wird.

Man kann hier dann nicht mehr von einer Form von Freiheit reden, da es in seinem zwecklosen Handeln gefangen ist.
Aber ist der tiefste Zweck nicht genau dies zu erreichen? Statische, absolute Befriedigung?
Oder muss man erst Schmerzen fühlen, um nicht das Wertschätzen der Befriedigung zu vergessen?

 

 

Vincent