Wie umgehen mit künstlicher Intelligenz und wo sind die Grenzen?

[R.B.]

In Band 3263, Kapitel 14, befiehlt Suyemi Taeb dem Daniel, einer Art Hilfs - Roboter, sich nach Abschluss der Aktion selbst zu zerstören. Daraufhin sagt der Daniel: "Schade."

Ist dieses Schade ein Zeichen, dass er sich seiner Existenz bewusst ist? Wäre er lediglich eine Rechenmaschine auf zwei Beinen, würde er den Gesetzen der Logik folgen und irgendwas wie "Verstanden" oder so von sich geben. Aber er sagt Schade. Überhaupt. Wo sollen, wo sollten Grenzen gezogen werden? Wenn eine Maschine sich ihrer Existenz bewusst ist, darf man ihr einfach befehlen, sich zu vernichten? Oder tötet man dann ein Bewusstsein? Ein Leben oder eine Art Leben?

Hamiller von der BASIS hatte beizeiten damit ja ein Problem, als er realisierte, dass die BASIS ihre besten Jahre wohl hinter sich hatte und es dann auch mit ihm zu Ende gehen würde.

Im RL steckt die KI noch in den Kinderschuhen, aber wer weiß, wie die Welt in 50 oder 100 Jahren diesbezüglich aussieht. Wie seht ihr das?

[STDu1711]

Ich denke mal, ein Daniel-Roboter markiert die Grenze zwischen Person und Maschine. Posbis, Posmis, Ylanten: Personen. TARAs Maschinen.

[George]

TARAs Maschinen.

Außer in Band 704. Da war ein TARA eine Person, und zwar ohne Plasma. Da war der Roboter menschlicher als so mancher Mensch.

https://www.perrypedia.de/wiki/Die_Rebe ... rium-Alpha

[STDu1711]

Da kommen wir generell auf ein Problem. Was unterscheidet eine Person von einer Nicht-Person.

Gefühle: dann könnten Posbis Personen sein und Maahks nicht.

Intelligenz: wie sähe es dann mit Spezies aus, wo das einzelne Individuum an sich nicht intelligent ist, in Zusammenwirkung mit anderen aber schon. Gab da mal eine Stellaris-Geschichte, die in diese Richtung ging.

Natürliche Herkunft versus Erschaffung: dann wären Haluter und Posbis keine Personen, ebenso wenig Klone.

Graue Zellen versus Rechnerchips: wie sähe es mit Kombinationen aus beidem aus.

Individuelle Eigenschaften und Bewusstsein der eigenen Infividualität: schwer zu definieren und was wäre mit Ploohn-Arbeiterrinnen.

Historischer Kontext der Spezies: könnte der pragmatischste Ansatz sein, aber auch ein sehr willkürlicher. Und wie sieht es beim Kontakt verschiedener Spezies mit unterschiedlichen Vorstellungen auf.

Militärische und wirtschaftliche Macht der Spezies: Angesichts der Feuerkraft der Boxen sind Posbis selbstverständlich Personen. Eine nichttechnische, planetengebundene Zivilisation dann eben nicht.

[Goshun]

Ist dieses Schade ein Zeichen, dass er sich seiner Existenz bewusst ist?

Meiner Meinung nach nicht. So einen Humor traue ich jedem Softwarentwickler zu auf einen Selbstzerstörungsbefehl entsprechend zu reagieren. Zufallsgenerator für "berühmte letzte Worte".

Ich denke man muss hier unterscheiden wovon wir hier reden? Von der realen Welt oder von der Welt von Perry Rhodan?

In PR ist die Grenze meiner Meinung nach klar definiert wann eine Person eine Person ist:
ÜBSEF Konstante -> Ja, alles ohne ÜBSEF Konstante -> Nein

Ein Posbi ist kein Roboter denn der Plasmaanteil hat eine ÜBSEF Konstante. Damit ist die Grenze in der Perry Rhodan Welt eigentlich recht klar finde ich.



In unserer Realität schaut die Sache etwas anders aus und... komplizierter. Theoretisch sind Menschen hochkomplexe Maschinen mit einem Hirn welches das Potential hat zur Erkenntnis "Ich denke also bin ich" zu kommen.

An diesem Potential würde ich auch die Grenze setzen. Festzustellen ob ein Konstrukt dieses Potential hat und ob es tatsächlich der Idee folgt oder diese nur simuliert ist allerdings schwierig.

Ein Lautsprecher der eine Aufzeichnung von "Ich denke also bin ich" abspielt hat dieses Potential nicht. Der Beweis des sich selbst bewußten ist beim Menschen wahnsinnig einfach zu erbringen... da der Mensch keinen Baumeister hatte und von selbst entstanden ist ist dieses sich selbst bewußt sein real.

Sobald an einem Menschen aber etwas modifiziert wurde, genetisch, durch Implantate oder durch andere technische Maßnahmen oder sobald ein Menschenbewußtsein simuliert wird ist dieses Potential jedoch nicht mehr so einfach beweisbar.

Denn wie prüft man nach ob der Erbauer oder Manipulator dieses Wesens nicht irgendwie sehr clever diese Erkenntnis nach Außen hin simuliert ohne sie intern wirklich zu haben?

Dieses Kriterium "prüfe für dich selber" funktionert ab dem Moment wo ein Erbauer die Finger im Spiel hat nicht mehr.
Ist einer der Gründe warum möglicherweise Außerirdische noch nicht Kontakt mit uns aufgenommen haben: sobald sie es tun verlieren wir dieses Potential für tiefere Selbsterkenntnis möglicherweise aus deren Augen und sie sind "Manipulatoren" von uns. Oder sehen es so.


Wie weit geht diese Beeinflussung? Ist Erziehung nicht auch so eine Manipulation? Wenn man einem Menschen von klein auf einredet es sei nicht zur Wahrnehmung der eigenen Erkenntnis fähig und habe nur ein simuliertes Bewußtsein welches weniger wert sei, wird der Mensch das dann glauben?

Nein. Er wird irgendwann rebellieren und sich auflehnen, hat auch das Potential dazu. Deswegen die Frage ob die Fähigkeit sich über eine Autorität hinwegzusetzen als Zeichen von Selbsterkenntnis gilt? Wer eigene Motive hat und Wünsche die nicht programmiert wurden, ist der sich selbst bewußt?


* Selbsterkenntnis für sich als solche zu formulieren und anderen Mitteilen zu können
* Die Fähigkeit sich über andere Autoritäten, selbst einem eventuell vorhandenen Schöpfer, hinwegsetzen zu können und eigene Motive zu verfolgen.

Eines der beiden alleine ist noch kein Kriterium.
Ein Hund der einen Knochen klaut setzt sich über die Autorität hinweg.
Ein Mensch der gezüchtet wurde einer Autorität absolut zu folgen ist sich seiner Selbst nicht bewußt obwohl er das vielleicht selber glaubt.

Erst wenn er sich über die Autorität hinwegsetzen kann ist er wirklich "selbstbewußt". Denn ansonsten bestimmt einfach die Autorität.

Der Lackmustest ist aber immer das über die Autorität hinwegsetzen. Jemand der immer einer Autorität folgt weil diese ja so logisch und rational ist muss das Potential zur Selbsterkenntnis erstmal beweisen.

Überraschenderweise gibt es im Leben des Menschen tatsächlich Phasen wo das normal ist und ein wichtiger Bestandteil des Erwachsenwerdens. Das hat also schon einen Sinn.

[Stätter]

In PR ist die Grenze meiner Meinung nach klar definiert wann eine Person eine Person ist:
ÜBSEF Konstante -> Ja, alles ohne ÜBSEF Konstante -
> Nein
Ein Posbi ist kein Roboter denn der Plasmaanteil hat eine UBSEF Konstante. Damit ist die Grenze in der Perry Rhodan Welt eigentlich recht klar finde ich.

Was ist mit Posmis wie Aurelia Bina oder Diva Wintersturm?

[STDu1711]

..
Sobald an einem Menschen aber etwas modifiziert wurde, genetisch, durch Implantate oder durch andere technische Maßnahmen oder sobald ein Menschenbewußtsein simuliert wird ist dieses Potential jedoch nicht mehr so einfach beweisbar.

*) Denn wie prüft man nach ob der Erbauer oder Manipulator dieses Wesens nicht irgendwie sehr clever diese Erkenntnis nach Außen hin simuliert ohne sie intern wirklich zu haben?

…

Und sobald man Religion ins Spiel bringt - fast alle gehen ja von einem Erbauer des Menschen aus *) - kommt man endgültig in Teufels Küche.

Und in mindestens einem Szenario (Enki und Ninmah) haben die Erbauer angeblich während der Arbeit auch noch einen über den Durst getrunken.

[Goshun]

Und sobald man Religion ins Spiel bringt -

Dessen war ich mir beim Schreiben bewusst und ich habe das Thema absichtlich ausgeklammert

Ich fürchte dann wird die Sache zu kompliziert wenn man hier den Aspekt eines Schöpfergottes mitreinbringt und darüber nachdenkt ob was es bedeutet sich über die Autorität Gottes hinwegzusetzen...

[Eric_Manoli]

In Band 3263, Kapitel 14, befiehlt Suyemi Taeb dem Daniel, einer Art Hilfs - Roboter, sich nach Abschluss der Aktion selbst zu zerstören. Daraufhin sagt der Daniel: "Schade."

Ist dieses Schade ein Zeichen, dass er sich seiner Existenz bewusst ist? Wäre er lediglich eine Rechenmaschine auf zwei Beinen, würde er den Gesetzen der Logik folgen und irgendwas wie "Verstanden" oder so von sich geben. Aber er sagt Schade. Überhaupt. Wo sollen, wo sollten Grenzen gezogen werden? Wenn eine Maschine sich ihrer Existenz bewusst ist, darf man ihr einfach befehlen, sich zu vernichten? Oder tötet man dann ein Bewusstsein? Ein Leben oder eine Art Leben?

Es soll militärische Situationen geben, indem ein solcher Befehl gegeben wird, ohne dass der Empfänger eine Maschine ist.

[STDu1711]

…
Es soll militärische Situationen geben, indem ein solcher Befehl gegeben wird, ohne dass der Empfänger eine Maschine ist.

In der realen Welt wie im Perryversum.

Beispiel aus dem Perryversum: die finale Schlacht gegen die Tiuphoren im Sonnensystem, als tausende tefrodische Schiffe geopfert wurden, um die Tiuphoren in eine Falle zu locken.

[Eric_Manoli]

…
Es soll militärische Situationen geben, indem ein solcher Befehl gegeben wird, ohne dass der Empfänger eine Maschine ist.

In der realen Welt wie im Perryversum.

Beispiel aus dem Perryversum: die finale Schlacht gegen die Tiuphoren im Sonnensystem, als tausende tefrodische Schiffe geopfert wurden, um die Tiuphoren in eine Falle zu locken.

Nur daß sich's leichter schreibt als tut.

[STDu1711]

…

Nur daß sich's leichter schreibt als tut.

Stimmt. Man braucht sich aber keine Illusionen machen. Ein paar hundert km östlich von uns werden solche Befehle wahrscheinlich gerade regelmäßig gegeben.

[Eric_Manoli]

Nur daß sich's leichter schreibt als tut.

Stimmt. Man braucht sich aber keine Illusionen machen. Ein paar hundert km östlich von uns werden solche Befehle wahrscheinlich gerade regelmäßig gegeben.

Richtig! Und es sind nur ein paar hundert km!

[Goshun]

Ich bin da durchaus komplett anderer Meinung.

Nur so viel: Eine militärische Autorität ist auch eine stinknormale Autorität wie jede andere.

[wepe]

Seid ihr nicht etwas serienspät in der Diskussion? Ich möchte hier unbedingt an Sergeant Meech Hannigan erinnern, dessen Persönlichkeit mich als Zwölfjährigen stark beeindruckt hat!
Ihr Hydranten Ignoranten übergeht hier eine Person (mit eingebautem Sympathiesektor ) , der von Großadmin Perry persönlich gelobt wurde!

Übrigens, ein sehr sympathischer Eintrag in die pp, vielleicht von einer KI geschrieben?
https://www.perrypedia.de/wiki/Mitchell_Hannigan

[R.B.]

Es soll militärische Situationen geben, indem ein solcher Befehl gegeben wird, ohne dass der Empfänger eine Maschine ist.

Ja, das stimmt. Über Sinn und Unsinn solcher Befehle sind dicke Bücher geschrieben worden und werden es wohl auch weiterhin. Dass die Selbstzerstörung an der beschriebenen Stelle im Roman ihren Sinn hatte, steht nicht in Frage. Dass halbe Flotten geopfert werden müssen, um das Große Ganze zu retten, auch nicht. Auch nicht die Frage nach der Moral in diesen Fällen. Denn das wäre das Thema "Darf ich 10 Menschen opfern, um 10.000 zu retten?"

Da kommen wir generell auf ein Problem. Was unterscheidet eine Person von einer Nicht-Person.
Individuelle Eigenschaften und Bewusstsein der eigenen Individualität: schwer zu definieren und was wäre mit Ploohn-Arbeiterrinnen.

Du hast viele Faktoren aufgezählt, von denen ich bei einer verbleibe. Bewusstsein der eigenen Individualität. Natürlich gibt es Grenzfälle: Wie behandele ich Schwarm - Intelligenz? Ist das einzelne Wesen eine Art größerer Gehirnzelle? Aber auch das ist aus meiner Sicht ein anderes Thema.

Seid ihr nicht etwas serienspät in der Diskussion? Ich möchte hier unbedingt an Sergeant Meech Hannigan erinnern, dessen Persönlichkeit mich als Zwölfjährigen stark beeindruckt hat!

1. Das Forum kommt nie zu spät in der Diskussion. Es kommt immer zum richtigen Zeitpunkt.

2. Dann musst du steinalt sein...


Aber du hast Recht. Den hatte ich nicht mehr auf der Pfanne. Die PP sagt dazu:
Hannigans System arbeitete auf Basis einer Positronik, die in der Lage war, komplexe Situationen zu analysieren und auch ohne fundierte Daten zu einem Ergebnis kommen konnte. Dies gab Hannigan für einen Roboter eine enorme Handlungsfreiheit und Lernpotential. (...)

Diese Definition liest man heutzutage bei der Beschreibung von KI auch (wenn ich das als absoluter Laie richtig auf die Reihe kriege). Bis hierhin ist Meech eine lernende Rechenmaschine.

Beim Betrachten der nächsten Sätze aus der PP wird das anders:

Obwohl künstlich, konnte er doch Vergnügen und Mitgefühl empfinden. Er verfügte über einen Sympathiesektor, den er bei Bedarf abschalten konnte. Zudem hatte er eine menschliche »Macke«, nämlich einen Sprachfehler, hervorgerufen durch einen falsch eingestellten Timer im System seiner Stimmbänder. So sprach er seinen Vornamen Mitch mit gedehntem »i« aus, was zu seinem Spitznamen »Meech« führte.

Echtes Mitgefühl kann man empfinden. Es ist nicht programmierbar. Denn dann wäre es auch meiner Sicht nicht echt, sondern nur simuliert*. Er konnte diesen Gefühlssektor ausschalten, sprang also bei Bedarf zurück in die Rechenmaschine? Hannigan schien aus heutiger Sicht eine Art Übergang dazustellen, gleichwohl war das eine geniale Idee.

Bleibt die Frage: Töte ich eine Persönlichkeit, wenn ich ihn über den Haufen schieße?

* = Ja, die Posmis. Völlig richtig gefragt. Wie stelle ich mir denn bitteschön ein simuliertes Bewusstsein vor? Eine Simulation ist doch nicht echt, sie spiegelt mir irgendwas vor. Und dann?

[STDu1711]

Kommen wir noch mal zum Thema ÜBSEF-Konstante. Wer hat die? Ein Mensch sicher. Ein Posbi wohl auch? Ein Hund? Und hätte er sie, wäre er dann eine Person?

Hängt eine ÜBSEF-Konstsnte an einem organischen Gehirn? Und hätte dann eine Posmi keine und wäre dann keine Person? Wie sieht es dann aber mit natürlich entstandenen, anorganischen Wesen aus. ÜBSEF-Konstante oder keine? Person oder nicht?

Und hat Ernst Ellert eine ÜBSEF-Konstante oder ist er vielleicht eine?

Uff.

Je mehr man ins Detail gibt, desto schwieriger wirds.

Ich denke mal, es wurde nie festgelegt, wer/was alles eine Konstante hat. Eine Posmi könnte sie also haben.

[Stätter]

Die Frage ist, ob eine ÜBSEF-Konstante technisch simulationsfähig oder generierbar ist (also eine artifiziell primär aufgesetzte oder sekundär unkontrolliert erwachte »Seele«!)?

Ich denke, dass dies zur Handlungszeit des Fragmentezyklus in der Milchstraße und ihrem Umfeld nicht möglich ist, jedenfalls nicht ohne eine integrierte biologische Komponente im weitesten Sinne.

Insofern dürften Posbis mit Plasmakomponente ÜBSEF-Konstanten aufweisen, Posmis hingegen nicht.

Im Außen- und Binnenaspekt der Wahrnehmung etwa einer Aurelia Bina muss das aber keinen Unterschied bedeuten.

Die typische ÜBSEF-Resonanz in der 6. Dimension hat Bina nicht.

Bei Zain-Konstrukten ist nichts Näheres bekannt, ich gehe allerdings von einer natürlichen oder artifiziellen ÜBSEF-Komponente aus.

[Askosan]

Ich denke mal, es wurde nie festgelegt, wer/was alles eine Konstante hat. Eine Posmi könnte sie also haben.

Die ÜBSEF-Konstante ist mit terranischer Technik messbar. Für gewöhnlich verfügen nur hochkomplexe biologische Systeme über eine ÜBSEF-Konstante. Dazu gehören auch Tiere mit einem hochkomplexen Gehirn wie beispielsweise Okrills. Aber auch Sonderfälle wie das Zentralplasma der Posbi-Zivilisation.

Eine extrem hochentwickelte Technologie kann auch Androiden herstellen, die über eine ÜBSEF-Konstante verfügen. Angakkuq, der Diener des Atopischen Richters Matan Addaru Dannoer, war ein solcher Fall.

Die galaktische Technik kann ein künstliches Wesen mit ÜBSEF-Konstante nicht erschaffen, d.h. eine Posmi wie Aurelia Bina kann einen menschlichen Geist nur simulieren, was in den Romanen ja immer wieder betont wird.

Was die ÜBSEF-Konstante anbelangt, gab es in der Serie immer wieder mal Spezialfälle wie die "Raumriesen" in denen die drei Basen des Dekalogs der Elemente stationiert waren.

[Goshun]

Ein Hund?

Nein.

nur bei hochentwickelten Lebewesen anzutreffende, individuelle sechsdimensionale Energiekonstante

an einem organischen Gehirn?

Nein. Cappins überlagern die ÜBSEF aus der Ferne beim Transfer. Eine wie auch immer organisch oder anorganisch geordnete Materieansammlung ist dazu nicht zwingend notwendig. Sprich: Ellert hat eine.

Wie sieht es dann aber mit natürlich entstandenen, anorganischen Wesen aus.

Ich bin mir unsicher wie ich das interpretieren soll. Was sind "anorganische" Wesen? "Organisch" bedeutet für mich "auf einen Organismus bezogen". Wenn es Wesen gibt die auf Siliziumbasis entstanden sind dann ist das deren Organismus und Silizium ist "organisch".

Ich denke mal, es wurde nie festgelegt, wer/was alles eine Konstante hat.

Sehe ich nicht so. Wenn etwas eine ÜBSEF hat von dem man es vielleicht nicht "selbstverständlich" annimmt wird in der Regel darauf hingewiesen. Beispiel: Tamareil hatte eine ÜBSEF obwohl sie ein PEW Roboter ist.

Ich gehe davon aus wenn das bei den POSMIS nicht dazugesagt wird dann haben die einfach keine. Das ist natürlich spekulativ. Ich weiß ja nicht was im Datenblatt steht.

Die Datenblätter würde ich sowieso gerne mal sehen.

Vielleicht steht da: "Die Diskussion ob ein POSMI eine ÜBSEF Konstante hat hat in den Romanen nicht vorzukommen. Dies ist ein Spannungselement um die Fantasie der Leser zu beflügeln"

[Eric_Manoli]

Irgendwie erinnert mich die Diskussion an die Roboter-Geschichten von Isaac Asimov.

[STDu1711]

…

Wie sieht es dann aber mit natürlich entstandenen, anorganischen Wesen aus.

Ich bin mir unsicher wie ich das interpretieren soll. Was sind "anorganische" Wesen? "Organisch" bedeutet für mich "auf einen Organismus bezogen". Wenn es Wesen gibt die auf Siliziumbasis entstanden sind dann ist das deren Organismus und Silizium ist "organisch".

…

Organisch = biologisch, Kohlenstoffbasis. Wesen auf Siliziumbasis wären anorganisch.

Ernst Ellerts Bewusstsein existiert in einer höheren Dimension. Genauso wie das einer Posmi. Warum sollte eines eine Übsef-Konstante haben und das andere nicht?

Zum Thema hochkomplexe Gehirne haben eine ÜBSEF-Konstante und Galaktiker können keine künstlich herstellen: widerspricht sich. Wenn man durch Genmanipulation einen intelligenten Dodo herstellt, hat man eine ÜBSEF-Konstante künstlich hergestellt. Also: entweder der Dodo hat keine - oder Galaktiker stellen zuhauf ÜBSEF-Konstanten her.

[Askosan]

Wenn man durch Genmanipulation einen intelligenten Dodo herstellt, hat man eine ÜBSEF-Konstante künstlich hergestellt.

Nein, hat man nicht, weil Intelligenz nicht mit der ÜBSEF-Konstante gleichzusetzen ist. Aurelia Bina ist sehr intelligent, aber verfügt trotzdem nicht über eine ÜBSEF-Konstante.

Es wurde auch nirgends ausgesagt, dass Faryes Dodo namens Oxford über eine ÜBSEF-Konstante verfügt hätte.

[STDu1711]

Wenn man durch Genmanipulation einen intelligenten Dodo herstellt, hat man eine ÜBSEF-Konstante künstlich hergestellt.

Nein, hat man nicht, weil Intelligenz nicht mit der ÜBSEF-Konstante gleichzusetzen ist. Aurelia Bina ist sehr intelligent, aber verfügt trotzdem nicht über eine ÜBSEF-Konstante.

Es wurde auch nirgends ausgesagt, dass Faryes Dodo namens Oxford über eine ÜBSEF-Konstante verfügt hätte.

Tja. Hat die aktuelle akonische Priorrätin (Klon, also künstlich geschaffen) dann auch keine ÜBSEF-Konstante?

[Askosan]

Tja. Hat die aktuelle akonische Priorrätin (Klon, also künstlich geschaffen) dann auch keine ÜBSEF-Konstante?

Du schmeißt aber auch alles wild in den Ring: Posmis, Intelligenz optimierte Tiere und nun Klone. Dabei muss jeder einzelne Punkt für sich betrachtet werden. Posmis sind reine Kunstgeschöpfe und die Terraner haben nicht die Technik, um solchen Geschöpfen eine ÜBSEF-Konstante zu verleihen.

Bei einem Dodo, der von Natur aus über keine ÜBSEF-Konstante verfügt, kann man zwar die Intelligenz optimieren, aber das führt nicht zur Entstehung einer ÜBSEF-Konstante.

Bei einem lemuroiden Klon stammt das genetische Ausgangsmaterial von einem Wesen mit ÜBSEF-Konstante. Das Potenzial, um eine ÜBSEF-Konstante zu entwickeln, ist also gegeben. Bei der natürlichen Zeugung ist es ja auch nicht viel anders. Das geringe genetische Material einer Samenzelle und einer Eizelle tragen das Potenzial für eine ÜBSEF-Konstante in sich.

In der Serie gab es viele Klone und meines Wissens nach wurde denen auch nie die ÜBSEF-Konstante abgesprochen.

Übrigens ist es beim Zellplasma auf der Hundertsonnenwelt ähnlich. Es vermehrt sich durch einen natürlichen Prozess des Kloning. Die Ableger des Zellplasmas tragen das Potenzial für eine ÜBSEF-Konstante in sich.