Kann künstliche Intelligenz Gut oder Böse sein?

[AJ]

Thod und ich sind im Kino & TV Forum auf das Thema gekommen.

Kann künstliche Intelligenz Gut oder Böse sein? (Gemeint ihr eine richtige eigenständige Intelligenz, die vielleicht auch sinnlich ist)

Auf das Thema sind wir durch den Film Terminator 3 gekommen. Dort bildet bildet eine künstliche Intelligenz ein eigenes Bewustsein und ruft zum Kampf gegen die Menschen aus.


Also meiner Meinung kann künstliche Intelligenz, sofern sie eigenständig ist auch gut oder böse sein. Schlieslich trifft sie dann eigene Entscheidungen.

[netspider]

ich denke sie kann durchaus gut oder böse sein bin ich der auffassung denn sie kriegt ja ein eigenes bewusstsein und ist intelligent wie der Mensch und der Mensch ist manchmal auch in gut oder böse eingeteilt. Eigentlich kann man man Menschen nicht in Gut und böse einteilen aber das steht nich zur debatte.

[Padreic]

Da eine KI zwangsläufig der Kausalität unterwofen ist, gibt es für sie nur die Notwendigkeit und kein Sollen, womit bezüglich ihrem Verhalten auch Ethik sinnlos ist. Diese setzt eine echte Entscheidungsfreiheit voraus, die eine Maschine nicht besitzen kann. Somit kann gut oder böse von einer Maschine und somit auch von einer KI nicht im eigentlich Sinne ausgesagt werden. Man kann aber von Handlungen einer KI sprechen, deren Folgen denen von bösen Handlungen entsprechen und umgekehrt, womit man mit einer Ausdehnung des Begriffes eine KI durchaus gut oder böse nennen könnte.

@AJ
Das Problem ist, dass man IMHO keine künstliche Intelligenz konstruieren kann, die wirklich eigenständig Entscheidungen trifft.

Padreic

[blobbfish]

Nun, ich denke ich kann deine Frage recht einfach beantworten:

Nimm anstelle der KI einen Menschen. Zu welchem ergebnis kommst du?

[Padreic]

Oder durch einen Thunfisch... Was soll das bringen? Mensch und KI sind wesentlich verschieden, insbesondere in dieser Frage, eine Ersetzung hieße IMHO Schein mit Sein zu vertauschen. Eine KI kann höchstens menschliche Handlungsweise simulieren, sie hat aber nie menschliche Handlungsweisen. Und in einer solchen Frage ist die Simulation grundlegend verschieden von dem wirklichen Geschehen.

Padreic

[blobbfish]

Ich denke es geht hierbei um eine bereits ausgereifte KI, wenn ich das richtig verstanden habe. KI heißt, dass es eben eigenständig ist und nicht simuliert. (simulieren=vortäuschen). Und wenn es sich um eben eine socleh KI handelt, hängt es nurnoch davon ab, wie man diese KI erzieht.

[Shockk]

Ich glaube nicht, dass man auf diese Frage überhaupt eine Antwort finden kann. Die einzigen uns bekannten Intelligenzen sind doch die menschlichen. Eine KI wäre - selbst wenn von Menschen erschaffen - doch zwangsläufig eine andere, und wir hätten keine Möglichkeit (weil keinen Vergleich), sie einzuordnen. Vielleicht wäre sie primtiv, destruktiv, kooperativ, was weiss ich. Auf jeden Fall wäre sie aber nicht menschlich ...

[blobbfish]

Was ich sagen will: Es ist eine KI. Wenn ich ihr andauernd sage, dass sie böse sein soll, wird sie auch böse werden. Gehirnwäsche. Funktioniert nicht nur bei Menschen auch bei Hunden (wenn sie auf einen hören und ihre Instinkte unterdrücken)

[Thod]

die erste frage ist die, was gut und böse ist.
klassisch ist es böse, wenn man mehr sein will als man ist, und gut, wenn man anstrebt, sein und wollen übereinzubringen.

die intelligenz muss also von innen heraus streben *wollen* und können.
in der derzeitigen entwicklung von ki stehen diese dinge nicht auf dem plan. man versucht durch schnelle kombinationen den eindruck von freiem denken durch komplexität zu simulieren. mit anderen worten: es geht nicht um intelligenz, sondern um die sumulation von intelligenz. man versucht, ein gebilde zu schaffen, von dem der mensch nicht mehr unterscheiden kann, ob es menschlich oder künstlich ist. durch komplexität und geschwindigkeit sollen denkvorgänge und wissensvergleiche angestellt werden.

mit menschlicher intelligenz hat das wenig zu tun. hier gibt es ja auch begriffe wie zb. soziale intelligenz o.a. diese bezieht wie auch die ethik ihren grund auf ein *selbst*. soetwas ist in der ki überhaupt nicht grundgelegt. die these, dass durch komplexe netzstrukturen ein selbst entstehe, ist imho völliger schwachsinn. (es gibt wohl ne startrek folge, wo die enterprise intelligent wird oder so, weil sie so ein komplexes netzsystem hat...) der sprung von komplexität auf intelligenz im menschlichen sinne zu schliessen, ist imho ein kategorienfehler, auch wenn er in der sf andauernd benutzt wird. hier liegen zwei völlig unterschiedliche phänomene vor, und auch wenn eine maschine ethik simuliert und menschliche verhaltenszüge nachmacht um durch entsprechende reiz-reaktions-chemata emotionen etc. hervorzuholen, so ist das kein denken, und auch kein gut und böse.

gruss,
thod

[AJ]

@Padreic
Ja es geht ja darum, wenn es das gäbe ob das möglich wäre.

@Thod
Wir kamen ja von Terminator 3 zu diesem Thema. Und im Film ist die künstliche Intelligenz eigenständig. Schlieslich ruft sie zur Rebellion der Maschinen, ergo zur Vernichtung der Menschheit.
Das ist aber allerdings wie du schon richtig sagst Science Fiction.


Aber ist es wirklich unmöglich eine solche künstliche Intelligenz zu erschaffen? Im Moment können wir uns das vielleicht nicht vorstellen, aber im Grunde ist es nicht unmöglich. Man muss halt eine Kopie der menschlichen Intelligenz machen. Wir sind halt mit unserer Forschung erst bei Simulationen und ich glaube irgendwann könnte man etwas finden was als Basis für die künstliche Intelligenz dienen könnte. Es müsste ein Element sein, wordurch dann die K, wie Thod schon erwähnt hat selber Entscheidungen trifft in Kategorien wie "Wollen", "Sollen", "Dürfen" etc.

[Thod]

die ki in den terminator-filmen wird nicht differenziert genug dargestellt, um feststellen zu können, ob sie tatsächlich eigenständig ist, oder einfach nur sehr komplex. wie schon gesagt: es ist ein unterschied, dem menschen freiheit vorgaukeln zu können (das kann jeder zufallsgenerator) und frei zu sein.

eine kopie des menschen mit technik anzufertigen heisst implizit, dass der mensch rein mechanisch ist. da ich mir sicher bin, dass dies nicht der fall sein kann, kann man ihn auch nicht auf diese weise kopieren.

gruss,
thod

[AJ]

eine kopie des menschen mit technik anzufertigen heisst implizit, dass der mensch rein mechanisch ist. da ich mir sicher bin, dass dies nicht der fall sein kann, kann man ihn auch nicht auf diese weise kopieren.

Wenn der Mensch aus der Natur entstanden ist, dann kann man seine Intelligenz auch versuchen zu kopieren. Also es müsste halt etwas übersinnliches sein, was man auf gar keinen Fall kopieren kann, dann würde es nicht gehen. Aber ich glaube, dass die menschliche Intellignez einfach ein komplexes System ist welches wir uns noch nicht vorstellen können.

[Thod]

dazu müsste man klären, was der naturbegriff denn eigentlich meint, und ob technik das gleiche bedeutet.

gruss,
thod

[blobbfish]

Nun, ein abbild des Menschen zu schaffen wäre als einstieg nicht so sonderlich hilfreich. Ich glaube in den 80gern hat man versucht, Microchips wie unser Gehirn arbeiten zu lassen, ist auch nicht gelungen wie man heutzutage unschwer erkennen kann. Neurologie ist schon etwas verflixt gemeines.ich kann mir eher vorstellen, dass wenn das Grundgerüst der KI steht (die Lernfähigkeit, die Fähigkeit, Bewusstsein zu entwickeln, etc) dass sie vn ganz allein menschlich wird, wenn sie unter Menschen lebt. Dafür muss die KI allerdings einiges an Kapazitäten aufweisen können. Eine KI die das nicht hat, wird vielleichtnicht in der Lage sein, menschlich zu werden, wenn sie unter Hunden lebt kann es vielleicht sein, dass sie ein "Hund" wird.

Wenn du den Menschen kopieren willst wirst du zurzeit 2 Möglichkeiten haben:
1. Du simulierst ihn, indem du das neurnale Netz ananlysierst und dementsprechend reagierst. Man muss natürlich Kriterien festlegen, ab wann es menschlich ist.
2. Du analysiest ihn und baust ihn nach.


Naturbegriff
Ich verstehe darunter, dass es durch Zufälle erschaffen wurde. Nicht durch andere Lebewesen oder Götter. Nach meiner Eigendefinition ist es auch alsch zu sagen, dass uns das Universum geschaffen. Purer Zufall. Elemtare Wechselwirkungen hervorgerufen durch was weiß ich was. (Chemische Reaktionen, Elektrische Felder, etc.)

[Thod]

beides wird wohl kaum gelingen. allein schon die entwicklung von bewusstsein, ist wohl nicht möglich. wir wissen ja nichtmal genau, was das ist.

wie gesagt: das einzige was wir wohl entwickeln können, ist eine maschine, die sich wei ein mensch verhält, zu mindest aus menschlicher sicht. wir überlisten damit unsere sinneswahrnehmung. das ist sicher nicht unmachbar. aber ein selbst ist kein produkt einer ki wie wir sie kennen, und kann aus ihr auch nicht hervorgehen.

gruss,
thod

[blobbfish]

Original geschrieben von Thod
wie gesagt: das einzige was wir wohl entwickeln können, ist eine maschine, die sich wei ein mensch verhält, zu mindest aus menschlicher sicht. wir überlisten damit unsere sinneswahrnehmung. das ist sicher nicht unmachbar. aber ein selbst ist kein produkt einer ki wie wir sie kennen, und kann aus ihr auch nicht hervorgehen.

Nun, eben dis ist mein Fall 1 gewesen. Wenn es sich um eine solche "KI" handelt, so wird sich auch die Frage klären, ob sie gut pder böse werden kann. Sie wird wohl so sein, wie es der Erschaffer wollte oder man hat die eigenschaft eingebaut, dass sie beeinflussbar ist, dann wird sie so sein, wie wir es ihr "sagen". Wobei das Wort "sagen" zum Beispiel auch Gehirnwäsche einschließt.

Es ist wie ich schon sagte auch eine Erziehungssache. Aber es gibt auch Kulturen die generell "böse" veranlagt sind. Inwieweit dies dann von den Genen beinflusst wird, weiß ich allerdings nicht.

[Thod]

was hat dein post mit meinem zitat zu tun? du zitierst mich und erklärst das exakte gegenteil von dem, was ich gesagt habe, als wäre es eine zustimmung.

dem schluss den du ziehst, nämlich dass gut und böse eine frage der erziehung ist, oder auf die genannte weise geschaffen werden kann, verneine ich doch ausdrücklich. und zwar mit entsprechender begründung.

mfg.
thod

[JaY]

Ok ich versuche es mal so. Ein Mensch kann erfahrungen verarbeiten, er lässt sich auch durch gefühle Leiten. das ist für mich der Springende Punkt. Eine Maschine kann vielleicht denken und eigene Gedanken entwickeln aber sie kann keine Gefühle bzw. Erfhrungen mit in diese Idee einbringen!

[AJ]

Original geschrieben von Thod
dazu müsste man klären, was der naturbegriff denn eigentlich meint, und ob technik das gleiche bedeutet.

gruss,
thod

Ich glaube die Frage stellt sich gar nicht ob Technik im entferntesten Sinne auch den Naturbegriff wieder spiegelt. Man kann zum Beispiel durch die Biologie die DNA entschlüssen und auch vielleicht andere komplexe Sachen, wie zum Beispiel die Proteine.

Der Mensch nimmt Informationen auf und verarbeitet sie, die Maschine kann auch Informationen aufnehmen nur muss sie halt auch in der Lage sein diese Information eigenständig zu verarbeiten. Wo wir wieder bei unserem Problem wären. Aber wenn man z.B. anhand der DNA so ein System entwickeln könnte, was dann eigenständig die aufgenommene Information verarbeiten kann, dann hat man künstliche Intelligenz. Weil das System ist dann in der Lage eigene Entscheidungen zu treffen.

Wie schon erwähnt ist es halt schwer/unmöglich für den Menschen sich dies vorzustellen. (Zumindest bisher)

[Thod]

ich teile dieses menschenbild halt nicht. ich denke nicht, dass innerhalb der dna sowas wie gut oder böse verschlüsselt sein kann. hier kann höchstens eine konditionierung grundgelegt sein. somit käme man auf so sachen wie das naturrecht, wie z.b. "gut ist, was dem überleben dient".
die vorstellungen von dem, was wirklich gut oder böse ist, lassen sich aber auf empirie nicht zurückführen. dazu wäre ein streng empiristischer ansatz von dem was mensch ist nötig, aber sowas ist ja schon seit dem 19. jhdt allgemein anerkannt widerlegt.

gruss,
thod