Wer verfügt über Wissen bezüglich Künstlicher Intelligenz und deren Gesetze?

[Sparks]

Hallo Villyana und Volker

Mich persönlich überzeugt eine KI mit Emotionen nicht so. Ich frag mich dann immer, wo das her kommen soll. Ich weiß leider nicht mehr, wer das gesagt hat, aber jemand meinte mal in einer Dokumentation, warum sollten Roboter Macht an sich reißen wollen? Sie träumen schließlich nicht von einer "besseren" Welt

Vergiss einmal den aktuellen Hype um ChatGPT und siehe Dir mal etwas über "Norns" an, bzw. etwas über die Spielengine von "Creatures". Im Wikipedia Artikel https://de.wikipedia.org/wiki/Creatures_(Spieleserie)#Spieleengine ist weiter unten ein
Link auf einen Artikel in "Spektrum der Wissenschaft" der eine grundsätzliche Ahnung von dem vermittelt, was da im Hintergrund funktioniert.

Diese Norns haben einen Datensatz, wo als Zahlenwert bestimmte Level von Närstoffen, Hormonen, Botenstoffen, sowie Werte für
Hunger, Durst, Wärme ec. abgespeichert sind, und diese Creatures versuchen nun, diese Werte zu optimieren, indem sie mit einem ähnlichen System von Werten mit einer simulierten Umgebung interagieren.

So etwas könnte man ja nicht nur für Hunger und Durst machen, sondern auch für seelisches Wohlbefinden.....und das wäre dann durchaus als Emotion zu interpretieren.
Jede KI bräuchte, entsprechend den Asimovschen Gesetzten auch sowas wie einen Selbsterhaltungstrieb, damit sie sich beim durchführen ihrer Aufgaben nicht selbst beschädigt. Das ist von der Idee her ein sehr tiefer, primitiver Instinkt, und sehr dicht an einer Emotion.

Ich habe das Spiel irgendwann um die Jahrtausendwende einer guten Freundin geschenkt (ich selber bin nicht so Spiele affin) und die fand es zuerst absolut toll, und hat es dann aber schnell sein lassen, weil die Creatures auf sie so real wirkten, das sie Hemmungen hatte, in das Spiel einzugreifen (ohne ging nicht) und diese dabei zu verletzten oder zu töten. Und meine Freundin war durchaus intelligent und gebildet.

Ich arbeite seit ... langem in der IT.

IT ist eine Sache, mit der ich mich immer nur am Rande beschäftigt habe. Ich habe zwar E-Technik studiert, aber Energietechnik und Mikroelektronik. Einen offiziellen Leistungsnachweis habe ich mal in "technisches Programmieren Pascal" gemacht, und für die Diplomarbeit habe ich in Fortran programmiert. Vor ungefähr 10 Jahren habe ich dann hobbymäßig angefangen, Python Skripte zu schreiben.....aber eigentlich fehlen mir die Grundlagen dazu, und ich bin auch zu langsam, um mit der aktuellen Entwicklung der IT Schritt halten zu können. Das Wissen um diese meine Unfähigkeit war auch der Grund, warum ich mich nie tiefer damit beschäftigt habe.

"Universelle" Chatbots wie ChatGPT sind eigentlich auch nix anderes als die olle Eliza (schon 55 Jahre ale) kombiniert mit einem guten "was-sind-die-nächsten-Worte" Statistik-Algorithmus.

Die alte Eliza, das "Mädel" war wirklich etwas beschränkt....nach spätestens drei Sätzen war sie im Turing-Test durchgefallen. ChatGPT schlägt sich da wesentlich besser.

Da ist KEINE Intelligenz 'drin. Nicht einmal auch nur ein Fünkchen Basisverständnis. Jeder Knowledge-Baum, jede World-Semantik hat mehr Ahnung als das Ding. Ich glaube ja eher, dass die Leute sich viel zu schnell von der Form blenden lassen. Das wird wie mit  SHRLDU und dem GPS im Nichts enden - oder viel schlimmer weil höhere Erwatungen.

Das ist absolut richtig. Auf der anderen Seite zeigt es, mit welchen einfachen Ansätzen so etwas schon gut funktioniert, und es zeigt auch als Spiegel, das es mit unserer eigenen menschlichen Intelligenz vieleicht gar nicht so weit her ist.

Und irgendwann werden diese verschiedenen Ansätze dann miteinander sinnvoll kombiniert....

Wir reden immer von einer KI als Gegensatz zu einer "natürlichen Intelligenz", aber möglicherweise ist schon die Idee von Intelligenz durch unsere eigene Überheblichkeit kompromittiert. Möglicherweise gibt es so etwas wie Intelligenz auch überhaupt nicht, sondern das sind alles nur sehr komplizierte und riesige Algorithmen, auch bei uns Menschen.


Grüße: Bernd

[Sparks]

Hallo Madrisa.

Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Nein. Die Gesetzte Asimovs sind schon deutlich wichtiger. Wenn Du eine Welt ohne die Gesetzte Asimovs erschaffst, wobwohl sie darin gelten könnten, dann ist das, als wenn Du eine Welt ohne Schwerkraft erschaffst, obwohl sie Masse hat. 

Sie haben ein ähnliches Gewicht wie z.B. der Kantsche kategorische Imperativ. Sogar die Leute, die nicht wissen, was das ist, befolgen ihn meistens/oft. 

Also ich halte die Gesetzte Asimovs für so universell und wichtig, das ich es micht als "nachgemacht" oder "abgeschaut" empfinden würde, wenn man sie verwendet. Sie wurden übrigens schon 1942 formuliert. Und sie sind sehr allgemein. Ersetze einmal darin versuchsweise "Roboter" durch "ein Individuum" und "Menschen" durch "Gruppe, der das Individuum angehört". Das wird dann derartig grundlegend, das schon Hamurabi etwas deutlich spezialisierteres in eine Steinsäule meisselte. 

Polemisch formuliert: Würdest Du auch die Verwendung eines Hammers, eines Schwertes oder eines Gehstockes durch einen Protagonisten als "abgeschaut" bezeichnen? 

Grüße: Bernd

[Alana]

@Sparks Bitte mache nach Möglichkeit keine Doppelposts, sondern schreibe alles in einen. Danke.

@Czara Niyaha Wenn die KI nicht wichtig für deine Geschichte ist, finde ich eine Erklärung wie "es gibt da ein Programm, das das verhindert" oder vielleicht sogar irgendeine Form von Magie vollkommen ausreichend. Oder auch "die KI hatte es tatsächlich nie geschafft, sich so weit zu entwickeln". Wenn die KI wichtig für deine Geschichte ist, dann würde mir das nicht reichen. Ich mag an Science Fiction gerade den Science-Anteil immer wahnsinnig gern, wenn es gut gemacht ist. Autoren, die das extrem gut können, sind Andy Weir und Andreas Eschbach. Letzterer hat schon unheimlich viele Bücher geschrieben und ich liebe seine wissenschaftlichen Exkurse in seinen Büchern, bin dann immer enttäuscht, wenn die Romanhandlung weitergeht. Möglicherweise ist da auch was über KI dabei, da könntest du mal schauen. Ich liebe seine Bücher, habe es aber noch nicht geschafft, alle zu lesen. Er erklärt immer alles sehr ausführlich, spannend und, soweit ich das beurteilen kann, wissenschaftlich korrekt.

[Villyana]

Ohje, Andreas Eschbach hat mich bei Blackout als Leser echt verloren, wobei ich die Idee an sich nicht schlecht fand. Irgendwie habe ich es aber nie über den ersten Band hinaus geschafft. Aber wir sind halt alle verschieden.

Ich verstehe schon, was mit dem Einwand gemeint ist, dass es "wie abgeschaut" ist. Aber die Gesetze müssen ja nicht unter dem gleichen Namen bekannt sein. Ich sehe das wie @Sparks. Naturgesetzte würde man auch nicht als "abgeschaut" abtun.

@Czara Niyaha mich würde mal interessieren, was da noch draus geworden ist. Gibt es da einen aktuelleren Stand?

[Czara Niyaha]

Vielen Dank euch allen für die Antworten. Leider bin ich, mal wieder, gesundheitlich etwas ausgebremst. Deswegen bitte ich ich um Entschuldigung, dass ich mich nicht gemeldet habe. Was mein Problem mit der KI betrifft, habe ich noch keine endgültige Entscheidung getroffen. Eure Anregungen und Tipps haben mir auf jeden Fall geholfen und Denkanstöße gegeben. Da die KI nicht im Fokus steht, tendiere ich dazu nicht zu stark ins Detail zu gehen. Derzeit bin ich im kreativen Schreibprozess, und weiß selbst nicht genau wo die Reise hingeht. 

[Minna]

Huhu, nur ein paar Schlagworte, da ich am Handy bin. Du könntest die Wikiartikel zu AGI und AI alignment lesen. Die deutschen sind leider sehr oberflächlich.
AGI sind künstliche Intelligenzen, die "alles" wissen und dieses Wissen anwenden können und dadurch eigene Ziele und Persönlichkeit entwickeln können. Du könntest sagen, deine KI hat diesen Schritt nie gemacht und bleibt auf Einzelbereiche spezialisiert, so wie es gegenwärtig ist.
Ob und wann AGIs möglich sind wird heiß diskutiert. Auf jeden Fall bergen sie das Problem des AI alignments. Wie kriege ich eine AI dazu eben den Asimov Hesetzen zu folgen. Das ist ein bisher ungelöstes Problem, daher müsstest du dir selber was ausdenken oder die bisherigen Lösungsansätze anschauen.
Das Problem einer "bösen" KI besteht wohl darin, dass sie entweder eigene Ziele entwickelt, zur Ressourcenkrake wird oder die gegebenen Ziele auf eine Weise löst, die uns nicht gefällt.
Vielleicht hilft ja was davon

[Volker]

Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 

[Sparks]

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 

Das führt zu einem Klassiker der SF Literatur: "Wing 4" von Jack Williamson. ;O)

Den habe ich mit 10 in der Stadtbücherei verschlungen. Ausleihen durfte ich ihn nicht, weil keine passende Altersfreigabe, aber wenn ich mit dem Buch in der Bücherei blieb und dort gelesen habe, hat das keinen Interessiert. ;O)

Grüße: Bernd

[Madrisa]

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 

Hihi! Unser ganzer Lebenstil wäre ein Problem. Aber ja, wie du @Sparks schreibst, mir kam auch gleich Wing 4 und die Entscheidung "Sicherheit oder freier Wille" in den Sinn. Damit tangieren wir jetzt nicht nur Fragen nach KI, sondern v.a. solche nach dem Menschsein. Insofern hängt die Frage nach der KI letztlich auch mit den Werten und Zielen der fiktiven Gesellschaft in der jeweiligen SciFi zusammen.

@Sparks, auf Deinen vorletzten Beitrag zu den Robotergesetzen von Asimov würde ich antworten, dass sie für uns so selbstverständlich sind, weil wir in einer Kultur leben, in der wir gewisse menschliche Ziele verfolgen (geprägt von einem neoliberalen Spätkapitalismus). Sie erscheinen uns deshalb so natürlich wie ein "Schwert". Aber das ist eine US-europäische Sicht auf die Welt. Es gäbe andere Möglichkeiten, KI zu denken; z.B. nicht in Bezug auf den Menschen oder im Kontext eines nicht-materiellen Weltbildes. Die Frage ist deshalb, ob wir als SciFi-Autor*innen diese Weltsicht reproduzieren, kritisieren oder umdenken möchten. Beziehungsweise, was für ein Menschenbild und was für eine Gesellschaftsform wir entwerfen wollen. Und da hat SciFi schon enorme Möglichkeiten.

[Cooky]

Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 

Der Hauptreiz an seinen Geschichten war doch ohnehin, wie man Situationen konstruiert, in den die Gesetze ausgehebelt werden. All diese Punkte sind dann spannende, neue Plots, wie man Roboter in Konflikte versetzen kann.

Ich habe die Robotergesetze auch schon verwendet, gehe da aber davon aus, dass sie zwar von Asimov erfunden, historisch dann aber Einzug in die tatsächlichen Robotik gefunden haben. Zumindest dem Sinn nach. So einfache anmutende Regeln tatsächlich zu programmieren, ist dann wieder ein ganz anderes Projekt. Eine KI, die anhand von Fallbeispielen lernt, was schädliches Verhalten ist, könnte da gut passen. Und dann würde jeder Roboter, der erfährt, dass zu seiner Programmierung Menschen verletzt wurden, in den nächsten Konflikt geraten