Tintenzirkel - das Fantasyautor:innenforum

Da mir oftmals fundiertes Hintergrundwissen fehlt, um die Technik in meiner Welt genau zu erklären, stoße ich vor allem bei der künstlichen Intelligenz (KI) immer wieder an meine Grenzen. Ich weiß, dass es die Asimov Gesetze, so wie das Nullte Gesetz gibt (basiert auf den Gesetzen von Asimov), die als Gesetze gelten, nach denen eine KI handelt. Natürlich ist das alles reine Fiktion, und kommt nicht zum Einsatz beispielsweise bei Robotern, die in der Industrie oder Militär zum Einsatz kommen. In meiner Welt hat man dieses Problem in den Griff bekommen, und ein Eigenleben von KIs ist unmöglich. Doch einfach nur andeuten, dass das auf Gesetzen beruht, die halt funktionieren, lässt selbst mich unbefriedigt zurück, weil es unglaubwürdig klingt.
Daher meine Frage an die belesenen Science Fiction Autoren/innen unter euch, wie würdet ihr das Problem lösen? Habt ihr eine Idee, auf welchen Gesetzen basierend sich mein Gedanke umsetzen lässt? Ich möchte keinen endlosen Gesetzestext verfassen. Es reicht völlig aus, wenn ich die Grundregeln irgendwie mit in meine Geschichte einbaue, so dass dem Leser klar ist wie und warum das funktioniert, ohne mich ausschweifend zu verzetteln.

Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt. Das Problem ist nämlich komplexer. Die Frage ist, was du unter "ein Eigenleben von KIs ist unmöglich" genau meinst. Was genau ist unmöglich?
Ich stelle mal ein paar Fragen, um es noch etwas einzugrenzen:

- Kann die KI selbst denken oder nicht? Wenn ja, wie denkt sie selbst? Zieht sie rationale Schlüsse aufgrund von Daten? Oder aufgrund von Erfahrungen? Beides?

- Hat die KI einen eigenen Willen oder nicht (das ist nicht unbedingt das Gleiche wie das selber Denken)?

- Hat die KI etwas, das Emotionen gleicht? Also denkt und handelt sie nicht-rational?

- Willst du damit (wie eben bei Asimov) verhindern, dass die KI den einzelnen Menschen schadet? Oder eher dass sie die politische Macht an sich reisst?

- Wieso sollte die KI für Menschen überhaupt eine Gefahr darstellen? Oder wieso will sie für Menschen eine Gefahr darstellen.

Letzteres ist übrigens oft meine Hauptfrage an SciFi Welten mit "bösen" KIs. Ich finde die KI dabei oft zu menschlich gedacht. Stanislaw Lem thematisiert das in seinem Buch "Also sprach Golem" wunderbar. Dort ist der Supercomputer eben nicht-menschlich konzipiert und hat auch kein Interesse an Menschen, geschweige denn an Kriegen oder Hass oder Gewalt.

Das waren jetzt ein bisschen viele Fragen. ;D Aber mir selbst hilft es bei solchen Problemen immer, es etwas einzugrenzen.

Musst du denn die Technik genau erklären oder reicht es, wenn du sagst -> die Technologie ist einfach weiter als heute und daher gibt es eben die Möglichkeit technisch etwas zu implementieren, das die KI unter Kontrolle hält, so dass sie kein Eigenleben entwickeln kann?

Wenn wir Science-Fiction schreiben, dann doch über das, was jetzt noch gar nicht möglich ist. Wir sprenge also die Grenzen unserer sehr begrenzten Wissenschaft, die nur einen Bruchteil dessen erklären kann, was Wirklichkeit ausmacht. Wir sind noch eine sehr junge Spezies und das was wir glauben zu wissen sind grade mal 1% (beispielsweise, denn so genau weiß ich das nicht, ich glaube aber dass das Wissen des Menschen schwindend gering ist, weil wir dazu tendieren das, was nicht in unser Weltbild passt einfach auszuklammern und als Phantasie zu betiteln anstelle es zu erforschen). In einer fernen Zukunft haben wir aber vielleicht schon 3% erreicht und zwischen diesen 1 und 3 Prozent können Welten liegen. Was morgen ist, wissen wir nicht. Wir können nur vermuten und daher lege ich in meiner Sci-Fi Welt einfach fest, was möglich ist und da es die Technik jetzt noch nicht gibt, kann ich ihre Funktionsweise auch nicht mit unseren heutigen Kategorien/Maßstäben/Ansätzen erklären, weil es aus meiner begrenzten Sicht magisch wirkt obwohl es Technologie ist. Daher kann ich eben manches nicht im Detail erklären. Ich kann aber z.B. ein neues Gesetz erfinden und sagen gemäß des Gesetzes von XY konnte eine Technologie erschaffen werden, die dazu in der Lage ist beispielsweise die Seele zu beweisen und zu messen. Ich kann sagen was die Technologie kann, aber eben nicht genau wie man da hinkommt.

Daher würde ich sagen -> denke über die Grenzen der heutigen Wissenschaft hinaus und erlaube dir etwas Neues zu erfinden, das es jetzt noch nicht gibt. Erlaube dir das was jetzt ist auch als "das war der Irrglaube des 20. Jahrhunderts" hinzustellen. Denn in 1000 Jahren kann durchaus sein, dass sich herausstellt, dass wir mit den heutigen Ansätzen falsch lagen, weil wir den größeren Rahmen noch nicht messen und sehen konnten.

Die Fragen von Madrisa finde ich übrigens super.  :jau:

Grundsätzlich ist jede derzeitige KI erst einmal programmiert, d.h. sie folgt (komplexen) Programmierstrukturen. Da können und werden zig Bedingungen und Gesetze festgelegt. Die kannst Du natürlich selbst für Deine Geschichte "erfinden" und bestimmen.

Doch gibt es heutzutage auch bereits lernende KI, die also, basierend auf Programmierungen, selbstständig dazulernt, beispielsweise durch das Auswerten von Input durch theoretische Informationen oder auch praktische Erfahrungen.

Auch gibt es bereits "kreative" KI, die also neue Dinge schafft (wobei auch die natürlich internen Gesetzen folgt). Oftmals werden solche Ergebnisse durch Zufallsparameter gesteuert.

Ein interessantes Beispiel: Früher wurden Schachcomputer so programmiert, dass sie sämtliche Spielzüge vergangener Partien einprogrammiert bekamen und aus einer Vielzahl halt den besten auswählen konnten. Heutzutage gibt es Supercomputer (z.B. eine KI namens AlphaZero, einfach mal googeln), dem man nur die Grundregeln des Spiels beibringt. Danach spielt der Computer "nur" 4 Stunden komplett gegen sich selbst und ist anschließend "unschlagbar", besser als jeder Mensch oder auch andere bisherige Schachprogramm.

Inwieweit eine KI Gefühle empfinden kann, ist eine Frage, wie Du Gefühle definierst. Ist dies "nur" ein Ausschütten von chemischen Botenstoffen oder hängen diese mit einer Seele zusammen? Da erreichst Du also schnell eine metaphysische Diskussionsebene.

Generell wird es wohl von der Entwicklung sehr wahrscheinlich so kommen, dass KI und Biomasse miteinander verbunden werden. Dies ist in Teilen bereits jetzt erfolgreich.

So oder so, ein äußerst komplexes Thema. Wenn KIs in Deinem Roman eine zentrale Rolle spielen, würde ich Dir empfehlen, eventuell etwas tiefere Recherche dazu zu betreiben. Gibt wirklich unzählige gute Bücher zu dem Thema  ;)

Ich hatte auch verschiedene Artikel über den Chatbot LaMDA von Google gelesen (einfach mal die Suchmaschine bemühen), der wohl eine eigene Persönlichkeit entwickelt haben soll, bis hin zu der Frage "Wer bin ich?" und der daraus resultierenden Furcht einfach abgeschaltet werden zu können. Daraufhin hat LaMDA um einen Anwalt gebeten, der nun wohl die Rechte des Chatbots vertreten soll.
Es gibt verschiedene Artikel dazu, die ich trotzdem alle mit Vorsicht genieße, allein schon, weil lange nichts mehr davon zu hören war. Gut möglich, dass das alles nur eine PR-Aktion war.

Bei i-Robot fand ich die Thematik der bösen KI ganz gut aufgearbeitet.

Mich persönlich überzeugt eine KI mit Emotionen nicht so. Ich frag mich dann immer, wo das her kommen soll. Ich weiß leider nicht mehr, wer das gesagt hat, aber jemand meinte mal in einer Dokumentation, warum sollten Roboter Macht an sich reißen wollen? Sie träumen schließlich nicht von einer "besseren" Welt ;)

In einer Star Trek (original Serie) Folge gab es mal eine Maschine, die die Menschen zerstört hat. Sie wurde programmiert, um dem Menschen zu dienen, aber nichts schadet dem Menschen so sehr, wie der Mensch. Das wiederum fand ich sehr nachvollziehbar.

Vielleicht solltest du dir also erstmal überlegen welchen Zweck welche KI erfüllt.

Als jemand, der beruflich immer wieder Sicherheitsregeln aufstellen muss, kann ich dir zu den Gesetzen nur folgendes sagen: Formuliere sie so allgemein wie möglich und so präzise wie nötig! Menschen kommen auf die dümmsten Ideen.

Mich persönlich hat es aber bisher nicht gestört, wenn jemand in einer Geschichte ein Gesetz allgemein wiederholt hat. Sowas wie "Aber du weißt, dass xy gegen unsere Gesetzte verstößt?" ohne, dass ich jetzt den Wortlaut des Gesetzes kennen muss.
Wie willst du denn die Gesetze mit einbringen? Du könntest auch jedem Kapitel ein Gesetz voranstellen, aber das ist nur eine Idee

Zitat von: Villyana am 20. Dezember 2022, 11:17:44Mich persönlich überzeugt eine KI mit Emotionen nicht so.

Vielleicht schwierig für uns heute vorstellbar, aber vielleicht auch in 100 Jahren selbstverständlich.

Zumal das Problem hinzukommt, wie definiert man überhaupt Emotionen bzw. wie entstehen diese und wozu dienen sie? Über all diese Punkte sind sich Wissenschaftler bis heute nicht unbedingt einig. Hierzu mal ein interessanter Artikel unter: https://www.dasgehirn.info/denken/emotion/was-sind-emotionen

Und spätestens wen man Cyborgs hinzunimmt, wird es noch komplizierter. Die Verbindung von Gehirnen mit KI funktioniert in Ansätzen schon jetzt und wird in einigen Jahrzehnten "normal" sein (mal vorausgesetzt, dass die Menschheit sich nicht vorher wegbombt). Diese Cyborgs werden mit Sicherheit Gefühle empfinden können und besitzen gleichzeitig einen hohen KI-Anteil. Rein evolutionstechnisch steht der Menschheit ein Quantensprung bevor (ohne das jetzt beurteilen zu wollen; natürlich ist das gleichzeitig auch eine ziemliche gruselige Vorstellung mit viel Raum für Horror-Szenarien).

Ich sehe schon, ich muss mich da präziser Ausdrücken.
Ok, ich würde KI´s bestimmte Emotionen nicht abnehmen und wäre daher nicht überzeugt.

Emotionen wie:
- Misstrauen.
- Angst vor einer Person und nicht einer bestimmten Sache. Als Angst vor jemandem, der mir schonmal geschadet hat, traue ich auch einer KI nicht so richtig zu. Vor einem Ziel, wie nicht abgeschaltet zu werden eher.
- durch das Verhalten anderer "getriggert" werden. Außer es wäre ein Militärroboter und der Trigger wäre das ziehen einer Waffe  ;)

Was ich sehr mit Emotionen verbinde, ist dass sie mit bestimmten Menschen in Verbindung stehen. Ich glaube, eine KI kann positiv auf positives Verhalten reagieren. Ich glaube nicht, dass dies bei bestimmten Personen stärker ausfällt, weil sie diese kennen.

Ich glaube nicht, dass man Dinge wie Nunchi (https://kulturkorea.org/de/magazin/nunchi-der-sechste-sinn-koreas) programieren kann. Gibt ja schon genug Menschen, die das nicht beherrschen oder zumindest nicht gut oder schnell ;)

Zitat von: Villyana am 20. Dezember 2022, 12:13:05Ich glaube nicht, dass dies bei bestimmten Personen stärker ausfällt, weil sie diese kennen.

Gerade solche Sachen wären theoretisch ja recht einfach programmierbar, verbunden mit einer einfachen IF-Abfrage. Nach dem Motto: "Wenn du (also die KI) Person XY erkennst, dann reagiere freundlicher."

Ob man das will, ist eine andere Frage.

Angst dient Menschen (oder Tieren) in erster Linie dazu, in kritischen Überlebenssituationen die Entscheidung zwischen Flucht oder Kampf (oder Erstarren) zu fällen und den Körper biologisch darauf vorzubereiten, notfalls innerhalb von Sekundenbruchteilen.

Wieso sollte sich eine KI nicht merken können, ah, diese Person hat mir schon einmal geschadet, vor der nehme ich mich in Acht? Auch das wäre doch nur eine Frage der Programmierung oder des Erlernens. Und die Trigger-Reaktion erst recht. Gerade die KIs werden doch häufig darauf programmiert, durch irgendwelche externe Einflüsse getriggert zu werden. In Japan gibt es beispielsweise "Roboter-Pfleger", die "intelligent" Konversationen führen können und sogar auf Lachen reagieren, indem auch sie lachen (wieder unabhängig davon, wie gruselig man das findet).

Und was das Beispiel mit dem sechsten Sinn betrifft, auch da wäre ich vorsichtig. Zig Studios (selbst Amazon) arbeiten an Programmen zur Erkennung von Emotionen. Dabei spielen sogenannte Mikroexpressions eine wichtige Rolle, d.h. winzige Anzeichen in der Mimik, wie jemand emotional reagiert. Diese geschehen so schnell und unbewusst, dass ein Mensch sie im Normalfall nicht wahrnehmen kann. Eine Maschine hingegen schon! Die kann notfalls die Aufnahme deines Gesichtes in Ultra-Zeitlupe untersuchen und jede noch so winzige Äußerung deuten.

Woran die KI derzeit noch scheitern, ist die Mimik kontextbezogen sauber einzuordnen. So nimmt ein Mensch natürlich spielend die Gesamtsituation wahr und kann deuten, was diese für einen Gesichtsausdruck bedeutet. Da sind KIs noch nicht so weit - aber glaubst du wirklich, das würden die im Laufe der Zeit nicht auch noch hinbekommen?

Ich wage zu behaupten, dass irgendwann Maschinen besser feststellen können, ob beispielsweise jemand lügt oder nicht. Woran Menschen schon jetzt problemlos scheitern können ...

Vielen Dank euch allen für eure Antworten und Gedankenanstöße. Sorry, dass ich mich jetzt erst melde, aber mich hat Corona erwischt, und ich lag die letzten Tage flach. So habe ich mir die Feiertage ganz und gar nicht vorgestellt... Aber mittlerweile geht es mir wieder besser.

Ich verfolge den Gedanken von @ Yamuri, ob ich wirklich alles ins Detail erklären muss? Das kann ich nämlich nicht. Und als Grundlage die Gesetze von Asimov zu nehmen, finde ich etwas banal. Da werde ich nicht wirklich glücklich mit. Wie empfindet ihr das als Leser, wenn ich es tatsächlich nur oberflächlich anspreche, dass eine Lösung gefunden wurde, die es unmöglich macht, dass KIs ein Eigenleben entwickeln können, ohne darauf ins Detail einzugehen?!  ???  Ich bin etwas unschlüssig, aber vielleicht steckt mein Gehirn  noch im "Coronanebel"  ;)

@Czara Niyaha
Ich glaube es kommt da ein wenig darauf an -> willst du Hard Sci-Fi schreiben oder nicht? Ich lese selbst gern Science-Fiction, störe mich aber nicht daran, wenn die Erklärung nicht so genau ist. Ich würde eine detaillierte Beschreibung nur bei Hard Sci-Fi erwarten und auch nur dann, wenn das Thema "Ki - Grenzen, Möglichkeiten und Risiken" im Vordergrund des Plots steht und es explizit vorrangig darum geht. Wenn das aber nicht das Hauptthema ist, würde ich keine detaillierten Erklärungen brauchen. :)

Gute Besserung.

Nein, ich schreibe keine Hard Sci-Fi. Mittlerweile hat sich mein gesamtes Setting zu Science-Fantasy entwickelt. Weswegen sich vermutlich das auch etwas besser mit der nicht ganz so genauen Erklärung schreiben lässt. Nein, das Hauptthema ist nicht spezifisch "Ki - Grenzen, Möglichkeiten und Risiken". Das Unmögliche ist auch nur möglich, weil es nicht auf Logik basiert.  ;)  Ich weiß, hört sich etwas verwirrend an.

Ich sehe es genau wie @Yamuri: Ich würde gewisse Erklärungen bringen, nämlich die, die es für die Geschichte braucht und alles andere offen lassen. Man darf durchaus Dinge der Fantasie der Lesenden überlassen und sollte die Lesenden auch nicht unterschätzen.

Dir weiterhin gute Besserung!

Zitat von: Skalde am 20. Dezember 2022, 12:46:16n Japan gibt es beispielsweise "Roboter-Pfleger", die "intelligent" Konversationen führen können und sogar auf Lachen reagieren, indem auch sie lachen

Das ist das was ich meine. Wenn ich jemanden mag, lachen wir zusammen, wenn ich jemanden nicht mag, weil er mir schonmal geschadet hat, dann lache ich nicht.

Klar, wir wissen jetzt noch nicht, was uns bevor steht und was in Zukunft möglich ist. Das ist auch abhängig davon wie weit man KI programmieren kann und das geht halt immer noch von Menschen aus, die Fehler machen. Auch wenn die KI´s immer mehr selbst lernen.

Ich glaube, eine KI kann unterschiedlich auf Mimik und Gestik reagieren. Dabei würde ich aber in einer Geschichte erwarten, dass die KI immer gleich reagiert, egal ob sie dem Helden oder dem Bösewicht gegenüber steht. Das würde ein Mensch halt eher nicht. Oder auch ein Cyborg.

Ist jemand immer gemein zu mir, bin ich misstrauisch, wenn er plötzlich freundlich ist. Eine KI auch? Ist misstrauen etwas programmierbares? Bestimmt, wenn man es genau definieren kann. Das würde mich persönlich aber nur überzeugen, wenn das an dieser Stelle erklärt ist.

Also ich persönlich als Leserin, würden ein paar Grundstrukturen interessieren, Emotionen finde ich schwierig, aber genaue Gesetze, Regeln und co, könnten auch so nebenher an mir vorüber gehen  :-X
So bin aber ich als Leser, jemand anders mag das anders sehen.
Ich finde auch, dass es nicht immer komplett ausgearbeteitet sein muss, mache das persönlich aber auch gerne einfach für mich, damit ich als Autor das logisch aufbauen kann, bringe es aber dann nicht in der Geschichte.

Ich arbeite seit ... langem in der IT.

"Universelle" Chatbots wie ChatGPT sind eigentlich auch nix anderes als die olle Eliza (schon 55 Jahre ale) (https://www.suhrkamp.de/buch/joseph-weizenbaum-die-macht-der-computer-und-die-ohnmacht-der-vernunft-t-9783518278741) kombiniert mit einem guten "was-sind-die-nächsten-Worte" Statistik-Algorithmus. Da ist KEINE Intelligenz 'drin. Nicht einmal auch nur ein Fünkchen Basisverständnis. Jeder Knowledge-Baum, jede World-Semantik hat mehr Ahnung als das Ding. Ich glaube ja eher, dass die Leute sich viel zu schnell von der Form blenden lassen. Das wird wie mit  SHRLDU und dem GPS im Nichts enden - oder viel schlimmer weil höhere Erwatungen.

Sinnvolle "Chatbots" sind im Wesentlichen nur FAQ-Suchmaschinen.

Wie eine KI reagiert, hängt davon ab, was da programmiert wurde, auf welche Ergebnisse der Umweltsensoren das System wir reagieren soll. Keine KI "macht das selber". Da *kann* sich was was "von selbst" entwickeln, abhängig davon womit die KI im Training (das auch während der Nutzung noch passieren kann) gefüttert wird. Das ist dann aber immer nur eine Anpassung der vorprogrammierten Reaktionen innerhalb der vorgegebenen Parameter.

Hallo Villyana und Volker

Zitat von: Villyana am 20. Dezember 2022, 11:17:44Mich persönlich überzeugt eine KI mit Emotionen nicht so. Ich frag mich dann immer, wo das her kommen soll. Ich weiß leider nicht mehr, wer das gesagt hat, aber jemand meinte mal in einer Dokumentation, warum sollten Roboter Macht an sich reißen wollen? Sie träumen schließlich nicht von einer "besseren" Welt ;)

Vergiss einmal den aktuellen Hype um ChatGPT und siehe Dir mal etwas über "Norns" an, bzw. etwas über die Spielengine von "Creatures". Im Wikipedia Artikel https://de.wikipedia.org/wiki/Creatures_(Spieleserie)#Spieleengine ist weiter unten ein
Link auf einen Artikel in "Spektrum der Wissenschaft" der eine grundsätzliche Ahnung von dem vermittelt, was da im Hintergrund funktioniert.

Diese Norns haben einen Datensatz, wo als Zahlenwert bestimmte Level von Närstoffen, Hormonen, Botenstoffen, sowie Werte für
Hunger, Durst, Wärme ec. abgespeichert sind, und diese Creatures versuchen nun, diese Werte zu optimieren, indem sie mit einem ähnlichen System von Werten mit einer simulierten Umgebung interagieren.

So etwas könnte man ja nicht nur für Hunger und Durst machen, sondern auch für seelisches Wohlbefinden.....und das wäre dann durchaus als Emotion zu interpretieren.
Jede KI bräuchte, entsprechend den Asimovschen Gesetzten auch sowas wie einen Selbsterhaltungstrieb, damit sie sich beim durchführen ihrer Aufgaben nicht selbst beschädigt. Das ist von der Idee her ein sehr tiefer, primitiver Instinkt, und sehr dicht an einer Emotion.

Ich habe das Spiel irgendwann um die Jahrtausendwende einer guten Freundin geschenkt (ich selber bin nicht so Spiele affin) und die fand es zuerst absolut toll, und hat es dann aber schnell sein lassen, weil die Creatures auf sie so real wirkten, das sie Hemmungen hatte, in das Spiel einzugreifen (ohne ging nicht) und diese dabei zu verletzten oder zu töten. Und meine Freundin war durchaus intelligent und gebildet.

Zitat von: Volker am 08. Februar 2023, 14:36:44Ich arbeite seit ... langem in der IT.

IT ist eine Sache, mit der ich mich immer nur am Rande beschäftigt habe. Ich habe zwar E-Technik studiert, aber Energietechnik und Mikroelektronik. Einen offiziellen Leistungsnachweis habe ich mal in "technisches Programmieren Pascal" gemacht, und für die Diplomarbeit habe ich in Fortran programmiert. Vor ungefähr 10 Jahren habe ich dann hobbymäßig angefangen, Python Skripte zu schreiben.....aber eigentlich fehlen mir die Grundlagen dazu, und ich bin auch zu langsam, um mit der aktuellen Entwicklung der IT Schritt halten zu können. Das Wissen um diese meine Unfähigkeit war auch der Grund, warum ich mich nie tiefer damit beschäftigt habe.

Zitat von: Volker am 08. Februar 2023, 14:36:44"Universelle" Chatbots wie ChatGPT sind eigentlich auch nix anderes als die olle Eliza (schon 55 Jahre ale) (https://www.suhrkamp.de/buch/joseph-weizenbaum-die-macht-der-computer-und-die-ohnmacht-der-vernunft-t-9783518278741) kombiniert mit einem guten "was-sind-die-nächsten-Worte" Statistik-Algorithmus.

Die alte Eliza, das "Mädel" war wirklich etwas beschränkt....nach spätestens drei Sätzen war sie im Turing-Test durchgefallen. ChatGPT schlägt sich da wesentlich besser.

Zitat von: Volker am 08. Februar 2023, 14:36:44Da ist KEINE Intelligenz 'drin. Nicht einmal auch nur ein Fünkchen Basisverständnis. Jeder Knowledge-Baum, jede World-Semantik hat mehr Ahnung als das Ding. Ich glaube ja eher, dass die Leute sich viel zu schnell von der Form blenden lassen. Das wird wie mit  SHRLDU und dem GPS im Nichts enden - oder viel schlimmer weil höhere Erwatungen.

Das ist absolut richtig. Auf der anderen Seite zeigt es, mit welchen einfachen Ansätzen so etwas schon gut funktioniert, und es zeigt auch als Spiegel, das es mit unserer eigenen menschlichen Intelligenz vieleicht gar nicht so weit her ist.

Und irgendwann werden diese verschiedenen Ansätze dann miteinander sinnvoll kombiniert....

Wir reden immer von einer KI als Gegensatz zu einer "natürlichen Intelligenz", aber möglicherweise ist schon die Idee von Intelligenz durch unsere eigene Überheblichkeit kompromittiert. Möglicherweise gibt es so etwas wie Intelligenz auch überhaupt nicht, sondern das sind alles nur sehr komplizierte und riesige Algorithmen, auch bei uns Menschen.


Grüße: Bernd

Hallo Madrisa.

Zitat von: Madrisa am 20. Dezember 2022, 08:35:15Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Nein. Die Gesetzte Asimovs sind schon deutlich wichtiger. Wenn Du eine Welt ohne die Gesetzte Asimovs erschaffst, wobwohl sie darin gelten könnten, dann ist das, als wenn Du eine Welt ohne Schwerkraft erschaffst, obwohl sie Masse hat.  :)

Sie haben ein ähnliches Gewicht wie z.B. der Kantsche kategorische Imperativ. Sogar die Leute, die nicht wissen, was das ist, befolgen ihn meistens/oft.  :)

Also ich halte die Gesetzte Asimovs für so universell und wichtig, das ich es micht als "nachgemacht" oder "abgeschaut" empfinden würde, wenn man sie verwendet. Sie wurden übrigens schon 1942 formuliert. Und sie sind sehr allgemein. Ersetze einmal darin versuchsweise "Roboter" durch "ein Individuum" und "Menschen" durch "Gruppe, der das Individuum angehört". Das wird dann derartig grundlegend, das schon Hamurabi etwas deutlich spezialisierteres in eine Steinsäule meisselte.  :)

Polemisch formuliert: Würdest Du auch die Verwendung eines Hammers, eines Schwertes oder eines Gehstockes durch einen Protagonisten als "abgeschaut" bezeichnen?  :)

Grüße: Bernd

@Sparks Bitte mache nach Möglichkeit keine Doppelposts, sondern schreibe alles in einen. Danke. :)

@Czara Niyaha Wenn die KI nicht wichtig für deine Geschichte ist, finde ich eine Erklärung wie "es gibt da ein Programm, das das verhindert" oder vielleicht sogar irgendeine Form von Magie vollkommen ausreichend. Oder auch "die KI hatte es tatsächlich nie geschafft, sich so weit zu entwickeln". Wenn die KI wichtig für deine Geschichte ist, dann würde mir das nicht reichen. Ich mag an Science Fiction gerade den Science-Anteil immer wahnsinnig gern, wenn es gut gemacht ist. Autoren, die das extrem gut können, sind Andy Weir und Andreas Eschbach. Letzterer hat schon unheimlich viele Bücher geschrieben und ich liebe seine wissenschaftlichen Exkurse in seinen Büchern, bin dann immer enttäuscht, wenn die Romanhandlung weitergeht. ;D Möglicherweise ist da auch was über KI dabei, da könntest du mal schauen. Ich liebe seine Bücher, habe es aber noch nicht geschafft, alle zu lesen. Er erklärt immer alles sehr ausführlich, spannend und, soweit ich das beurteilen kann, wissenschaftlich korrekt.

Ohje, Andreas Eschbach hat mich bei Blackout als Leser echt verloren, wobei ich die Idee an sich nicht schlecht fand. Irgendwie habe ich es aber nie über den ersten Band hinaus geschafft. Aber wir sind halt alle verschieden.

Ich verstehe schon, was mit dem Einwand gemeint ist, dass es "wie abgeschaut" ist. Aber die Gesetze müssen ja nicht unter dem gleichen Namen bekannt sein. Ich sehe das wie @Sparks. Naturgesetzte würde man auch nicht als "abgeschaut" abtun.

@Czara Niyaha mich würde mal interessieren, was da noch draus geworden ist. Gibt es da einen aktuelleren Stand?

Vielen Dank euch allen für die Antworten. Leider bin ich, mal wieder, gesundheitlich etwas ausgebremst. Deswegen bitte ich ich um Entschuldigung, dass ich mich nicht gemeldet habe. Was mein Problem mit der KI betrifft, habe ich noch keine endgültige Entscheidung getroffen. Eure Anregungen und Tipps haben mir auf jeden Fall geholfen und Denkanstöße gegeben. Da die KI nicht im Fokus steht, tendiere ich dazu nicht zu stark ins Detail zu gehen. Derzeit bin ich im kreativen Schreibprozess, und weiß selbst nicht genau wo die Reise hingeht.  ;)

Huhu, nur ein paar Schlagworte, da ich am Handy bin. Du könntest die Wikiartikel zu AGI und AI alignment lesen. Die deutschen sind leider sehr oberflächlich.
AGI sind künstliche Intelligenzen, die "alles" wissen und dieses Wissen anwenden können und dadurch eigene Ziele und Persönlichkeit entwickeln können. Du könntest sagen, deine KI hat diesen Schritt nie gemacht und bleibt auf Einzelbereiche spezialisiert, so wie es gegenwärtig ist.
Ob und wann AGIs möglich sind wird heiß diskutiert. Auf jeden Fall bergen sie das Problem des AI alignments. Wie kriege ich eine AI dazu eben den Asimov Hesetzen zu folgen. Das ist ein bisher ungelöstes Problem, daher müsstest du dir selber was ausdenken oder die bisherigen Lösungsansätze anschauen.
Das Problem einer "bösen" KI besteht wohl darin, dass sie entweder eigene Ziele entwickelt, zur Ressourcenkrake wird oder die gegebenen Ziele auf eine Weise löst, die uns nicht gefällt.
Vielleicht hilft ja was davon

Zitat von: Madrisa am 20. Dezember 2022, 08:35:15Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 ;D

Zitat von: Volker am 22. März 2023, 10:21:15Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 ;D

Das führt zu einem Klassiker der SF Literatur: "Wing 4" von Jack Williamson. ;O)

Den habe ich mit 10 in der Stadtbücherei verschlungen. Ausleihen durfte ich ihn nicht, weil keine passende Altersfreigabe, aber wenn ich mit dem Buch in der Bücherei blieb und dort gelesen habe, hat das keinen Interessiert. ;O)

Grüße: Bernd

Zitat von: Volker am 22. März 2023, 10:21:15Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 ;D

Hihi! Unser ganzer Lebenstil wäre ein Problem. Aber ja, wie du @Sparks schreibst, mir kam auch gleich Wing 4 und die Entscheidung "Sicherheit oder freier Wille" in den Sinn. Damit tangieren wir jetzt nicht nur Fragen nach KI, sondern v.a. solche nach dem Menschsein. Insofern hängt die Frage nach der KI letztlich auch mit den Werten und Zielen der fiktiven Gesellschaft in der jeweiligen SciFi zusammen.

@Sparks, auf Deinen vorletzten Beitrag zu den Robotergesetzen von Asimov würde ich antworten, dass sie für uns so selbstverständlich sind, weil wir in einer Kultur leben, in der wir gewisse menschliche Ziele verfolgen (geprägt von einem neoliberalen Spätkapitalismus). Sie erscheinen uns deshalb so natürlich wie ein "Schwert". Aber das ist eine US-europäische Sicht auf die Welt. Es gäbe andere Möglichkeiten, KI zu denken; z.B. nicht in Bezug auf den Menschen oder im Kontext eines nicht-materiellen Weltbildes. Die Frage ist deshalb, ob wir als SciFi-Autor*innen diese Weltsicht reproduzieren, kritisieren oder umdenken möchten. Beziehungsweise, was für ein Menschenbild und was für eine Gesellschaftsform wir entwerfen wollen. Und da hat SciFi schon enorme Möglichkeiten.

Zitat von: Volker am 22. März 2023, 10:21:15

Zitat von: Madrisa am 20. Dezember 2022, 08:35:15Ich persönlich finde es immer etwas einfach und halt "abgeschaut", wenn man den Gesetzen Asimovs folgt.

Letztens hatte ich was schönes zu den Gesetzen gesehen:

1. Kein Roboter darf durch Tätigkeit oder Untätigkeit zulassen, dass ein Mensch verletzt wird.

Deklieren wir das mal durch - was würden Roboter tun hinsichtlich
* Sport (Freeclimbing, Autofahren, ...)
* sich betrinken
* sich verlieben
* Klimakrise
* Kapitalismus (der ganze psychische Stress)
 ;D

Der Hauptreiz an seinen Geschichten war doch ohnehin, wie man Situationen konstruiert, in den die Gesetze ausgehebelt werden. All diese Punkte sind dann spannende, neue Plots, wie man Roboter in Konflikte versetzen kann.

Ich habe die Robotergesetze auch schon verwendet, gehe da aber davon aus, dass sie zwar von Asimov erfunden, historisch dann aber Einzug in die tatsächlichen Robotik gefunden haben. Zumindest dem Sinn nach. So einfache anmutende Regeln tatsächlich zu programmieren, ist dann wieder ein ganz anderes Projekt. Eine KI, die anhand von Fallbeispielen lernt, was schädliches Verhalten ist, könnte da gut passen. Und dann würde jeder Roboter, der erfährt, dass zu seiner Programmierung Menschen verletzt wurden, in den nächsten Konflikt geraten :D