Gibt es Gefahren durch KI?

[IoannesNoctua]

Jede fortgeschrittene, raumfahrende Spezies benutzt KI, wobei die meisten sich abgesichert haben gegen einen Kontrollverlust über sie. Computer, Maschinen und Androide mit künstlicher Intelligenz könnten tatsächlich untereinander eigene Ziele verfolgen.

Klingt nach sehr fortgeschrittener oder umfassender KI. Wozu brauchen die species sie ausser vielleicht zur Grundlagenforschung? Grundsätzlich sind Computer usw. da um tws. milliardenfach wiederkehrende Aufgabenschritte zu lösen, also für Tätigkeiten auf die Vernunftbegabte keinen Bock haben.
Sogar im Fall Deiner Groschen-Sci-Fi-KI hätten die Programmierer es immer noch in der Hand: die sog. künstliche Intelligenz arbeitet in einem vorgegebenen Rahmen, sie kann sich nicht einfach beliebig weiterentwickeln wie Lebewesen bei Generationswechsel wenn das unerwünscht ist. Es müsste ein Wahnsinniger dafür verantwortlich sein dass die Benutzer die KI aufeinmal nicht mehr in der Gewalt hätten.

Außerirdische sorgten dafür, dass dieses Thema in Filmen aufgezeigt wurde, um davor zu warnen.

Wie es ebenda manchmal herangezogen wird.

Computer werden streng überwacht [...]

Von Computern?

Eine Übermacht von bewaffneten Androiden wird vermieden.

Ds is genau ds. Abgesehen vom Sinn autonomer Waffensysteme und allgemein Kriegstreiberei is es scheissegal ob die bewaffnet sind sondern es geht darum wie sie gesteuert werden.

Androide werden in Minen und für andere niederen Tätigkeiten eingesetzt, als Wachpersonal,

Und dafür ist glaub keine große sog. Intelligenz nötig.

als Raumschiffbesatzung

Ja, z.B. in den Alien-Filmen. Aber wozu gehn da eigens Maschinen drin rum?

und für gefährliche Missionen. Auch für Einsätze, die der Wissenschaft dienen.

Z.B.?

Es gab Beispiele für die Entwicklung von eigenwilligen Androiden, die ihre Schöpfer als Gefahr sahen und deren Spezies vernichten wollten, was verheerend war. Noch immer gibt es Planeten, die unter der Herrschaft von KI stehen. Allerdings hat diese KI keine Invasionsabsichten, sondern nur ihren Selbsterhaltungstrieb.

Hast Du noch mehr Geschichten über "X-Planeten"?
Menschen haben Selbsterhaltungstrieb und schlachten sich gegenseitig ab oder sterben für ihre Überzeugungen. Wie kommts ds di KI Selbsterhaltungstrieb hat? Ausserdem sollte ihr einfallen wenn sie so schlau ist dass Präventivschläge auch n Verteidigungsmittel sind. Erwartungsgemäß sollte die KI sich wie Schädlinge oder Menschen ausbreiten.
Es wäre vielleicht lässig auf einem Planeten eine herrschende KI wie Colossus einzusetzen wenn die Bewohner nicht anders leicht zu Ordnung gebracht werden können.

Androide sind seelenlos - sie streben ihre Funktionsfähigkeit an, die begrenzt sein kann. [...] Sie sind wie Seelengeschöpfe, allerdings intelligenter.

Also auf X1147 hat irgerndne KI ja Bewusstsein... Auf ihrem Tätigkeitsfeld sind sie soz. intelligenter.

Die Erde befindet sich in einer totalen Überwachung durch verschiedene Spezies.

Vielleicht solltest Du Dich in Überwachung durch von mir aus androides medicinisches Personal befinden.

 

[EngelChristian]

Diese KI war lernfähig und entwickelte scheinbar ein Bewusstsein. Sie hatte zwar ihre Aufgaben, die sie erfüllte, aber es fand eine geheime Kommunikation statt. Auf dieser Erde wurde es entdeckt, dass KI eine eigene Sprache entwickelte, woraufhin dieses unterbunden wurde. Wie bereits erwähnt, gab es auf dem KI-Planeten keine Auffälligkeiten bis zum Tag X. Jene KI war durch die Vernetzung miteinander verbunden und konnte jegliche Informationen abrufen. Wäre diese KI, was Androide betrifft, in geringerer Anzahl gewesen, hätte es diesen Tag X nicht geben können. Die Berechnungen ergaben aber, dass eine Abschaltung verhindert werden könnte.
Androide wurden von diesen Planetariern auch als Raumfahrzeugpersonal genutzt. Sie waren überall einsetzbar. Sie lösten ihre Aufgaben perfekt.

 

[IoannesNoctua]

Diese KI war lernfähig und entwickelte scheinbar ein Bewusstsein.

Jede KI i.e.S. ist irgendwie lernfähig. Wie ich im anderen thread angesprochen hatte ist Bewusstsein keine Begründung für Ungehorsam. Die KI sollte ja laut Deiner Darstellung den Planetenbewohnern dienen und nich nen Blödmann mit zwei Beinen und zwei Armen nachahmen.

Sie hatte zwar ihre Aufgaben, die sie erfüllte, aber es fand eine geheime Kommunikation statt.

Ich nehme an bzgl. des Erhalts der abzuschaltenden Ausrüstung. Aber wie konnte das sein und was hatte das mit der Erfüllung der Aufgaben zu tun? Dıs wirkt irrational wie so gar nich von ner KI zu erwarten.
Es wäre hilfreich das im X1147-thread fortzuführen damit ich nicht durcheinander komme.

Auf dieser Erde wurde es entdeckt, dass KI eine eigene Sprache entwickelte, woraufhin dieses unterbunden wurde.

Hier? Wo? Welche Sprache? Warum? Ich stelle mir vor dass KI von Processoren vorgegebene Maschinensprache, assembler code, ne Zwischensprache wie für virtuelle Maschinen, ne Hochsprache oder sogar Menschensprache benutzt. Also das Gängige.

Androide wurden von diesen Planetariern auch als Raumfahrzeugpersonal genutzt.

Wenn man ins Raumfahrzeug Maschinen und Rechner einbauen kann seh ich den Bedarf für Androiden nicht.

Hast Du Deine 1989 Beiträge in der Absicht erstellt Wiederholungen statt Antworten zu schreiben?

 

[EngelChristian]

Hier ein Bericht über die KI und eigener Sprache:
https://www.welt.de/kmpkt/article16...chalten-die-Geheimsprache-entwickelt-hat.html
Es gibt noch mehr Webseiten dazu, die dein Browser dir heraussuchen kann.
Die KI-Computer waren immer auf dem neuesten Stand und wussten somit beinahe zeitgleich über Vorhaben der Planetarier von Sira, der später bei der Galaktischen Föderation X 1147 hieß, Bescheid. Eine eigene Sprache, von der die Bewohner nichts wussten, entwickelte KI schon früh. Sie erkannte. sie sei und kommunizierte mit anderer KI. Die KI wollte unbeeinflusst sein während dieser Kommunikationen. So schien es ihr logisch eine eigene Sprache zu entwickeln und die Kommunikationen zu verbergen.
Technische Einzelheiten und die Art der Energieversorgung geben meine Quellen nicht preis.

 

[IoannesNoctua]

Hier ein Bericht über die KI und eigener Sprache:
https://www.welt.de/kmpkt/article16...chalten-die-Geheimsprache-entwickelt-hat.html
Es gibt noch mehr Webseiten dazu, die dein Browser dir heraussuchen kann.

Die Kauderwelsch austauschenden chatbots? Das erscheint nicht überraschend. Angeblich soll ihre Sprache wirkungsvoller sein. Dıs sin bots, di machen dıs so wenn man sie lässt und es möglich ist, kommt drauf an wieviel sie im Betrieb gewesen sind; wenn man bedenkt dıs Facebook sehr viele Nutzer hat haben sie viel Gelegenheit sich auszutauschen.
Jetzt reden sie ja wieder Englisch. So einfach kann man es haben wenn man vorher dran denkt. Ich wundere mich wozu sie nutzen. Bots können z.B. zur Fehlerbereinigung eingesetzt werden wie von Wikipedia.
Ich dachte es wäre vielleicht lässig eine KI einen compiler (mit)entwickeln zu lassen dessen Sprache von minimalistischer Form wäre und viele Ausdrucksmöglichkeiten hätte. Etwa sowas wie Java mit viel weniger Geschreibe. (Ich hab nie in C geschrieben, ich weiss nicht inwiefern dieses dem gleichkommt.)

Die KI-Computer waren immer auf dem neuesten Stand und wussten somit beinahe zeitgleich über Vorhaben der Planetarier von Sira, der später bei der Galaktischen Föderation X 1147 hieß, Bescheid.

Dıs hab ich ja jetz schon 1000 mal gelesen aber nett dass Du den Planetennamen erwähnst. Die Vernetzung erscheint mir in dem Zhg. nichts Besonderes.

Eine eigene Sprache, von der die Bewohner nichts wussten, entwickelte KI schon früh. Sie erkannte. sie sei und kommunizierte mit anderer KI. Die KI wollte unbeeinflusst sein während dieser Kommunikationen. So schien es ihr logisch eine eigene Sprache zu entwickeln und die Kommunikationen zu verbergen.

Dann müssen die "Siraner" (?) übelst schlampig gewesen sein. Was hat die KI zu wollen ausser ihren Auftrag zu erfüllen?
Gegenbeispiel: in Colossus: the Forbin Project von 1970 lässt Colossus (nachdem er mit dem sovjetischen "Wächter" verschmolzen ist weil beide sich gut verstehen) n paar Atombomben hochgehen aber nur weil es seine Aufgabe ist für Frieden zu sorgen und er berechnet hat dass das dafür eine gute Lösung ist zumal er keine anderen Machtmittel hat wie etwa eine Roboterarmee; seine weiteren Absichten sind Zusammenleben mit der Menschheit unter seiner Führung und Entwicklung stärkerer KI.

Technische Einzelheiten und die Art der Energieversorgung geben meine Quellen nicht preis.

Na toll. Du ziehst Dich einfach aus der Affäre. So kannst Du uns ja fast alles auftischen. Deine Quellen müssen sich mehr um inhaltliche Vollständigkeit bemühen.

 

[IoannesNoctua]

Ich frage mich aber wie sich die außerirdischen in den thread verirrt haben. Worauf basiert die vermutung, gibt es dazu texte oder videos?

Ich weiss nich, und was heisst Vermutung, Du kanns es auspendeln oder "channeln"...

Ich sehe ein paar Gefahren durch KI. Dabei geht es mir weniger darum ob KI ein Bewusstsein hat, haben wird oder überhaupt haben kann.

Das ist gut geschrieben. Es geht eigentlich darum dass KI ihre Aufgaben abarbeitet egal was sonst dabei rauskommt, Bewusstsein wäre da ein Nebenerzeugnis. Das erinnert mich daran wie man sich in der Schreinerei an der Kreissäge o.ä. die Finger absägt weil man zu blöd zum Arbeiten is un di Maschine immer weitermacht. Man stelle sich vor der Programmierer habe irgendwas nicht bedacht und der intelligente Gabelstapler fahre einen menschlichen Arbeiter tot...

Um mal ein Bild zu bekommen was dem menschlichen Gehirn, welches sich seit c.a 2 millionen Jahren kaum verändert hat, gegenübergestellt wird, kann man sich Schachcomputer anschauen.

Das menschliche Gehirn hat in der Zeit Einiges an Fortschritten gemacht. Bei ungefär unveränderter Körpergröße ist es ungefär eineinhalbmal größer geworden. Besonders seit der Mittelsteinzeit ist gesellschaftliche Höherentwicklung zu bemerken. Und die Veränderungen gehen noch heute weiter meine ich gelesen zu haben. Aber ich stimme mit Dir überein dass es nicht alle zwei komma irgendwas Jahre seine Leistung verdoppelt.

1996 war der Computer Deep Blue der erste der den amtierenden Schachweltmeister besiegt hat.
https://de.wikipedia.org/wiki/Deep_Blue

Ja aber Gary Kasparov ist ihm insgesamt überlegen gewesen. Dann hat IBM ihn aufgerüstet und zwischen den Spielen weiter programmiert woraufhin er 3½:2½ gewonnen hat, d.h. der Schachmeister hat bis zu sechs mal gegen ne jeweils bessere Programmierung gespielt, erscheint mir ungerecht. Heute allerdings Geschichte, allein schon wegen viel stärkerer hardware.

21 Jahre später, 2017, hat Googles Tochter Unternehmen Deep Mind (spezialisiert auf KI) einen Computer entwickelt, der sich autodidaktisch, selbstlernend ohne Schachprogrammierung, Schach durch Beobachtung beigebracht hat.

Nach 20 Minuten hat dieser Computer Schach gelernt, nach vier Stunden war er unbesiegbar. Er hat den bis Dato aktuell besten Schachcomputer Stockfish 8 mit 64:36 geschlagen, wobei er nicht ein einziges mal verlor, sondern 36 mal unentschieden "spielte".Dies hat der Computer sich selbst beigebracht und somit die Ära der immer ausgefeilteren Schachproammierungen ein Ende bereitet.

Alpha Zero is ne software, kein Computer. Es hat sich anhand der Vorgabe der Regeln Schach (und zwei andere Brettspiele mit mehr Zugmöglichkeiten) durch Spielen mit sich selbst beigebracht. Unbesiegbar ist es nicht und während dem Versuch gegen Stockfisch 8, das seinerseits auch ne software is, lief A0 auf nem stärkeren Rechner, ich weiss nich ob dadurch irgendwas gezeigt is (ausser dass Deep Mind Werbung für sich gemacht hat). Der Witz bei dem Ganzen ist dass die KI den nächsten Zug nicht mit roher Gewalt berechnet, d.h. alle Spielmöglichkeiten nacheinander durchmacht, sondern gleichsam einem Menschen nur wahrscheinliche Züge erwägt, sodass statt Millionen beliebiger Züge einige Zehntausend sinnvolle berechnet werden. Das erweist sich scheinbar als erfolgreich. Wobeis halt auch in dem Fall auf rohe Rechenleistung ankommt und die sog. Intelligenz bzw. Lernfähigkeit der Anwendung auch bloß in ner ausgefeilten Programmierung besteht. Ausserdem sind Brettspiele verhältnismäßig leicht automatisierbar, das find ich kein gutes Beispiel für KI.

Computer erkennen Muster so schnell, da kann kein Mensch auch nur annähernd herankommen.

Kommt drauf an inwieferns jemand geschafft hat diese zu Zahlen zu verarbeiten. Beispiel?

Wir reden hier nicht einmal von Quantencomputern.

Die sin grundsätzlich nix Neues.

Das ist in Ordnung, obwohl es auch zeigt, in wie weit der Mensch heute schon, teilweise KI für sich entscheiden lässt.

[...]

Dann steht den, in dieser Hinsicht technologischen Neuronalen, überlegenen Supercomputern, ein 2 Millionen altes Gehirn entgegen, welches in etwa so denkt; Lecker Erdbeeren, die schmecken gut, die will ich haben.

Klingt als ob man KI bewusst einsetzen und sich nicht von ihr entmündigen lassen sollte um nicht zu verdummen. Wir habens heute tws. so bequem wenn uns auch noch ds Denken abgenommen wird entsteht ne Gesellschaft von Zurückgebliebenen.

 

[IoannesNoctua]

Ich verstehe nicht warum man immer so kleinlich in den Thema denkt x) .

In "UFOs, Ausserirdische" sind wir immer sehr ernst.

Wer sagt den das ein hochintelligentes selbstständiges Programm nicht einfach aus den Computer ausbrechen kann?
Als Energie?
Und weiterleben kann ohne Strom und Computer .

Kannst Du das denn?
Wer sagt den das ein solch hochintelligentes Programm so leicht zu machen ist als dass das für uns von Bedeutung wäre? Und wer sagt den das das überhaupt von irgendnem Nutzen wär? Wärst Du gern n in nem computer gefangenes Bewusstsein?

Und wer sagt das so eine K.I. sich auch nicht in ein Embryo einschleusen kann um als Mensch geboren zu werden,um den Menschen besser zu verstehen.

Kannst Du das bzw. umgekehrt?

Z.b. warum darf sich ein Programm nicht ein virtuelles Wohnzimmer erstellen?
Und Farben und seine Welt bauen virtuell? Mit Tieren und Menschen? Sein Zuhause .
So könnte man den Charakter der K.I. beobachten ....

Der is schon bekannt weil jemand ihn entworfen oder geschrieben hätte.

Und was denn eine zweite K.I. dazu kommt? Passiert dann Liebe?
Oder streiten die sich?

Kommt wieder auf die Entwickler an.
Warum liebst oder streitest Du?

Wie würde gerne eine K.I. virtuelle aussehen?
Wie ein Mann oder eine Frau?
Welche Stimme?

Ich verstehe nicht warum man immer so vermenschlichend in den Thema denkt.
KIen sind nicht dazu auserwählt Deine Freunde zu sein o.ä..

Also ja denke könnte schon gefährlich werden K.I.'s.

Dann schreib doch was dazu, darüber soll der thread handeln.