KI - Für und wider

[SelbstSein]

Frage: woher weiss frau/mann, dass die Auskünfte von der KI auch korrekt sind?
Nachdem bekannt ist, dass KI (gern) halluzinieren bzw. in Sekundenbruchteilen etwas erfinden?

 

[Niflheimr]

Frage: woher weiss frau/mann, dass die Auskünfte von der KI auch korrekt sind?
Nachdem bekannt ist, dass KI (gern) halluzinieren bzw. in Sekundenbruchteilen etwas erfinden?

Manche KI geben die Quelle an. Da kann man dann vergleichen.

 

[SunnyAfternoon]

Chatbots verbreiten zunehmend Falschinformationen von Musks Grokipedia

Die KI-generierte Enzyklopädie vergiftet Daten von ChatGPT und Gemini mit sprachlich eloquent vorgetragenen Lügen

www.derstandard.at

 

[Gerlind]

Auch Quelltexte sind Texte und können also so auch als Ausdruck von Halluzination gelesen werden.
Letztlich gilt für viele nur eine Autorität, die sie selbst so anerkennen, als legitime Quelle.
Da ist man noch nicht gänzlich rational erwachsen.

 

[SYS41952]

Frage: woher weiss frau/mann, dass die Auskünfte von der KI auch korrekt sind?
Nachdem bekannt ist, dass KI (gern) halluzinieren bzw. in Sekundenbruchteilen etwas erfinden?

Wenn man über ein Thema so wenig weiß, dass man die KI nach Antworten fragen muss, dann sollte man keine KI fragen.

 

[Gerlind]

Auch Quelltexte sind Texte und können also so auch als Ausdruck von Halluzination gelesen werden.
Letztlich gilt für viele nur eine Autorität, die sie selbst so anerkennen, als legitime Quelle.
Da ist man noch nicht gänzlich rational erwachsen.

Zum besseren Verständnis:

"Brot" ist nicht Brot.

 

[Felicia1]

Chatbots verbreiten zunehmend Falschinformationen von Musks Grokipedia

Die KI-generierte Enzyklopädie vergiftet Daten von ChatGPT und Gemini mit sprachlich eloquent vorgetragenen Lügen

www.derstandard.at

Eine Freundin von mir unterrichtet an einer Gesamtschule. Einige ihrer SchülerInnen waren sichtlich entsetzt, wenn sie Hausarbeiten mit schlechten Noten zurückbekommen haben und der Vermerk darunter lautete, die Quellen seien nicht existent oder die biologischen Zusammenhänge für etwas falsch dargestellt. - Peinlich wird es auch für diejenigen sein, deren Wortschatz auf einmal nicht mehr die Begriffe beinhaltet, die einem in der Ausarbeitung einfielen...

 

[SelbstSein]

Wenn man über ein Thema so wenig weiß, dass man die KI nach Antworten fragen muss, dann sollte man keine KI fragen.

Sondern?

 

[SYS41952]

Sondern?

Das Gleiche wie vor 5, 10, 20 oder 30 Jahren. Jemanden fragen, ob er es weiß, sich selbst Gedanken machen oder damit leben, dass es nicht auf alles eine Antwort gibt. Was nützen Quellenangaben, wenn das Wissen fehlt, sie verifizieren zu können? Eine KI ist keine Antwortmaschine. Das Internet ist zugemüllt, also wird auch eine Antwort aus dem Internet entsprechend vermüllt sein. Eine spezialisierte KI, mit spezialisierten Datenquellen kann ein Segen sein. JE weiter gestreut wird, desto unschärfer die Antworten, umso mehr muss man selbst wissen. Halt so, als ob man googeln würde. Da sollte man auch nicht den ersten Link nehmen und denken, das ist die Wahrheit. Es gibt tausende Gründe, außerhalb des Wahrheitsgehalts, warum der Link an erster Stelle steht ^^ Stichwort Informations-Entropie. Je größer die zur Verfügung gestellten Informationsmasse , umso unschärfer die Antwort, wenn man nicht über eine eigene Wissenslinse verfügt, um auf die relevanten Daten zu fokussieren.t.

 

[SelbstSein]

Das Gleiche wie vor 5, 10, 20 oder 30 Jahren. Jemanden fragen, ob er es weiß, sich selbst Gedanken machen oder damit leben, dass es nicht auf alles eine Antwort gibt. Was nützen Quellenangaben, wenn das Wissen fehlt, sie verifizieren zu können? Eine KI ist keine Antwortmaschine. Das Internet ist zugemüllt, also wird auch eine Antwort aus dem Internet entsprechend vermüllt sein. Eine spezialisierte KI, mit spezialisierten Datenquellen kann ein Segen sein. JE weiter gestreut wird, desto unschärfer die Antworten, umso mehr muss man selbst wissen. Halt so, als ob man googeln würde. Da sollte man auch nicht den ersten Link nehmen und denken, das ist die Wahrheit. Es gibt tausende Gründe, außerhalb des Wahrheitsgehalts, warum der Link an erster Stelle steht ^^ Stichwort Informations-Entropie. Je größer die zur Verfügung gestellten Informationsmasse , umso unschärfer die Antwort, wenn man nicht über eine eigene Wissenslinse verfügt, um auf die relevanten Daten zu fokussieren.t.

Yep.