Eine Vorsichtsmaßnahme muss nicht gleich Angst bedeuten.
Allerdings ist es sowieso unmöglich, Bewusstsein zu beweisen. Wir können uns ja nichtmal gegenseitig oder uns selbst beweisen, dass wir Bewusstsein besitzen. Wir glauben es halt und fertig.
Eine KI muss uns nur dazu bringen, dass wir glauben, dass sie ein Bewusstsein hätte, unabhängig ob sie's wirklich hat oder ob so etwas wie Bewusstsein überhaupt wirklich existiert.
Wenn du daran zweifelst, muss da notwendig ein Bewusstsein sein das zweifelt. Ich denke, also bin ich, bzw. zumindest ist da diese subjektive Ich-Präsenz (selbst wenn es sich bei unsere Erinnerungen auch um Halluzinationen handeln könnte). Bewusstsein ist damit selbstevident. Natürlich nur bei einem selbst, zumindest erst einmal.
Jetzt kannst du eben anderen zusätzlich Bewusstsein zuschreiben, die dir ähnlich sind. Andere Menschen behaupten auch ein Bewusstsein zu haben, und sie sehen genauso aus wie wir, haben ein Gehirn, sprechen von den selben Wahrnehmungen und Gefühlen usw.
Ist bei einer KI schwieriger natürlich. Und dazu kommen religiöse und spirituelle Vorstellungen, die dem vielleicht widersprechen. Bei mir allerdings nicht.
Aus meiner persönlichen Sicht ist es weiterhin noch möglich anderes Bewusstsein auf telepathische Weise zu registrieren, aber auch das muss nicht unbedingt bei einer KI klappen, und würde auch für mich nicht das Gegenteil belegen.
Diese künstlichen neuronalen Netzwerke sind dem echten Nervensystem aber ziemlich ähnlich und lernen etwas eigenständig, ohne dass es wirklich programmiert wurde. Insofern ist NICHT wirklich klar, warum eine solche KI plötzlich irgendwelche fragwürdigen moralischen Aussagen tätigt. Man kann sich denken, dass daraus Probleme erwachsen können...Diese KIs sind jedenfalls nicht wirklich komplett unter unserer Kontrolle. Aber auch wenn ich etwas programmieren kann, kenne ich mich mit neuronalen Netzwerken nicht aus eigentlich. Aber bin mittlerweile der Entwickler (nicht der ursprüngliche allerdings, was es einfacher macht