Der Zukunftsoptimismus der KI-Forscher hat sich im Laufe der Jahre verändert, und selbst moderne Experten streiten darüber.
Bei jeder Diskussion über KI stellen sich immer zwei Fragen: Wie wird sie die Menschheit beeinflussen und wie sollten wir damit umgehen? Literatur kann immer als guter Indikator für die Gedanken und Gefühle der Menschen angesehen werden, und Science-Fiction ist voll von Beispielen für diese Probleme. Wird eine ausreichend fortgeschrittene KI versuchen, die Menschheit wie Skynet zu eliminieren? Oder muss KI Rechte und Schutz eingeräumt werden?
In beiden Fällen geht es darum, dass mit der Schaffung echter KI eine technologische Singularität entsteht.
Die Idee ist, dass die KI in der Lage sein wird, sich selbst zu verbessern oder fortschrittlichere KI zu produzieren. Da dies schnell geschehen wird, können an einem Tag drastische Veränderungen eintreten, und das Ergebnis ist eine KI, die viel fortschrittlicher ist als das, was von der Menschheit geschaffen wurde. Dies könnte bedeuten, dass wir am Ende eine superintelligente und böswillige KI oder eine intelligente KI haben, die Rechte verdient.