...
Was ich nach bisheriger Lektüre besonders empfehlen möchte:

The AI Revolution: The Road to Superintelligence (Part I)

The AI Revolution: Our Immortality or Extinction (Part II)
...

Zu den Prognosen, bis wann eine ASI ( Artificial Superintelligence, Künstliche Super-Intelligenz) entstehen könnte (Median-Erwartung 2060): Vielleicht sind die KI-Forscher genauso zu optimistisch, wie es z.B. Forscher im Bereich der Kernfusion sind.

Implizite Annahmen für ASI
* Die (leicht über dem Menschen stehende) ASI kann sich selbst so verbessern, dass ihre Intelligenz steigt. Wir Menschen können das so nicht. Es ist nicht sicher, dass das eine (leicht über dem Menschen stehende) ASI kann.
* Die dargestellte Intelligence Staircase geht nach dem Menschen noch viel weiter. Es ist nicht sicher, dass eine computer-basierte Künstliche Intelligenz "so weit" kommen kann. Wenn es für die menschliche Intelligenz eine Schranke gibt, könnte auch eine Schranke für computer-basierte Künstliche Intelligenz existieren.