Cyberama: Superintelligenz

Stellen Sie sich eine Art Superintelligenz vor, eine Intelligenz, die der menschlichen in jeder Hinsicht überlegen ist. Was würde eine solche Intelligenz mit uns Menschen machen? Würde Sie mit uns kooperieren - oder uns einfach vernichten? Der Oxforder Digital-Philosoph Nick Bostrom hat dazu ein unheimliches Szenario entwickelt. Eine von einer Superintelligenz gesteuerte Fabrik ist darauf programmiert, die Produktion von Büroklammern zu maximieren. Sie hört einfach nie damit auf, bis sie am Ende alle Materie im Universum in Büroklammern verwandelt hat. Und selbst wenn diese Superintelligenz darauf programmiert wäre, nur eine bestimmte Anzahl Büroklammern zu produzieren, gäbe es ein Problem. Denn das Programm würde ständig kontrollieren, ob es sein Ziel auch wirklich erreicht hat - und dazu alle Energie im Universum verbrauchen. Das Ergebnis wäre also in beiden Fällen das Ende der Welt.

So absurd das Szenario auch klingt: Es bringt uns dazu, über eine entscheidende Frage bei der Entwicklung intelligenter Maschinen nachzudenken. Es geht nicht darum, wie wir verhindern können, dass Maschinen intelligenter werden als wir - das sind sie in vielen Bereichen heute schon. Die Frage lautet vielmehr, wie wir intelligente Systeme entwickeln können, in denen wir Menschen weiterhin eine entscheidende Rolle spielen, obwohl wir viel dümmer sind als die Maschinen. Menschen müssen intelligente Maschinen auch dann stoppen können, wenn die Maschinen es eigentlich besser wissen. Sonst werden uns die Maschinen eines Tages vernichten, weil sie uns Menschen schlicht nicht mehr brauchen. Das ist eine Entscheidung, die wir heute noch treffen können. In 20 oder 30 Jahren könnte es zu spät sein. Dann entscheiden die Superintelligenzen für uns.