ControlAI, eine Nichtregierungsorganisation, fordert die Verbot von Superintelligenz und rekursiver Selbstverbesserung in allgemeinen Bereichen. Diese KI-Entwicklung würde mächtiger als jedes Individuum, Unternehmen oder Nation sein. Benjamin Balde, der Leiter von ControlAI in Deutschland, betont das Risiko des Kontrollverlusts und fordert Gesetze bereits jetzt in Gang zu setzen. Er vergleicht Menschen mit einem Vierjährigen, der einen Erwachsenen ins Bett bringen soll. Die Organisation hat bereits in den USA und Großbritannien konkrete Gesetzesvorschläge vorgelegt, deren Ausarbeitung ControlAI unterstützt. In Deutschland werden Gesetze ebenfalls in Betracht gezogen, um die Kontrolle über die KI zu sichern. Die Bedeutung von Superintelligenz für die Künstliche Intelligenz wird durch ControlAI als ein Risiko wahrgenommen, das bereits jetzt in Betracht gezogen werden sollte, um das Risiko eines Kontrollverlusts zu vermeiden. Es ist wichtig, dass die Gesetze und Vorschläge in Gang gesetzt werden, um die Entwicklung von Superintelligenz zu kontrollieren und das Risiko des Kontrollverlusts zu minimieren.
