Definiáljuk az ultraintelligens gépet olyan gépként, amely messze túl tudja szárnyalni a legokosabb ember intellektuális tevékenységeinek mindegyikét. Mivel a gépek megtervezése is ilyen intellektuális tevékenység, egy ultraintelligens gép még jobb gépeket tervezhet, ekkor pedig megkérdőjelezhetetlenül bekövetkezne az "intelligenciarobbanás", és az emberi intelligencia messze lemaradna. Éppen ezért az első ultraintelligens gép az utolsó találmány, amelyet az embernek meg kell alkotnia, feltéve, hogy a gép elég engedelmes, hogy megmondja, hogyan tarthatjuk uralmunk alatt.
