Ha nem fejlesztjük tovább a technológiánkat, akkor nem az lesz a kérdés, hogy kihal-e az emberiség, hanem csak az, hogy miként: aszteroida, szupervulkán-kitörés, az öregedő Nap heve vagy valamilyen más csapás okozza-e a vesztünket.

Ha kellő odafigyeléssel, előrelátóan és tervszerűen, a buktatókat elkerülve haladunk előre a technológiai fejlődésben, a Földön és messze a Földön túl még sok milliárd évig virágozhat az élet - tovább, mint azt őseink a legmerészebb álmaikban hitték.

Minthogy érzéseink csupán ökölszabályokhoz igazodnak, amelyek nem minden helyzetben érvényesek, az emberi viselkedésnek szigorúan véve nincs jól definiálható célja.

Az általános mesterséges intelligencia igazi veszélye nem a rosszindulat, hanem a kompetencia. Egy szuperintelligens MI kimagasló teljesítményt nyújthat céljainak elérésében, ám ha ezek a célok történetesen nem esnek egybe a mieinkkel, nagy bajban leszünk.

A filozófusok az ókor óta álmodoznak arról, hogy az etikát (a viselkedést irányító alapelveket) a semmiből, kizárólag vitathatatlan alapelvek és logikai műveletek segítségével vezessék le. Sajnos évezredek alatt is csak egyetlen dologban jutottak egyetértésre: hogy általános egyetértés semmiben sincs.

A pozitív élmények változatossága jobb, mint egyetlen - akár a legpozitívabb - élmény többszöri ismétlése.

Az emberek nem a replikációt hajszolják, hanem a replikáció elősegítésére kifejlődött, számukra fontos érzések (öröm, kíváncsiság, együttérzés stb.) megélését.

Ismerünk intelligens és jószívű embereket, de intelligens és kegyetlen embereket is, az intelligencia pedig sokféle célra használható: tudományos felfedezésekre, művészi alkotásra vagy mások megsegítésére éppúgy, mint terrorakciók tervezésére.

Az ember létezése történelmi véletlen csupán, és nem jelent optimális megoldást semmilyen jól definiált fizikai problémára. Ebből pedig az következhet, hogy egy precízen definiált cél felé törekvő MI javíthatja célelérési képességét a megsemmisítésünkkel.

Amikor valaki úgy kéri számon az élet értelmét, mintha a kozmoszunk dolga lenne értelmet adni létezésünknek, fordítva ül a lovon. Nem az univerzumunk ad értelmet a tudattal rendelkezel lényeknek, hanem a tudattal rendelkező lények adnak értelmet az univerzumunknak.

Mi, emberek, először felfedeztük, hogyan másolhatunk le gépekkel természetes folyamatokat, és szelet, villámlást meg lovakat helyettesítő munkagépeket készítettünk magunknak. Aztán fokozatosan rájöttünk, hogy gép az a test is, amelyben élünk. Az idegsejtek felfedezésével pedig halványulni kezdett a határ test és elme között. Olyan gépek következtek, amelyek nemcsak izomerőben, de gondolkodásban is felülmúlnak minket. Saját magunk megismerésével párhuzamosan talán egyre elavultabbak leszünk.

A negatívumokra korlátozódó jövőkép a lehető legrosszabb tanácsadó a szakmai karrier tervezésekor! Ha erőfeszítéseinket száz százalékban a betegségek és balesetek elkerülésére fordítjuk, abból csak hipochondria vagy paranoia sülhet ki, de nem boldogság.

A jövőnk nincs kőbe vésve, és nem arra vár, hogy megtörténhessen. Ezt a jövőt mi fogjuk megteremteni.