Gwałtowne zmiany spowodowane wzrostem możliwości sztucznej inteligencji spowodują głębokie zmiany w strukturze gospodarki, społeczeństwa i cywilizacji. Ludzkość tworzy globalną społeczność, ale każda osoba jest wyjątkowa. Społeczeństwa funkcjonują spójnie, ponieważ możemy budować modele mentalne innych ludzi. Modele mentalne pozwalają nam przewidzieć, co uszczęśliwia innych ludzi, jakich zachowań najlepiej unikać, co jest zabawne, a co nudne. Co motywuje i inspiruje, a co powoduje nudę lub dyskomfort. Wiedza o tym, jak ktoś inny może zareagować, jest podstawą naszej cywilizacji. Jako ludzie robimy to naturalnie, ale nasze zdolności nie ewoluowały tak, by wykraczać poza kilkadziesiąt osób w naszych najbliższych społecznościach. Troska o miliony lub miliardy ludzi jest zadaniem nadludzkim, a do jego rozwiązania używamy sztucznej inteligencji.