Може да спрем дотук и да наречем този момент важният разрез между машините, които имаме, и машините, които ще изградим в бъдеще. По-добре е обаче да бъдем по-конкретни, за да обсъдим типовете представителства, които машините трябва да формират, и какво трябва да правят.
Машините в следващия по-напреднал клас не само формират представи за света, но и за други агенти или образувания в света. В психологията това се нарича „теория на ума“ - разбирането, че хората, създанията и обектите в света могат да имат мисли и емоции, които влияят върху собственото им поведение.
Това е от решаващо значение за това как ние, хората, формирахме общества, защото ни позволиха да имаме социални взаимодействия. Без да разбираме мотивите и намеренията си взаимно и без да се съобразяваме с това, което някой друг знае или за мен, или за околната среда, съвместната работа е в най-добрия случай трудна, в най-лошия случай невъзможна.
Ако ИИ системите наистина някога се разхождат сред нас, те ще трябва да могат да разберат, че всеки от нас има мисли и чувства и очаквания за това как ще бъдем третирани. И съответно ще трябва да коригират поведението си.