Забравете за момент умерения напредък на системите с изкуствен интелект от последната седмица. Да, наистина е интересно софтуер да управлява автономно автомобил, но помислете: по всяка вероятност ни очакват наистина грандиозни промени при машините в най-скоро бъдеще. Представете си машина, която осъзнава себе си и своята среда, която може сама да определи поведението си, и всичко това докато рутинно обработва огромни масиви от данни в реално време.

Такава машина може да бъде изпращана на опасни мисии, в космоса или дори на бойното поле. Освен да шофира хората насам натам, тя ще може да готви, да чисти, да пере и дори да прави компания на хората, когато те са сами. Специализирани машини ще сменят хората при широк спектър от задачи и професии. Всичко това може да улесни живота на хората, но е много възможно и да разклати устоите на обществата и да доведе до един антиутопичен нов свят. Осъзнатите машини ще повдигнат сериозни юридически и етически проблеми. Ще бъде ли една съзнателна машина “индивид” според закона и ще бъде ли отговорна за своите действия, преднамерени или не, ако те навредят на човек или друга машина? В един краен сценарий: не е ли възможно осъзнатите и изключително напреднали машини просто да се отърват от хората, които в един момент може да станат напълно непотребни от машинна гледна точка?