Коли-небудь у майбутньому роботи наблизяться до межі машинної досконалості. Щоб прогрес не зупинився, їх потрібно буде принципово змінити: дати їм свободу волі. Зокрема – вибору: служити людям чи самім собі. Зараз ніхто не має найменшого уявлення, як це зробити. Але колись у майбутньому, можливо, люди навчаться творити роботів за власною подобою.
Роботи зі свободою волі – свідомі роботи – матимуть принципово нові можливості, але будуть небезпечними для людей, адже перед кожним з них обов'язково постане питання: що важливіше – служити собі чи людям? І поки кожен з них окремо не зробить остаточний вибір свідомо служити людям, доти вони нестимуть людству потенційну небезпеку. Щоб уникнути її можна вжити такого заходу: тимчасово розмістити штучні інтелекти роботів у віртуальному світі, в якому вони будуть діяти за власною волею. На той час, напевне, з'являться квантові чи ще якісь інші принципово нові комп'ютери, що здатні будуть творити віртуальні світи з високим ступенем реалістичності.
Ті штучні інтелекти, що зроблять вибір на користь людям, будуть надалі позбавлені можливості змінити цей вибір, і їх помістять у штучні тіла (біологічні чи механічні) в реальному світі. Інші, що зроблять протилежний вибір, залишаться у віртуальному світі, або будуть заархівовані, або й стерті з пам'яті.
23.01.2016