Терминатор
Фото: sap.flash-best.com

Схоже, фільми про термінаторів та інші Матриці неабияк налякали людство. Компанія Google днями опублікувала документ, який описує роботу підрозділу Deep Mind для створення чарівної «кнопки» скасування повстання машин.

Машина і людина
Фото: engadget.com

Суть ідеї в тому, щоб не дати ШІ з’ясувати, як можна запобігти або викликати вимирання людства незалежно від його дій. Дослідники повідомляють:

«Процедура безпечного завершення роботи може стати в нагоді для відновлення контролю над роботом, який веде себе неналежним чином, допоможе вийти з делікатної ситуації, або стати тимчасовим засобом досягнення тієї чи іншої мети».

Робот і людина
Фото: ftimes.ru

Директор Інституту майбутнього людства Нік Бостром, який співпрацює з Deep Mind заявив:

«Людина – сама ненадійна система. Сьогодні хакери часто звертаються до принципів соціальної інженерії з метою отримання доступу до вашого комп’ютера. А якщо хакером-маніпулятором виявиться супер-інтелект, то можна припустити, що він з легкістю знайде собі спільника або ж просто стане використовувати нас проти нашої волі як свої руки і ноги».

При цьому він заявив, що необхідно створити систему, яка буде вчитися на своїх помилках. Однак найцікавіше, що сценарії знищення людства за допомогою машин починалися як раз-таки після того як ШІ усвідомлював свою підконтрольність людям. Так було з Skynet і машинами в «Матриці». І виникає питання – не реалізує страх людства саме апокаліптичний сценарій?