Те, що штучний інтелект існує – вже факт. У IBM Watson, свої розробки у Google та інших великих компаній. Так, поки вони не зовсім такі, як показують у фільмах, але перші кроки на цьому шляху вже зроблені.

ШІ
Фото: dsnews.ua

Компанія Google щороку звітує про успіхи у навчанні своєї «розумної машини», а також, завдяки Голлівуду, готується до «машинному апокаліпсису». Ми вже писали про те, що компанія підготувала «червону кнопку» на крайній випадок, а тепер світу представлена публікація фахівців Google, OpenAI, Стенфордського університету та Каліфорнійського університету в Берклі. Її представив співробітник пошукового гіганта Кріс Ола, який сформулював п’ять ключових проблем, які потрібно вирішити для розвитку штучного інтелекту.

  • Уникання негативних побічних ефектів: як пересвідчитися, що система ШІ не порушить стан навколишнього середовища під час виконання своїх завдань?
  • Уникнення думок про нагороду: як організувати роботу ІІ і уникнути шахрайства? Приміром, нам потрібен робот-прибиральник, який насправді прибирається, а не ховає сміття подалі, щоб ми його не бачили.
  • Різні ступені контролю: як переконатися в здатності ІІ виконати поставлену задачу напевно, якщо її виконання неможливо точно змоделювати на тренуванні? Приміром, якщо ШІ отримує повідомлення від людини під час виконання завдання, йому слід одразу ж ефективно застосувати нову інформацію до задачі, не задаючи зайвих питань, які випробовують терпіння людини.
  • Безпечне самонавчання: як убезпечити систему ІІ від вчинків з метою дослідження, які мають негативні наслідки? Наприклад, робот-прибиральник повинен експериментувати зі стратегіями прибирання, але йому не слід витирати електричну розетку мокрою шваброю.
  • Здатність переключення між видами діяльності: як зробити систему ІІ, яка буде впізнавати і спокійно реагувати на умови роботи, відмінні від умов тренування? Наприклад, навички роботи в умовах заводу можуть не підійти в умовах офісу.

Звичайно, ці правила здорово відрізняються від Трьох законів робототехніки Айзека Азімова, але вони, на відміну від літературних концепцій, можуть використовуватися для створення справжнього ШІ.