То, что искусственный интеллект существует – уже факт. Watson у IBM, свои разработки у Google и других крупных компаний есть. Да, пока они не совсем такие, как показывают в фильмах, но первые шаги на этом пути уже сделаны.

ИИ
Фото: dsnews.ua

Компания Google каждый год отчитывается об успехах в учёбе своей «умной машины», а также, благодаря Голливуду, готовится к «машинному апокалипсису». Мы уже писали о том, что компания подготовила «красную кнопку» на крайний случай, а теперь миру представлена публикация специалистов Google, OpenAI, Стэнфордского университета и Калифорнийского университета в Беркли. Её представил сотрудник поискового гиганта Крис Ола, который сформулировал пять ключевых проблем, которые нужно решить для развития искусственного интеллекта.

  • Избегание негативных побочных эффектов: как удостовериться, что система ИИ не нарушит состояние окружающей среды во время выполнения своих задач?
  • Избегание мыслей о награде: как организовать работу ИИ и избежать жульничества? К примеру, нам нужен робот-уборщик, который на самом деле убирается, а не прячет мусор подальше, чтобы мы его не видели.
  • Различные степени контроля: как убедиться в способности ИИ выполнить поставленную задачу наверняка, если её выполнение невозможно точно смоделировать на тренировке? К примеру, если ИИ получает сообщение от человека во время выполнения задачи, ему следует сразу же эффективно применить новую информацию к задаче, не задавая лишних вопросов, которые испытывают терпение человека.
  • Безопасное самообучение: как обезопасить систему ИИ от поступков с целью исследования, которые имеют негативные последствия? К примеру, робот-уборщик должен экспериментировать со стратегиями уборки, но ему не следует вытирать электрическую розетку мокрой шваброй.
  • Способность переключения между видами деятельности: как сделать систему ИИ, которая будет узнавать и спокойно реагировать на условия работы, отличные от условий тренировки? Например, навыки работы в условиях завода могут не подойти в условиях офиса.

Конечно, эти правила здорово отличаются от Трёх законов робототехники Айзека Азимова, но они, в отличие от литературных концепций, могут использоваться для создания настоящего ИИ.