В конце прошлого года знаменитый физик Стивен Хокинг предупреждал, что дальнейшее развитие искусственного интеллекта будет «самым лучшим или самым худшим из того, что происходило с человечеством». Мы все видели фильм «Терминатор» и помним тот апокалиптический кошмар, который устроила система «Скайнет», и теперь результаты недавних тестов DeepMind дают понять, насколько осторожным надо быть при создании роботов будущего.
Для этого в компании Google создали две игры: Gathering и Wolfpack. В Gathering два искусственных интеллекта собирают яблоки. Цель игры — собрать наибольшее количество яблок, также есть возможность временно вывести соперника из игры, выстрелив по нему из лазера. Пока фруктов много, ИИ собирали их, не конфликтуя друг с другом, и делали это с равной скоростью. Но как только яблоки начали заканчиваться, DeepMind начали использовать лазер. При этом ранние версии ИИ не использовали лазер, поскольку это было сложно для них и они выбирали стратегию простого сбора яблок, и оба «игрока» собирали одинаковое количество фруктов.
В игре Wolfpack, где двум участникам надо поймать третьего, обходя различные препятствия, при этом догоняющим необходимо сотрудничать, чтобы суметь поймать третьего, DeepMind не испытывали сложностей в согласовании действий.
Таким образом, ученые сделали вывод, что развитой ИИ в зависимости от целей, которые перед ним ставят способен как сотрудничать, так и проявлять агрессию.
