Появление искусственного интеллекта, который бы работал в полную мощь, пока не запланировано, но некоторых фантастов он уже пугает. Потому компания Google предлагает ко всем самообучающимся механизмам добавлять кнопку отключения.
Выключатель будет располагаться на любом удобном месте, а использовать его нужно будет только в том случае, если робот с искусственным интеллектом начнет хулиганить или интересоваться не тем, чем нужно. Кнопка поможет стереть лишние данные с искусственного интеллекта. Таким образом исследователи обещают обучать роботов только доброму и светлому, а в случае противоправных действий со стороны робота, «убивать» его. Такую технологию предлагают использовать работники Google Лоран Орсеу и Стюарт Армстронг.
Кроме этого, обучение искусственного интеллекта хотят немного модифицировать. Вместо постоянного закладывания знаний в «головы» роботов, учить их будут с системой поощрения, то есть если робот получил информацию, запомнил и смог применить, то его чем-нибудь порадуют (чем именно не уточняется). Такая система поощрения может работать и наоборот, при получении навыков негативного характера, робота будут ругать «красной кнопкой».
Тем не менее, уже сама мысль установки многофункциональной красной кнопки пугает ученых и работающих над искусственным интеллектом инженеров. По их мнению, красная кнопка, которая одновременно отключает на перерыв и наказывает, может вызвать отказ у робота к контактированию с этой кнопкой и человеком. А в дальнейшем, достаточно обучившись, роботы могут удалять эту кнопку самостоятельно.
