Google разработает «большую красную кнопку», чтобы остановить сверх интеллектуальные машины
Искусственный интеллект не стоит на месте, он постоянно развивается, самосовершенствуется. Происходит автоматизация человеческого труда, машины окружают нас повсюду.
А что, если однажды начнется роботоапокалипсис? И искусственный интеллект решит покорить мир? Фантастика – фантастикой, однако ученные всерьез озадачились вопросом создания определенного механизма остановки работы машины, если какая-нибудь система искусственного интеллекта выйдет из-под контроля и начнет действовать во вред окружающим людям.
Компания Google совместно со специалистами Института будущего человечества провели исследования в области остановки работы систем искусственного интеллекта в случае начала их неправильного функционирования. Как выяснилось, решением проблем стала «большая красная кнопка», которая полностью отключит машину.
Итак, ученые предлагают установить разработчикам систем искусственного интеллекта «правила прерывания», спусковой механизм, который позволит временно или на постоянной основе изменить поведение машины насильственным образом.
Проще говоря, это сигнал, кодовое слово, которое должно заставить искусственный интеллект думать, что пора остановиться.
Исследователи отмечают, что сигналами к прерыванию деятельности машин должны распоряжаться только люди, владеющие этими системами. Реализация всего этого должна быть максимально простой, находиться на дистанционном управлении. Для чего, собственно говоря и подойдет «большая красная кнопка».
