Стирая границу между роботом и человеком
Мы живём в ожидании рождения искусственного интеллекта. Это новое существо будет жить среди нас и мы должны быть уверены, что контролируем его. Мы должны научить роботов законам.
Самые известные законы робототехники были предложены писателем-фантастом в 1942 году Айзеком Азимовым. Три закона:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму законам.
1942 год — время планетарной катастрофы, Второй мировой войны. Под воздействием гигантских человеческих жертв Азимов добавил еще один, нулевой закон: «Робот не может причинить вред человечеству в целом».
Создание искусственного разумного существа вопрос времени. Специалисты оценивают это время по-разному. Кто-то считает, что это дело очень далёкого будущего, а другие говорят о десятилетиях. В любом случае первое искусственный интеллект появится не завтра. Но это не отменяет проблему роботов.
Роботы уже сейчас живут среди нас. Роботы-беспилотники летают над континентами, роботы-автомобили едут в общем потоке. Самолёты уже давно имеют режим автопилота, что является управлением робота.
Представь такую ситуацию. Робот-автомобиль едет с пассажирами, на дорогу выскакивает человек или животное. Пассажиры автомобиля не могут оказывать влияние на решение робота. А роботу предстоит самостоятельно выбрать между несколькими вариантами:
- выскочить на встречную полосу с риском гибели пассажиров;
- свернуть в кювет и врезать в дерево с тем же исходом для пассажиров;
- сбить человека на дороге и сохранить жизнь пассажиров.
И другой пример. Сейчас активно разрабатывают управляемые военные машины. Эти роботы ведут разведку, огонь по противнику, эвакуируют раненых с поля боя. В ближайшие годы эти роботы-солдаты станут полностью автономными и будут самостоятельно принимать решения на поле боя. Как поведёт себя робот, встретив раннего противника, сможет ли различить солдата с оружием и гражданского с кочергой в руках.
До искусственного интеллекта Азимова ещё далеко, а вот простых роботов надо обучать нашим человеческим законам. Автомобиль-робот должен выбрать вариант безопасный с точки зрения Правил дорожного движения, а робот-солдат должен помнить Международные законы в отношении военнопленных и гражданского населения в зоне боевых действий.
Программистам предстоит «научить» роботов всем человеческим законам.