Все новые и новые возможности искусственного интеллекта и «умных» машин сейчас у всех на слуху – с каждым днем интеллектуальные системы получают новые уникальные функции, которые раньше казались чем-то из области фантастики. Сегодня уже никого не удивишь беспилотным авто или системами производства под управлением роботов. Но задумываемся ли мы о том, как будет выглядеть жизнь человечества, если развитие роботов не будет регулироваться никакими нормами и правилами?
Айзек Азимов и три правила
Прошло 50 лет с тех пор, как Айзек Азимов придумал свои знаменитые три закона робототехники – набор правил, которым должен следовать любой робот. Хотя изначально это был всего-лишь литературный прием, три закона стали оригинальным рецептом по избежанию «роботокаліпсіса».
Писатель-фантаст Айзек Азимов в своих произведениях рассказывал о трех законах, по которым люди могут контролировать роботов и «умные» машины.
- Робот не может причинить вред человеку через действие или, наоборот, бездействие.
- Робот должен подчиняться приказам человека, за исключением случаев, когда они противоречат первому правилу.
- Робот должен защищать себя, если это, опять же, не противоречит первому условию.
Приоритетное правило
Доклад, недавно опубликован Королевским обществом и Британской академией, говорит, управление «умными» машинами должно сводиться не к трех основных законов, а только к одному – люди должны выигрывать от взаимодействия с роботами. По словам профессора и сопредседателя группы по вопросам научной политики Королевского общества Дейма Оттолин Лейзера, «процветание» человека должна стать ключом к тому, как нужно руководить работами.
«Это самый подходящий срок, который точно отражает то, что мы хотели сказать, – отметил он в интервью’ю BBC News. – Процветание людей должно стать приоритетом ».
Наблюдение за машинами
В докладе предлагается создать новый управляющий орган, который будет следить за тем, чтобы интеллектуальные машины обслуживали и помогали человеку, а не контролировали его. Он будет состоять из экспертов и заинтересованных сторон, которые должны разработать основу для развития технологий искусственного интеллекта.
По мнению авторов, под наблюдение и регулирование, среди прочего, должен подпадать, например, развитие систем самообучения. В противном случае, они могут стать опасными и нанести значительный ущерб. Когда работы принимают решение самостоятельно и независимо от человека, используются в домах, коммерческой или социальной сферах, возможны самые разные варианты развития событий.
Интересы человека
В докладе также говорится о необходимости обеспечения приоритета интересов людей над машинами. Разработка «умных» систем не должна контролироваться и регулироваться только техническими стандартами. По словам Энтони Уокера, заместителя председателя группы TechUK, в этих вопросах должны быть учтены этические и демократические ценности.
«Эти технологии могут дать много преимуществ, но общество должно доверять им и быть уверенным в том, что интеллектуальные системы управляются должным образом», – сказал Уокер.
Необходимость разработки нового способа управления машинами уже назрела – технологии, описаны Азимовым, давно стали реальностью.
Так, появление беспилотных авто спровоцировало возникновение вопроса о приоритетной безопасности человека. Что произойдет в ситуации, когда машине предстоит выбирать между безопасностью тех, кто находится в автомобиле, и пешеходами? Интересным является и вопрос определения ответственной стороны в случае аварии – это сама машина или ее владелец?
Искусственный інтеелкт учит
Другим ярким примером необходимости разработки мер контроля над интеллектуальными системами является их использование в технологиях персонального обучения. Комп’компьютер сам определяет сильные и слабые стороны ученика и, исходя из этой информации, разрабатывает план обучения. Может ли такая система давать знания без специального контроля со стороны людей? Как мы убедимся в том, что методика, с помощью которой искусственный интеллект обучает ребенка, нам полностью подходит?
Эти вопросы касаются не технологических компаний, что разрабатывают «умные» системы, а всех нас. Именно поэтому в докладе отмечается, что детали работы интеллектуальных машин не могут быть коммерческой тайной, они должны находится в свободном доступе. Так ошибку будет гораздо легче вовремя обнаружить и исправить.
Сбор данных
Еще одной областью, которая нуждается в регулировании, является сбор данных. Ежедневно мы оставляем массу информации о себе в мобильных телефонах, с помощью лайков, репоста и других онлайн-активностей. Существуют системы, способны о’отсоединить всю эту общедоступную информацию о человеке и сформировать профиль его личности. Потенциально эти данные могут использоваться как угодно и кем угодно – в коммерческих целях или, например, потенциальным работодателем.
Описаны системы способны предложить нам большие возможности. Но отсутствие надлежащего контроля и регулирования будет означать, что наши жизни зависят от машин и определяются ими.
Регулировка каждого конкретного случая
Ключом к решению этой проблемы, по мнению профессора Лейзера, необходимость разработки процедуры регулирования каждого конкретного случая. Очевидно, что алгоритм, который определяет то, какие книги рекомендовать пользователю на Amazon, полностью отличается от алгоритма, «отвечает» за диагностику болезней в медицине. Поэтому обе эти системы не могут подчиняться одному и тому же регулирование.
По сути же, интеллектуальные системы будут двигаться вперед только в том случае, если люди доверяют им и поэтому, как они регулируются. Без выполнения этого условия огромный потенциал «умных» систем, который может быть направлен на процветание человечества, так и не будет реализован.
