2015-7-29 10:40 |
Использование на постоянной основе военных систем с элементами искусственного интеллекта будет знаменовать приход новой технотронной диктатуры, причем даже без гипотетической возможности угнетаемых апеллировать к человеческому разуму.
Военный теоретик 19 века Карл фон Клаузевиц, как известно, говорил о том, что война это продолжение политики другими средствами. Однако с течением времени война как комплекс организационных, материально-технических, собственно военных и технологических приемов стала важным двигателем экономики в целом и значительной части научных исследований в частности.
Наблюдаемая же последние 40-50 лет революция в сфере автоматизации и развития информационных технологий не могла не сказаться и на облике перспективных образцов вооружения.
Военные разных стран, в том числе и в России, говорят о формировании роботизированных подразделений, способных выполнять на поле боя уже не только вспомогательные задачи, но и непосредственно участвовать в боевых действиях.
Развиваются концепции так называемых «сетецентрических» войн, в которых скачкообразно повышается информационно-коммуникационная связность подразделений, и особую роль приобретают системы боевого управления и интеграции разных видов вооруженных сил на едином поле боя. В направлении все большей автоматизации идет и процесс создания отдельных образцов вооружения и именно в этом ряд ученых и общественных деятелей видят серьезную угрозу человечеству.
На днях, в ходе международной конференции по искусственному интеллекту, проходящей в Буэнос-Айресе, было представлено письмо (подписанное, в частности, известным космологом Хокингом и предпринимателем-инноватором Илоном Маском), в котором озвучены призывы к правительствам всего мира подписать международный договор, запрещающий в будущем использование в автономном режиме боевых систем, оснащенных искусственным интеллектом.
Проблема эта действительно важна, и ее морально-этические аспекты, сходные с ядерной проблематикой, дают возможность поговорить о некоторых проблемах назревающей революции в военном деле.
Не затрагивая технических аспектов проблемы, очевидно, что до серийных образцов, условных «роботов-убийц», идти еще довольно долго, хотелось бы затронуть аспект политический. А именно изменение характера войны и ее влияния на общественное сознание. Уже сейчас, к примеру, Соединенные Штаты ведут, по сути, необъявленную «дистанционную» войну.
Речь идет о развернутой американцами на Ближнем Востоке системе оперативных баз, на которых дислоцированы ударные беспилотные летательные аппараты, которые управляются операторами, сидящими где-то в командном центре в США.
То есть, представьте: приходит такой военнослужащий на работу к 9 утра, садится на джойстик и начинает, как в каком-то онлайн-«шутере», отстреливать (без суда и следствия) на безопасном расстоянии «террористов». А в случае барражирования, скажем, продвинутых беспилотников на солнечных батареях в полностью автономном режиме без участия человека общества условного первого мира вообще будут в неведении, что где-то по каким-то непубличным критериям, загруженным в матрицу целей боевого робота с искусственным интеллектом, убивают людей.
Все это напоминает картинку из недавнего фильма Нила Бломкампа «Элизиум», где изображена загаженная Земля с копошащимися на ней больными и бесправными людишками и орбитальная сфера Элизиума, жители которой держат землян под контролем с помощью автономных полицейских роботов.
Таким образом, использование на постоянной основе военных систем с элементами искусственного интеллекта будет знаменовать приход новой технотронной диктатуры, причем даже без гипотетической возможности угнетаемых апеллировать к человеческому разуму. Ибо таковой будет исключен из процесса принятия решений.
Да, военные роботы первый шаг к диктатуре нового типа.
Во-вторых же, распространение автономных военных систем с искусственным интеллектом существенно понизит политический порог при принятии решений о начале войны. И в самом деле, если не надо посылать живых солдат, а значит потом как-то объяснять обществу, за что погибли его граждане, то и в конфликты ввязываться будет на порядок проще.
Этот тезис иллюстрируется идущей сейчас в американском военно-политическом руководстве дискуссии о границах применимости так называемого «быстрого глобального удара». Суть концепции состоит в том, что имея превосходство в высокоточном неядерном вооружении, в первую очередь по крылатым ракетам, США допускают возможность нападения даже на ядерную державу, оценивая риски ответного удара как «приемлемые». С Россией, допустим, такой финт не пройдет, но с каким-нибудь Пакистаном разобраться можно. А уж имея роботов с искусственным интеллектом, можно и тем паче ввязаться в военный конфликт, полагая, что ничем особо не рискуешь.
Анализируя риски прогресса систем искусственного интеллекта в военной сфере следует быть крайне острожным, так как бесконтрольное использование этих наработок способно повысить конфликтность на планете, породить волну военных инцидентов и дать некоторым странам, прежде всего на Западе, новый импульс для попыток восстановить времена военного доминирования и гегемонизма в мире.
В конце концов может получиться как в том анекдоте: воевали партизаны и немцы против друг друга в лесу, а потом пришел лесник и всех разогнал.
Как бы в роли лесника к нам не пришел тот самый Скайнет.
Теги:
роботы, искусственный интеллект, вооружение, война
Закладки:
.
Подробнее читайте на vz.ru ...
