Старобельский инцидент и вопросы общей этики

[artyom_ferrier]

 

Была давеча беседа, где коснулись недавнего инцидента с украинской бомбардировкой колледжа в Старобельске.

Российская сторона, естественно, заявила о злостном военном преступлении, чудовищной атаке на детей.

Украинская сторона заявляла, что, по её данным, колледж в своём качестве уже не работал, а на территории его общежития размещались российские дроноводы из Рубикона. И что вообще история, вероятно, слизана российской пропагандой с не столь давнего иранского сюжета с разбомбленной амерами «женской школой», на поверку оказавшейся ксировской военной базой.

Мои коллеги, в целом, сошлись на том, что одно другого не исключает. Что запросто могли разместить дроноводов в одном общежитии со студентами колледжа, используя их как живой щит, а более того, и обучать дроводству подростков, которые, возможно, и попали под раздачу (какие-то юные трупы российская сторона всё же предъявила).

Если же, говорят коллеги, у кого-то возникают сомнения в способности российской военщины использовать детей как живой щит или как дроноводов, если возникает мысль, что «это уж перебор даже для них» — то не надо смотреть материалы международных расследований по какой-нибудь Буче, не надо углубляться в украинские «инсинуации», а достаточно послушать парочку интервью от ребят вроде Лёши Мильчакова, которые со всей своей нацистской прчиотой всегда готовы подтвердить: моральных тормозов нет, дна нет, «перебора» быть не может.

Ей-богу, в этом отношении подобные персонажи очень полезны — ибо никто не способен дискредитировать российскую военщину так качественно, как она сама, стоит ей раскрыть пасть на публике без поводка и намордника. Поэтому мы и призываем свою молодёжь не трогать таких персонажей - пусть говорят, погромче да почаще.

Но возвращаясь к этому действительно неприятному происшествию со старобельским колледжем, где, возможно, действительно погибли какие-то тинейджеры, уместно было бы поставить вопрос немножко по-другому, малость расширив его.

Допустим, речь не идёт об ошибке в разведданных, когда бы по ним там отрицалось наличие малолеток. Допустим, достоверно известно, что там действительно имеются малолетки, но при этом — они действительно учатся управлению дронами. И очень скоро будут весьма опасными полевыми операторами.

Как быть в этом случае с «этичностью» ударов по таким объектам?

Кроме шуток, далеко уж не фантастическое допущение, что весьма скоро это станет массовым явлением — использование малолеток в данном качестве, оператора дронов.

Физической крепости особой не требуется, чтобы джойстиком рулить. Хороший глаз да быстрые рефлексы требуются — а с этим и у младших школьников может быть полный порядок.

Формального зачисления их на военную службу — тоже не требуется, ибо — кого интересуют формальности в таком-то «бизнесе»?

Ну и запросы у школоты всё же меньше, чем у взрослых — чертовски выгодно их вербовать «за шоколадки».

Остаются лишь этические препоны, но они — весьма иллюзорны (уж во всяком случае, для тех сообществ, которые твёрдо решили, что единственная их «этика» - мстить за свои мнимые великодержавные обидки любой ценой и любыми средствами, наплевав на «химеру совести»).

Ну и вот как быть в этом случае, когда поступила информация, что в данном помещении собраны десятки детишек школьного возраста, которые уже завтра — сделаются весьма эффективным и убийственным военным средством.

Думаю, любой вояка в такой ситуации предпочёл бы сделать морду кирпичом и, отдавая приказ об ударе, прокомментировать (если потребуется), в том духе, что «Про школу дронщиков там мы знаем, а про возраст студентов — без понятия, ну да и не наша печаль, если противник, нарушая все правила и приличия, вербует детей».

То же самое, естественно, будет сказано, и когда украинские «фламинго» долетят до Алабуги, где собираются «шахеды». И где, вроде бы, достоверно известно, что к сборке привлекаются тинейджеры — но эту информацию можно пропустить мимо ушей.

В конце концов, на немецких заводах тоже трудились и подростки, и даже вовсе подневольные люди, узники концлагерей, противники этого бесчеловечного режима, и чертовски жалко, что такие хорошие люди гибли под антигитлеровскими бомбами — но что поделать, когда главная задача — наносить урон военной промышленности противника и снижать его военные возможности.

И более того, заметил один коллега, даже когда речь идёт не о потенциальных целях под крылом твоего «бомбовоза», а о вполне конкретном ребёнке в прицеле твоей снайперки — тоже бывают ситуации, где недохрена выходов, и ни один — не является хорошим. Скажем, когда этот ребёнок, обвязанный взрывчаткой, идёт к твоему блокпосту, и если дойдёт — разнесёт всё к чёртовой матери. Так получается, что он по-любому обречён, его по-любому не спасти - так лучше уж пусть сгинет в поле и в одиночестве. Хотя, конечно, решение неприятное, но кровь — на руках тех, кто привлекает детей к своим брутальным играм.

Тут другой коллега заметил, мол, проблема конкретно с дронами, однако, в том, что чем дальше — тем больше будет расти заманчивость использования малолеток в этом деле для всех сторон. Ведь если мелкий шахид проигрывает крупному хотя бы по весу носимой взрывчатки, то восьмилетний дронщик может вообще ничем не проигрывать восемнадцатилетнему.

Третий коллега заметил: однако ж, господа, не кажется ли вам парадоксальной сама по себе эта концепция, что будто бы до какого-то возраста человеческая жизнь считается чуть ли не сакральной, такой, что страшное злодейство на неё посягать, а потом щёлкает тумблерочек — и тот же парень превращается в «законную военную цель». Почему? Только потому, что ему стукнуло восемнадцать и его забрили в солдаты?

Мы пожали плечами и принялись возражать в том духе, что если здесь и есть некая абсурдная условность — то не большая, чем в самой по себе концепции «совершеннолетия», основанной на «календарном» возрасте, но всё же эта концепция подразумевает, что до какого-то возраста человек ещё не вполне понимает, во что его втягивают, а после — должен понимать и уметь делать самостоятельный выбор под свою собственную ответственность. Хотя, конечно, на практике — какое там к чёрту! Ну, условность есть условность.

В целом же, конечно, предсказуемо сошлись на том, что, разумеется, когда есть возможность избегать жертв среди детей — то следует этой возможностью пользоваться, но в условиях действительно ожесточённой и тотальной войны, да с совершенно отмороженным противником — такая возможность есть далеко не всегда, поэтому приходится прежде всего думать о снижении его разрушительных способностей, а потом уже — о гуманности к его солдадитос, любого возраста.

Банальность, конечно.

Что, возможно, радует, - так следующее соображение. Вот как взлетела звезда «дроноводства», когда любой может стать эффективным оператором — так, весьма вероятно, скоро она закатится. В том смысле, что отпадёт потребность в столь многих человеческих операторах, когда большинство задач сможет решать АИ.

Да, мы по-прежнему довольно настороженно относимся к концепции «страж-птицы» из рассказика Шекли, которая бы парила в небе и выбирала себе цели по своему разумению, всё более широкому, но нельзя отрицать, что для многих миссий в тылу противника сейчас АИ годится уже даже лучше, чем человеческий оператор. Особенно, в условиях уязвимости связи.

Скажем, если не увлекаться «самообучением» АИ, а просто поставить ему конкретную задачу по обнаружению и поражению конкретных объектов (ну, допустим, железнодорожных локомотивов) — то, вероятно, он справится с этим нормально и без эксцессов (во всяком случае, пока противник не возьмёт моду маскировать товарняки под пассажирские электрички или наоборот).

Поэтому и борьба с дронами, думается, будет акцентироваться на уничтожении именно самих дронов, а не тех, кто ими управляет (если, конечно, не брать в расчёт смелые попытки по внедрению закладок-троянов во вражеский дроновый АИ как таковой).

Ну и здесь, честно скажу, перспективы по-любому не очень радостные, ибо если какие-то критически важные объекты ещё можно прикрыть зенитными автоматами (тоже на АИ, естественно), то на каждый бензовоз на трассе зушку не поставишь, и все маршруты подлёта — не заблокируешь.

Более того, по мере улучшения борьбы с самыми примитивными дронами-камикадзе, поражающими цель всей своей тушкой, сравнительно малоскоростной и заметной — следующим шагом будет упор на дроны, стреляющие с дистанции. Что вовсе не так уж сложно реализовать (у некоторых уже имеются вполне убедительные инструменты), и при массовом использовании это может быть тот ещё кошмар даже для весьма технически развитого сообщества (не поминая уж дикарей, побирающихся персидскими объедками).

Вероятно, какой-то мониторинг, какая-то координация со стороны человеческого оператора всё равно потребуется, для уточнения и подтверждения целей, для выявления паттернов — но это уж точно будет не детсадовец, а взрослый дядечка, который знал, на что подписывался и чем рисковал.

Comments

взрослый дядечка, который знал, на что подписывался и ч

[(Anonymous)]

Q-silver

взрослый дядечка будет маркировать датасет лейбочками: здесь ИИшечка правильно выбрала цель, здесь - нет, а здесь хрен его знает.

и делемма в том, что с одной стороны ИИ людей убивает, а кого в ответ кокнуть если один всего лишь писал код, второй - маркировал датасеты, третий заливал прошивку - и их всех вместе попробуй еще найти, когда они и сами не знают - мирные ли они абрикосы - или враждебные урюки.