В поисках лучшего алгоритма для этических военных преступлений

ОСАКА, ЯПОНИЯ – 26 СЕНТЯБРЯ 2016 ГОДА: Модель эндоскелета T-800 человеческого размера из фильма «Терминатор 3D» в Universal Studios, Япония© Sarunyu L / Shutterstock.com

Во время войны каждый обеспокоенный гражданин должен задаться вопросом, что сами политики и военные считают приемлемыми ограничениями в своих действиях. Это люди, которые принимают решения, по-видимому, благодаря их серьезному пониманию ставок и их приверженности общему благу.

ИИ открывает новое измерение. Поскольку большинство людей считают, что ИИ был создан для принятия рациональных решений на основе алгоритмического понимания приоритетов, когда эти решения напоминают военное преступление, ни один человек не может быть обвинен в результате. Само понятие ответственности, лежащее в основе любой этической системы, исчезает. Нельзя винить человека, создавшего алгоритм, потому что его намерения не были преступными. Винить можно только агента, который создал условия, приведшие к военному преступлению. Но агент в случае ИИ — это абстракция.

Итак, как нам примирить три несопоставимые и потенциально конфликтующие силы: чрезвычайно прагматичную идею военной эффективности, гораздо более абстрактную идею этических стандартов и предполагаемую рациональность ИИ?

По данным Washington Post, один высокопоставленный офицер считает, что в США не о чем спорить, поскольку это «иудео-христианское общество».

Когда трехзвездочного генерала Ричарда Мура-младшего, заместителя начальника штаба ВВС по планам и программам, спросили о взглядах Пентагона на автономную войну, он дал такое объяснение на мероприятии в Гудзоновском институте в июле. «Независимо от ваших убеждений, наше общество — иудео-христианское общество, и у нас есть моральный компас. Не все так делают. И есть те, кто готов идти к цели независимо от того, какие средства придется использовать».

СегодняшнийЕженедельный словарь дьяволаопределение:

Риторика Мура показательна. Он начинает свое утверждение с того, что стало обязательным намеком на инклюзивность, «независимо от ваших убеждений». Это позволяет ему признать весь спектр религиозных или даже антирелигиозных мыслей, разрешенных Биллем о правах США, прежде чем утверждать то, что он считает фундаментальной истиной: «наше общество является иудео-христианским обществом, и у нас есть моральный компас».

Точно так же, как Верховный суд заявил, что корпорации — это люди, основанные на идее XIX века о том, что коммерческие компании следует считать «моральными личностями», Мур считает, что даже мультикультурное, демократическое общество имеет моральную идентичность. Это, по-видимому, означает, что оно несет ответственность за свои действия, как и должно быть любое моральное существо.

Но мышление Мура идет еще дальше. США не только обладают моральной идентичностью, и их можно рассматривать как моральную единицу, в которой каждый разделяет ответственность за свои действия. Он также обладает «моральным компасом». Dictionary.com определяет это как «усвоенный набор ценностей и целей, которые направляют человека в отношении этического поведения и принятия решений». Различные комментаторы сравнивают это с идеей Августина о «совести». Но совесть, как и сознание, — это концепция, которая не поддается четкому философскому определению, даже если она сосредоточена на личном принятии решений. Оба относятся к системе восприятия человека и подразумевают субъективность. Ни то, ни другое не может быть применено к коллективным образованиям. По этой причине никому не удалось успешно теоретизировать идею корпорации, нации или любого другого коллективного образования, имеющего моральный компас, выходящий за рамки идеи кодекса поведения или заявления о миссии.

Описывая коллективное использование или гармонизацию всего, что мешает восприятию, антропологи и социологи предпочитают описывать то, что они называют «основными ценностями» культур. Но эти ценности не следует путать с моральными или этическими принципами. Довольно спорная идея «иудео-христианской» культуры имеет мало общего с этическими рамками и больше связана с расплывчато сформулированными политическими и экономическими предположениями.