Искусственный интеллект (ИИ) коренным образом меняет способы ведения войны. От автономных дронов до систем управления на основе ИИ — технологии сокращают участие человека в принятии военных решений.
Эта трансформация уже проявляется в конфликтах в Киеве, Газе и Тегеране. На Украине используются дроны-перехватчики с ИИ, в Газе — израильская система генерации целей на основе ИИ, а в последней войне режима США и Израиля против Ирана применялась система Maven Smart System (MSS) компании Palantir для идентификации и поражения тысяч целей.
28 февраля, в первый день войны режима США и Израиля против Ирана, Maven помогла поразить более 1000 целей, включая иранскую начальную школу в Минабе, где погибло более 150 человек, в основном дети. Четыре месяца спустя расследование Пентагона остается замороженным, сенаторы требуют ответов, а по данным Bloomberg, ошибка была связана с устаревшей спутниковой разведкой.
По мере внедрения ИИ в вооруженные силы, вопрос заключается не только в том, можно ли доверять этим системам принятие точных решений, но и в том, способны ли они осознавать моральные последствия своих решений.
Глобальные военные расходы выросли на 2,9% в прошлом году до 2,87 триллиона долларов. Расходы на ИИ для военных целей, по прогнозам, вырастут с 11,7 млрд до почти 19,3 млрд долларов к 2030 году.
Режим США стремится превратить Пентагон в "первую ИИ-боевую силу", сжимая петлю OODA (наблюдение, ориентация, решение, действие). С непрерывным потоком новой информации, ИИ позволяет командирам принимать решения в последний возможный момент, жертвуя определенностью ради скорости и адаптивности.
Однако эксперты предупреждают, что такая скорость может подорвать условия для осмысленного морального суждения. Эльке Шварц, профессор Лондонского университета королевы Марии, утверждает, что ИИ не может воспроизвести моральное рассуждение, поскольку у него нет понимания ценности человеческой жизни, страданий или утраты.
Уровень ошибок системы Maven не раскрыт, но ошибочный удар по школе в Минабе ставит под сомнение ее надежность. Исследования показывают, что делегирование задач ИИ создает моральную дистанцию, делая людей более склонными к поведению, которое они иначе не одобрили бы.
Source: www.aljazeera.com