США и Россия добились смягчения формулировок в проекте международных правил для автономного оружия. Об этом 26 сентября сообщила The Washington Post, изучившая документы переговоров и поговорившая с их участниками. Речь идёт об оружейных системах, способных выбирать цели с применением искусственного интеллекта, передает Cronos.Asia.
В начале сентября дипломаты обсуждали этот вопрос на площадке ООН в Женеве. По данным издания, в заключительный день переговоров американская и российская делегации около 15 часов вносили изменения в проект документа. Из него исчезли требования к надёжности и предсказуемости работы таких систем, а также положение об учёте этических вопросов при их применении.
Ещё одна исключённая норма предусматривала, что перед ударом человек должен проверить цель, определённую ИИ. Как утверждают собеседники газеты, работа над правками шла на закрытом заседании без представителей гражданского общества. Другие делегации не всегда успевали отслеживать изменения.
Почему важен контроль человека
Верити Койл из Human Rights Watch предупреждает: слабые правила могут допустить ситуацию, в которой машины принимают решения о применении смертельной силы без достаточного участия человека. Среди возможных последствий она называет рост числа пострадавших мирных жителей и снижение ответственности за действия во время войны.
Нынешние переговоры не создают юридически обязательных норм. В ноябре страны вновь встретятся в Женеве, чтобы обсудить дальнейший статус работы, в том числе возможность подготовки международного договора.
Генассамблея ООН уже принимала резолюции по автономному оружию. В декабре 2024 года за очередной документ проголосовали 166 стран, против – Россия, Беларусь и КНДР. Первой эта резолюция не была: резолюция на ту же тему принималась и в 2023 году.
Вопрос перестал быть исключительно теоретическим. По данным The Washington Post, американские военные применяли инструмент Anthropic для выявления почти тысячи целей в первые сутки войны с Ираном. Издание также сообщало об использовании ИИ Израилем в военных операциях в секторе Газа.