Глава Rheinmetall за запрет ИИ в решениях об открытии огня

На фоне стремительного технологического прогресса в оборонной промышленности глава концерна Rheinmetall Армин Паппергер призвал выработать глобальные правила, которые гарантировали бы, что решение об открытии огня в ходе военных действий и в будущем будет принимать человек, а не машины, управляемые искусственным интеллектом.

«С технологической точки зрения в ближайшие десять лет станет возможным очень многое — развитие идёт по экспоненте», — заявил руководитель концерна в интервью немецкому информационному агентству dpa на международной оборонной выставке Eurosatory в Вильпенте под Парижем. По его словам, необходимы обязательные международные нормы, аналогичные тем, что существуют в сфере ядерного оружия. «Ни одна компания и ни один отдельный человек не могут устанавливать такие правила. Решение должно приниматься на уровне этического совета или посредством резолюции ООН».

Rheinmetall производит беспилотники, военную технику и корабли, способные автономно выполнять задачи благодаря использованию технологий искусственного интеллекта. Однако Паппергер подчёркивает, что даже в случае автономных вооружённых систем последнее слово всегда остаётся за человеком, принимающим решение о применении силы. «Мы не создаём ни одной системы, в которой человек не принимал бы окончательное решение», — заявил глава оборонной компании. По его словам, «этический принцип Rheinmetall – это принцип Human in the Loop — окончательное решение всегда принимает человек».

Технически уже сегодня возможно передать право принятия такого решения искусственному интеллекту. Однако ни концерн Rheinmetall, ни его заказчики из стран НАТО не намерены идти по этому пути. Вместе с тем, как отмечает Паппергер, серьёзная проблема может возникнуть в том случае, если в ходе какого-либо вооружённого конфликта противостоящая сторона поступит иначе и позволит ИИ самостоятельно принимать решения о применении оружия. Чтобы предотвратить подобное развитие событий, крайне важно создать единые международные правила, действующие во всём мире, считает глава Rheinmetall.