Главният изпълнителен директор на германския отбранителен концерн „Райнметал“ Армин Папергер призова за глобални правила, които да гарантират, че решенията за употреба на смъртоносна сила във военни конфликти ще останат в ръцете на хора, а не на системи с изкуствен интелект, предаде ДПА. По думите му е необходима ясна международна рамка, сходна с тази при ядрените оръжия, „където просто се казва: ето границите“.
Изказването беше направено на международното изложение за отбрана „Юросатори“ във Вилпент край Париж, което приключва днес. Папергер предупреди, че технологично през следващото десетилетие ще бъде възможно „много“, а развитието ще расте експоненциално.
Правила преди машините да изпреварят политиците
Папергер заяви, че подобни решения не могат да бъдат оставени нито на отделна компания, нито на отделна личност. Според него въпросът трябва да бъде решен чрез етичен съвет или резолюция на ООН.
„Това не може да го определи компания или индивид“, посочи той. Сравнението с ядрените оръжия не е случайно - става дума за технология, при която възможностите се развиват по-бързо от способността на държавите да създават общи правила.
Така шефът на един от най-големите европейски отбранителни концерни поставя въпрос, който вече излиза извън лабораториите и военните изложения. Ако изкуственият интелект може да открива, проследява и поразява цели, кой носи отговорност за последното решение - операторът, командирът, производителят или алгоритъмът.
„Човекът трябва да има последната дума“
„Райнметал“ разработва и произвежда дронове, военни превозни средства и плавателни съдове, които използват автономни функции и приложения на изкуствения интелект. Компанията представя на „Юросатори 2026“ системи за действия в различни домейни - суша, въздух, море, космос, киберпространство и информационна среда, като акцентът е върху свързването на сензори, платформи, командване и ефектори.
Папергер обаче подчерта, че при всички автономни оръжейни системи на концерна окончателното решение за употреба на сила остава в ръцете на човек.
„Ние не произвеждаме нито една система, при която човекът да не взема окончателното решение“, заяви той. По думите му това е етичният подход на „Райнметал“ - винаги да има „човек в цикъла“, който да носи последната отговорност.
Технологията вече може повече, отколкото политиката е решила
Според Папергер от технологична гледна точка вече съществуват възможности решенията да бъдат оставени изцяло на изкуствения интелект. Той обаче заяви, че нито „Райнметал“, нито държавите от НАТО желаят да използват подобен подход.
Това е съществената граница в дебата. Автономните функции могат да помагат при навигация, разузнаване, разпознаване на цели, защита от дронове и управление на бойни платформи. Но когато се стигне до употреба на смъртоносна сила, Папергер настоява решението да не бъде предадено на машина.
Рискът според него е друг - ако в бъдещ конфликт противникова армия реши да позволи на изкуствения интелект да взема окончателни решения, натискът върху останалите държави да отговорят със същото може да стане огромен. Именно затова са нужни глобални правила, а не само корпоративни стандарти.
Новата оръжейна надпревара вече е алгоритмична
Войната в Украйна и развитието на безпилотните системи показаха колко бързо се променя бойното поле. Дронове, автономни платформи, системи за разпознаване на цели и изкуствен интелект вече са част от модерната отбранителна индустрия, а големите производители се конкурират не само с броня и огнева мощ, но и със софтуер.
Затова предупреждението на Папергер има по-широко значение. То идва от индустрия, която сама развива такива технологии, но признава, че последната граница не може да бъде само техническа.
Ако международната общност не договори ясни правила, въпросът няма да бъде дали изкуственият интелект може да участва във война. Той вече участва. Въпросът ще бъде дали човекът ще остане последната морална, юридическа и военна инстанция, преди една система да употреби смъртоносна сила.
Последвайте ни в Google News Showcase за важните новини
Вижте всички актуални новини от Standartnews.com
