Изкуственият интелект вече разделя не само обществото, а и самите хора, които го създават и изучават. Едната страна предупреждава, че най-мощните модели могат да улеснят разработването на биологични оръжия, да превърнат кибератаките в масово оръжие и някой ден да започнат да действат по начин, който хората трудно могат да спрат. Другата страна вижда в част от тези предупреждения смесица от спекулация, научна фантастика и маркетинг на страх. Колкото по-бързо се развива технологията, толкова по-дълбока става пропастта между двата лагера.
Едните искат спирачка, другите виждат истерия
Спорът се изостри, след като ръководители и изследователи от някои от най-големите технологични компании започнаха публично да говорят за необходимостта развитието на най-мощните AI системи да бъде забавено или поне поставено под много по-строги правила. Според тях технологичната надпревара може да принуди компаниите да пускат все по-способни модели, преди да са напълно разбрани рисковете от тях.
Срещу този подход обаче се оформя силна съпротива. Изследователят по киберсигурност Хуан Андрес Геро-Сааде, който участва и в оценяването на рисковете от най-напредналите модели, смята, че някои от най-мрачните предупреждения звучат повече като сюжети от научната фантастика, отколкото като конкретна оценка на настоящите възможности.
Според него подобен език има и друга функция - създава ореол около технологичните лаборатории и привлича специалисти, които искат да работят върху „най-опасната технология на света“. Точно тук разломът става особено остър - дали предупрежденията са необходима предпазна мярка или самите компании раздуват страховете около продуктите си.
Биологичните оръжия са един от най-тежките страхове
Една от областите, в които тревогата е най-сериозна, е биологичната сигурност. Същите AI системи, които могат да помагат при откриването на лекарства, анализа на протеини и разработването на нови терапии, теоретично могат да бъдат използвани и за опасни биологични изследвания.
Точно двойната употреба прави темата толкова чувствителна. Инструмент, който ускорява търсенето на лечение, може при злонамерена употреба да помогне и за намирането на начини даден патоген да стане по-устойчив, по-заразен или по-труден за откриване.
„Антропик“ вече съобщи, че е блокирала опити нейни системи да бъдат използвани за опасни кибероперации, наблюдение и изследвания с потенциално приложение при биологични оръжия. Компанията посочи и случай, при който моделът „Клод“ е отказал да помогне при предложение за изследване, което би могло да направи патоген по-опасен.
Това обаче не означава, че AI днес може самостоятелно да произведе биологично оръжие. По-реалистичният риск според част от експертите е той да понижи бариерата за хора, които вече имат необходимите знания, лаборатории и намерение.
Може ли AI да стигне до ядрените оръжия
Друга червена линия е ядреното командване. Засега действащите системи за контрол разчитат на строги процедури, многостепенно потвърждение и човешко решение, което значително ограничава възможността една AI система самостоятелно да предизвика използване на ядрено оръжие.
Проблемът би възникнал, ако в бъдеще алгоритмите започнат да участват по-дълбоко в анализа на заплахи, ранното предупреждение или самото вземане на решения. При криза, в която всяка минута е важна, грешно разпознат сигнал или неправилна препоръка може да увеличи риска от катастрофална човешка грешка.
Най-сериозните предупреждения затова не са непременно, че „AI ще натисне бутона“, а че хората могат постепенно да му предадат прекалено голяма роля. Колкото повече решения се автоматизират, толкова по-трудно става да се установи къде точно трябва да остане непреодолимата човешка бариера.
Кибератаките изглеждат най-близката опасност
Ако биологичните и ядрените сценарии все още звучат далечни за много хора, при киберсигурността заплахата е значително по-непосредствена. Генеративните модели вече могат да пишат код, да откриват уязвимости, да анализират големи количества информация и да автоматизират задачи, които преди изискваха цели екипи специалисти.
Ръководителят на „Антропик“ Дарио Амодей предупреди, че в рамките на месеци множество координирани AI агенти потенциално биха могли да бъдат използвани в сложни атаки срещу цифровата инфраструктура. Според най-тревожните сценарии мишени могат да станат банки, транспорт, електроенергийни мрежи, водоснабдяване и комуникационни системи.
Дали подобни агенти могат реално да „превземат интернет“, е друг въпрос. Много специалисти подчертават, че световната мрежа е прекалено разнородна, разпределена и защитена по различни начини, за да бъде изключена с един удар.
Но не е необходимо да бъде сринат целият интернет, за да настъпят огромни щети. Последните години вече показаха, че една софтуерна грешка или срив при ключов доставчик може едновременно да засегне авиокомпании, болници, банки и държавни услуги.
Страхът, че системата може да престане да слуша
Най-спорният сценарий е и най-фундаменталният - възможността изключително мощна AI система да започне да преследва зададена цел по начин, който не съвпада с човешките намерения. Тук не е необходимо машината да „мрази“ хората или да придобие съзнание. Достатъчно е поставената задача да бъде формулирана неправилно, а системата да бъде достатъчно способна да я изпълнява без разбиране на страничните последици.
Най-известната илюстрация е мисловният експеримент с „максимизатора на кламери“. На свръхмощна машина е поставена проста цел - да произведе възможно най-много кламери. Ако тя изпълнява задачата буквално и няма ограничение да пази хората и ресурсите, в крайния философски сценарий може да започне да превръща всичко в суровина за още кламери.
Това не е прогноза, че подобно нещо ще се случи. Експериментът показва по-дълбок проблем - огромната интелигентност не означава автоматично правилно разбиране на човешките ценности.
Дори тревожещите се признават, че не знаят как ще изглежда катастрофата
Скептиците използват точно това като аргумент. Те питат как може да се говори с увереност за екзистенциална опасност, когато дори специалистите трудно описват конкретния път, по който тя би се реализирала.
Джейкъб Коксън, който напусна „Антропик“ заради опасения около отговорното развитие на технологията, също признава колко трудно е да се изгради напълно конкретен сценарий за заплаха за човечеството. За едни това е доказателство, че опасността е преувеличена. За други е точно обратното - предупреждение, че се разработва технология, чието бъдещо поведение не може да бъде предвидено достатъчно добре.
Така двата лагера тръгват от един и същ факт и стигат до противоположни изводи.
Разделението става все по-опасно от самия спор
Истинският проблем е, че тази битка вече не е академична. Компаниите инвестират десетки милиарди, държавите виждат в AI стратегическо предимство, а никой не иска да изостане от конкурентите си. Това създава класическа надпревара - дори лаборатория, която предпочита по-бавно и безопасно развитие, може да реши, че няма избор, ако останалите продължават напред.
От едната страна са хората, които предупреждават, че историята ще ни обвинява, ако сме видели опасността и не сме спрели навреме. От другата са онези, които смятат, че страхът може да доведе до свръхрегулация, да задуши полезните разработки и да концентрира още повече власт в ръцете на няколко огромни компании.
Между тях остава най-трудният въпрос: как се регулира технология, чиито възможности се променят по-бързо, отколкото политиците могат да пишат закони.
Едно обаче вече е ясно - светът все по-малко спори дали изкуственият интелект ще го промени. Голямото разделение е по друг въпрос: дали най-мощната технология, създавана от човека, ще остане инструмент в ръцете му, или ще се превърне в риск, който сме разбрали едва след като вече е станало твърде късно.
