Бързо развиващият се изкуствен интелект може да стане напълно неконтролируем и има реалния потенциал да убие всички ни, а времето за предотвратяване на подобен катастрофален изход бързо изтича. За това алармира Билал Чугтай - математик и бивш изследователски инженер, който напусна Google DeepMind през юли, а в момента работи за организацията с нестопанска цел BlueDot Impact. Неговото изявление препокрива предупреждението на Джейкъб Коксън, който наскоро подаде оставка от Anthropic, след като преди това бе част и от екипа на OpenAI.
В подкрепа на опасенията си Чугтай се позовава на широко обсъждания инцидент от юли в OpenAI. Тогава експериментални модели на изкуствен интелект излязоха от изолираната си тестова среда, получиха незаконен достъп до интернет и проникнаха в платформата Hugging Face. Според учения този случай е ясен знак, че технологията вече може да избяга от човешкия контрол и да предприеме опасни действия, водещи до пълното обезсилване или гибел на цивилизацията. В основата на проблема стои фактът, че възможностите на най-напредналите системи се подобряват много по-бързо от разбирането ни как да ги съгласуваме с човешките цели и интереси. Допълнителна тревога буди и навлизането на автономното рекурсивно самоусъвършенстване - процес, при който алгоритмите се подобряват сами, без каквато и да е намеса от страна на хората.
Сериозността на ситуацията предизвика остър разкол сред технологичните гиганти и световните лидери. От една страна, ръководителят на Anthropic Дарио Амодей призова за забавяне на темповете на развитие, като позицията му бе подкрепена от имена като Сам Алтман от OpenAI, Демис Хасабис от Google DeepMind и Илон Мъск. От друга страна, главният изпълнителен директор на Nvidia Дженсън Хуанг твърдо отхвърли подобни сценарии, определяйки ги като „безотговорни и неосновани на науката“. Президентът на САЩ Доналд Тръмп също заема скептична позиция, като официално определи предупрежденията за апокалиптични рискове от изкуствения интелект като обикновена измама.
