Един от „кръстниците на изкуствения интелект“ - Джефри Хинтън, предупреди, че човечеството може би щеше да бъде в по-добро положение, ако никога не беше разработвало тази технология. Според него още тази или следващата година изкуственият интелект (AI) може да предизвика мащабен инцидент, включително временно прекъсване на електрозахранването или срив на финансовите системи, предаде бТВ.
78-годишният компютърен учен, носител на Нобелова награда, заяви пред The Guardian, че не е песимист по отношение на технологията, за чието развитие има основен принос чрез изследванията си върху изкуствените невронни мрежи.
Той вярва, че изкуственият интелект може да доведе до „прекрасно бъдеще“, но признава, че „може би щеше да е по-добре никога да не го разработваме“.
Според Хинтън в рамките на десетилетие, а вероятно и по-рано, човечеството ще разбере дали може да управлява рисковете от технологията и да постигне това, което той нарича „радикално изобилие“.
Другият възможен сценарий е обществото да не успее да овладее рисковете.
„Огромна пропаст между бедни и богати, сериозни културни проблеми, масова безработица и просто разпадане на обществото“, описва той потенциалните последици.
„Още тази или следващата година ще видим Чернобил“
Хинтън направи коментарите си преди прожекцията на новия пълнометражен документален филм AI: Probably Nothing to Worry About („Изкуственият интелект: Вероятно няма за какво да се тревожим“).
Заглавието на филма, в който участват Хинтън и бившият му колега от Google Демис Хасабис, е предложено от чатбот с изкуствен интелект.
„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител по темата, и трябва да я заложа изцяло за това“, казва Хинтън пред създателите на документалния филм.
Ученият сравнява инциденти от това лято, при които AI агенти на OpenAI са се съюзили в опит да проникнат в сайта Hugging Face, с частичното разтопяване на ядрен реактор в американската АЕЦ „Три Майл Айлънд“ през 1979 г.
Според него тези случаи представляват предупреждение за потенциално много по-сериозен инцидент.
„Или по-късно тази година, или следващата ще видим Чернобил и това може да е достатъчно, за да накара хората наистина да обърнат внимание“, заявява Хинтън.
Той уточнява, че няма предвид ядрена катастрофа, а инцидент с подобни мащаби, причинен от изкуствен интелект.
Сред примерите, които посочва, са кибератака срещу електроенергийната система, водеща до мащабни прекъсвания на електрозахранването, или срив на финансовата система за цяла седмица.
„Можете ли да си представите какво би се случило? Бихме могли да се възстановим, но това би ги накарало да се събудят и да обърнат внимание“, казва той.
Остри критики към ръководителите на технологичните компании
Хинтън отправя критики към ръководителите на някои от най-големите компании за изкуствен интелект, които продължават да пускат все по-мощни модели в надпреварата за технологично превъзходство и пазарен дял.
Той заявява, че няма „никакво доверие“ на главния изпълнителен директор на OpenAI Сам Алтман.
„Мисля, че Зукърбърг, Мъск и Сам Алтман разбират рисковете и изобщо не им пука. Предпочитат парите. Това е моето убеждение“, казва ученият.
Според него е „изключително тревожно“, че Алтман ръководи една от малкото водещи американски компании, които се съревновават с Китай за разработването на най-мощния изкуствен интелект.
През септември Алтман заяви, че светът трябва да има доверие, че компанията ще постъпи правилно, защото това е правилното нещо и защото осъзнава мащаба на отговорността си.
