Компаниите по света влагат все повече средства в изкуствен интелект, но технологичната надпревара започва да разкрива един далеч по-човешки проблем - служителите просто не вярват на системите, чиито решения не могат да разберат. Нов международен доклад на SAS, базиран на анализ на IDC, показва, че именно доверието, качеството на данните и възможността ИИ да обяснява действията си все по-често определят дали инвестициите в технологията ще донесат реална печалба или ще останат скъп експеримент.
Проучването обхваща 2699 ръководители и специалисти в 28 държави и четири големи сектора - банкиране, застраховане, бионауки и публична администрация. Основният извод е показателен: организациите, които са изградили най-сериозни практики за надежден ИИ, са 15 пъти по-склонни да отчетат висока или много висока възвръщаемост от инвестициите си - 62% срещу едва 4% при изоставащите компании.
Това не означава, че самата възвръщаемост е 15 пъти по-висока. Данните показват, че шансът една организация да постигне силен финансов резултат е многократно по-голям, когато технологията е прозрачна, контролируема и стъпва върху качествени данни.
Когато машината не обяснява, човекът я отменя
Социалният проблем се оказва почти толкова важен, колкото и технологичният. Според изследването 97,2% от потребителите поне понякога променят или отменят препоръките, генерирани от ИИ.
Най-честата причина не е непременно грешен резултат. Служителите отказват да приемат решение дори когато то може да е правилно, ако системата не може да обясни как е стигнала до него.
Това създава парадокс. Компанията инвестира в ИИ, за да автоматизира процеси, да спестява време и да повишава продуктивността, а след това служителите ръчно проверяват или преработват резултатите му. Така част от очакваната икономия изчезва.
„Когато изкуственият интелект работи, ефектът е невероятен“, казва Брайън Харис, главен технологичен директор в SAS. Той обаче предупреждава, че при сложни задачи съвременните ИИ агенти могат да допускат грешки в над 25% от случаите, което е неприемливо, когато става дума за важни бизнес или обществени решения.
Според него компаниите трябва да включат човешката експертиза в процеса и да запазят реален контрол върху системите.
Колкото по-самостоятелен е ИИ, толкова по-малко му вярваме
Докладът показва и друга интересна тенденция. Доверието към генеративния ИИ е около 76%, но при автономните ИИ агенти пада до 66%.
Причината е проста - колкото повече решения машината започва да взема сама, толкова по-голям става въпросът кой носи отговорност, ако тя сгреши.
„С нарастването на автономността на изкуствения интелект компаниите се изправят пред ново предизвикателство - как да запазят доверието в системи, които хората не разбират напълно“, отбелязва Крис Маршал, вицепрезидент в IDC.
Според него прозрачността, отчетността и доброто управление вече не са допълнителни екстри към технологичния продукт, а условие той въобще да бъде използван ефективно.
Печелят не тези с най-модерния ИИ, а тези, които го управляват добре
Един от най-интересните икономически изводи в доклада е, че най-успешните компании невинаги използват по-различна или по-скъпа технология.
Разликата е в начина, по който я управляват.
Организациите с най-развити практики за надежден ИИ постигат средно 1,85 пъти по-добри резултати по 13 различни бизнес показателя - включително ръст на приходите, намаляване на разходите и подобряване на клиентското преживяване.
И вместо да забавят инвестициите си, лидерите ги увеличават. 85% от тях планират през тази година да вложат с над 10% повече средства именно в надеждността, контрола и управлението на ИИ.
Така постепенно се оформя ново конкурентно разделение. Едни компании купуват все повече ИИ, а други инвестират и в системите, които правят този ИИ използваем.
Големият проблем се оказват данните
Технологичният блясък често прикрива много по-прозаичен проблем - старите и лошо организирани фирмени данни.
Само 17,5% от изследваните организации разполагат с напълно оптимизирана инфраструктура от данни, достатъчно зряла за работа с автономни ИИ агенти.
Компаниите с добра основа от данни са четири пъти по-склонни да очакват висока възвръщаемост от проектите си и шест пъти по-често прилагат стандарти за качество, проследимост и обяснимост.
Това е и една от причините огромните инвестиции в изкуствен интелект невинаги да дават очаквания резултат. Съвременен модел, обучен или свързан с непълни, противоречиви или остарели данни, просто произвежда по-бързо същите проблеми, които организацията е имала и преди.
Банките вече виждат доверието като конкурентно предимство
Разликите са особено видими във финансовия сектор, където грешно решение на ИИ може да засегне кредит, инвестиция, застраховка или проверка за измами.
85% от водещите банки вече имат изградени рамки за управление на изкуствения интелект. При изоставащите организации този дял е едва 29%.
В публичния сектор 41% от лидерите планират да увеличат инвестициите си в надежден ИИ с над 20% през следващата година.
Най-напред в широкото внедряване обаче са бионауките. Там 23% от организациите вече използват ИИ в мащаб за цялата компания.
От технологична надпревара към икономика на доверието
Докладът на SAS и IDC нарича новата ситуация „икономика на доверието“. Терминът добре описва следващия етап в развитието на изкуствения интелект.
Доскоро основният въпрос беше колко мощен е моделът. Сега все по-често бизнесът трябва да пита дали знае върху какви данни работи, може ли да обясни решенията си, кой отговаря при грешка и дали хората изобщо са готови да приемат препоръките му.
Надеждният ИИ според изследването трябва да бъде сигурен, справедлив, съобразен с регулациите, подлежащ на одит и способен ясно да показва как стига до решенията си. Човекът трябва да запази възможността да контролира и оспорва резултата.
Това постепенно превръща доверието от абстрактна етична тема в измерим икономически актив. За компаниите вече не е достатъчно да кажат, че използват изкуствен интелект. Истинското предимство ще идва от това дали служители, клиенти и регулатори са готови да му повярват.
