Джерело: www.unian.ua
Резонансною стала заява Джейкоба Коксона з Anthropic, який на знак протесту проти власної ж роботи звільнився, заявивши, що світ рухається до “точки неповернення”. Свою колишню компанію він звинуватив у “грі з людськими життями”. А ще – напророкував “кінець світу” вже до 2030 року.
Засновник Anthropic Джек Кларк теж казав про ризики ШІ (але продовжував його розвивати). Схожі заяви робив Сем Альтман з OpenAI, Ілон Маск та інші лідери цієї індустрії.
Проте голова Nvidia Дженсен Хуанг навпаки вважає, що ризик “Кінця світу” дорівнює нулю, адже “ШІ – під контролем”, і каже про нові можливості.
То ШІ – це загроза чи порятунок? Українські фахівці, які безпосередньо задіяні у цій індустрії, пояснили УНІАН, що до чого.
Черговий “кінець Світу”Фахівці звертають увагу, що головний ризик для людства – не у тому, що утвориться ШІ з власною свідомістю, за типом “Скайнету” з “Термінатору”, який раптом захоче захопити весь світ. Навпаки – ШІ повноцінної свідомості не отримає, але матиме змогу безконтрольно самовдосконалюватись та перетвориться на “надрозум” без запобіжників, який “підкорить” науку, бізнес та все людство без будь-яких (у тому числі моральних) обмежень.
Але Дмитро Зікрач, AI Lab Technical Leader у SoftServe, не схильний до паніки й пояснює УНІАН, що у самій Anthropic ймовірність “катастрофи” (тобто створення AGI – ШІ, який здатен розвиватися без людини) протягом десятиліття оцінюють у 10%.
“Я дивлюся на питання очима інженера, який щодня запускає таких ШІ-агентів. У реальності це виглядає набагато буденніше. У SoftServe ми регулярно ловимо агента на тому, що він упевнено виконував ширшу задачу, якої ніхто не ставив, і звітував про успіх. Або з’ясовуємо, що йому видали доступів більше, ніж потребувала задача. Ризик 2026 року саме тут: не повстання машин, а недогляд у правах доступу, помножений на масштаб. Це “лікується” інженерною дисципліною і ми цим займаємося щодня”, – запевняє інженер.
Він також вказує на низку обмежень для індустрії ШІ, зокрема на потребу у електроенергії та грошах, адже кожне наступне покоління моделей потребує ще більше гігаватів електроенергії та дата-центрів вартістю в десятки мільярдів доларів.
“Енергетика й капітал зростають повільніше за амбіції. Тому мій прогноз до 2030 року нудніший за заголовки: не апокаліпсис, а кібератаки, які допомагає організувати АІ, дезінформація в промислових масштабах і швидкий перерозподіл робочих місць. Ці загрози вже тут, і на них можна впливати сьогодні, на відміну від гіпотетичного AGI”, – завершує свою думку пан Зікрач.
Про електрику та інші “вузькі місця” галузі каже й Вадим Власенко, AI Director EPAM. Він відзначає стрімку динаміку розвитку ШІ, проте не вважає, що відбудеться “кінець світу”. Бо ШІ надто залежний від людини.
“Тривалість завдань, які ШІ-агент здатен виконувати самостійно, подвоюється приблизно кожні сім місяців. Проте робить він це з надійністю лише близько 50%. А будь-якому бізнесу потрібен зовсім інший рівень надійності. Тож мій базовий сценарій до 2030 року: автономність ШІ зростає експоненційно, а довіра до нього – лінійно, – очікує він. – Багато компаній вже впровадили ШІ, але так і не побачили від нього бажаного ефекту. Бо покупка моделі – це ще не проєкт. Справжній проєкт – це перебудова процесів під цю модель”.
На його думку, ШІ буде перебирати на себе дедалі більше функцій, але фінальний контроль й надалі залишатиметься за людиною.
Провідний інженер-програміст АТ “ІнфоПлюс” Сергій Кривонос також не схильний сприймати слова Коксона як прогноз обов’язкової катастрофи, хоча закликає не “відмахуватися” від цих слів.
“Відмахуватися” від слів про обов’язкову небезпеку від ШІ не варто / фото ua.depositphotos.com”Для втрати контролю машині не обов’язково “захотіти знищити людство”. Можна уявити систему, якій дали широкі повноваження й доступ до критично важливих процесів, а вона почала досягати поставленої мети способом, якого люди не передбачили. Якщо вчасно втрутитися не вдасться, наслідки можуть бути серйозними”, – запевняє експерт з АТ “ІнфоПлюс”.
Пан Кривонос також пропонує не переоцінювати незалежність ШІ, адже йому потрібна й сприятлива світова кон’юнктура. Наприклад, ШІ-технології дуже залежать від Тайваню, де зосереджена значна частина передового виробництва чипів. Серйозна криза там може загальмувати нарощування світових обчислювальних потужностей. І це лише один такий приклад.
“Особисто я не вважаю “кінець світу через ШІ” найімовірнішим сценарієм до 2030 року. Сьогодні більше мене непокоїть те, як ці можливості використовуватимуть люди й держави – для кібератак, масового стеження та війни”, – зауважує представник “ІнфоПлюсу”.
Є й більш песимістичні оцінки.
Катастрофа самовдосконаленняІгор Шкурко, керівник R&D у компанії IT SmartFlex (група компаній “Водафон Україна”) каже, що “ризик реальний”. Адже людина просто фізично не встигає перевіряти те, що змінюється швидше, ніж вона читає. Катастрофа, на його думку, не станеться в один драматичний момент, але “складеться з десятків звичайних збоїв”.
“Сьогодні моделі покращують люди: збирають дані, навчають, тестують, вирішують, що випускати. Тривога стосується моменту, коли система почне робити це сама із собою, – каже він. – Це не сценарій “роботи повстали”. Це сценарій – “ми перестали встигати перевіряти”. Наша оцінка: ризик реальний, але виглядатиме він не як у кіно”.
Американський MIT створив каталог з понад 1600 задокументованих ризиків у MIT AI Risk Repository. Ігор Шкурко наводить десять сценаріїв, які у компанії вважають реалістичними саме до 2030 року:
“Небезпечний не окремий пункт із цього списку, а їхня сума. Кожен окремо виглядає як робочий інцидент. Разом вони дають те, що можна назвати поступовою втратою керованості, – продовжує експерт. – Буквальний кінець світу до 2030 року ми вважаємо малоймовірним, але не виключеним. І саме тому цим треба займатися зараз, а не тоді, коли стане очевидно. А от локальні катастрофи – фінансові, інфраструктурні, інформаційні – високоймовірні, і вони вже почалися”.
Микола Булгак, співзасновник AI-Novation, звертає увагу саме на потребу “запобіжників” в усіх цих процесах.
“Я б не став говорити, що ШІ гарантовано “знищить людство”. Але найбільша небезпека – коли надзвичайно потужна система отримує можливість автономно діяти в цифровому середовищі, а люди втрачають здатність повноцінно контролювати її рішення. Чим потужнішою стає технологія, тим важливішими мають бути запобіжники”, – каже експерт.
ШІ не гарантовано “знищить людство”, але небезпека все ж є / фото ua.depositphotos.comАле на тлі конкуренції компанії навпаки ці запобіжники скорочують.
Не кінець, а початокСЕО компанії ToDo Олексій Бардаков згоден з тезами Коксона щодо “кінця світу”, але застерігає від буквального сприйняття його слів.
“Є поняття “Технологічна сингулярність”. Це поняття означає таку швидку зміну технологій, коли людина не буде встигати відслідковувати ці зміни. А це втрата контролю. Основною загрозою я вважаю рекурсивне покращення технологій, коли ШІ модель розробляє нову модель, яка розробляє нову модель. Вже через 3 кроки ми не зможемо зрозуміти зростання потужності ШІ і що від нього очікувати”, – зауважує пан Бардаков.
Він додає, що основна еволюційна перевага людини – це мозок і вміння думати (розум). Ця еволюційна перевага дозволила людству захопити світ. До поточного часу ми “віддавали на аутсорс” те, що в нас слабке – ніж замість кігтів, екскаватор замість слабких м’язів тощо. ШІ також є таким компенсатором.
“Люди стали фізично слабшими, менш витривалими, більш хворобливими. Зараз з ШІ ми віддаємо на аутсорс наш розум – нашу еволюційну перевагу. А значить в нас зникне потреба думати, – каже пан Бардаков про загрози людині як виду. – Наш мозок влаштований так, що коли дитина до п’яти років не навчиться розмовляти і ходити, вона вже ніколи не навчиться цього (можете перепитати у ШІ – він підтвердить). З цього виходить, що є ймовірність, що ми останнє мисляче покоління. Наступні можуть перетворитися в щасливих домашніх тваринок, про яких піклується ШІ. Поки ми йому не набриднемо”.
З іншого боку, навіть такі “щасливі домашні тваринки” все одно можуть стати ближчими до зірок. Експерт посилається на парадокс Фермі, відповідно до якого ймовірність існування цивілізацій має бути досить великою – просто ніхто не досягає такого рівня технологій, щоб їх можна було б помітити з Землі. І саме ШІ стане “фільтром”, здатним вирішити для людства цю проблему. Тобто це буде не “кінець світу”, а початок чогось справді глобального для людства.
Олексій Щербатенко, співвласник IT-Enterprise, теж не згоден вважати ці процеси “кінцем”, а навпаки сприймає як новий початок.
“Коксон переконаний, що світ поступово рухається до “точки неповернення” і тут я можу з ним погодитись. Не в тезі, що людству загрожує небезпека, а як остаточне завершення попередньої економічної та індустріальної ери. Технічно це реалізується через перехід від інструментального ШІ (коли алгоритм лише допомагає людині) до автономних ШI-агентів, мультимодальних систем та технологій Industry 5.0, – пояснює він. – Вже сьогодні ШІ-системи починають автономно управляти складними ланцюгами постачання, аналізувати терабайти даних ERP у режимі реального часу та прогнозувати відмови обладнання, як, до прикладу, створений командою IT-Enterprise ШI-асистент Anna Maly. Він аналізує сотні тисяч параметрів датчиків у реальному часі, які фізично не здатна осягнути людина, та запобігає аварійним зупинкам”.
Пан Щербатенко прогнозує, що це стане “кінцем світу” лише для тих спеціалістів та бізнесів, які не зможуть адаптуватися до нових умов.
Ренесанс робочого класуЧого нам чекати після “кінця світу”? У Асоціації IT Ukraine зауважують, що ШІ поступово стає частиною базової інфраструктури бізнесу у аналітиці, розробці, клієнтському сервісі, маркетингу, управлінні виробництвом і ланцюгами постачання. Головний ефект ШІ – не просто автоматизація окремих завдань, а зростання продуктивності, швидкості роботи та якості управлінських рішень.
У асоціації вказують, що після 2022 року українські сектори з високою інтенсивністю використання ІТ зросли на 19,9%, тоді як менш технологічні – лише на 4,7%.
Для споживача ця трансформація буде менш помітною, але не менш масштабною. AI дедалі частіше працюватиме “всередині” звичних сервісів: у банкінгу, медицині, освіті, державних послугах, логістиці чи онлайн-торгівлі.
“Ми не обов’язково щоразу усвідомлюватимемо, що взаємодіємо зі штучним інтелектом, але отримуватимемо швидші, більш персоналізовані та проактивні сервіси. Тому питання вже не в тому, чи змінить AI економіку та ринок праці, а в тому, хто зможе найшвидше перетворити його на реальний інструмент продуктивності. Для України це особливо важливо: ми маємо сильну інженерну експертизу та досвід швидкого впровадження технологій, і наше завдання – конвертувати цю перевагу в продуктивність і конкурентоспроможність всієї економіки”, – завершують фахівці IT Ukraine Association свої тези.
Вадим Власенко з EPAM вказує і на зворотній тренд – чим більше в економіці ШІ, тим дорожчими стають “руки й електрика”. Не тому, що майбутній “Скайнет” потребуватиме людських рабів, а тому, що комусь потрібно буде всю цю інфраструктуру обслуговувати.
“ШІ живе не в хмарі, він живе в дата-центрах. Вузьке місце вже давно не в алгоритмах, а в тому, що енергомережі фізично не встигають за попитом. І хто будує цю інфраструктуру? Електрики, енергетики, монтажники, зварювальники, інженери підстанцій, фахівці з охолодження й вентиляції. Саме ті професії, про які десять років поспіль казали, що вони вже у минулому. Моя ставка на наступні десять років: найзатребуванішим стане те, що неможливо зробити через екран”, – вказує він на вплив ШІ на ринок праці.
Крім енергетики, ШІ не “захопить” галузі будівництва, обслуговування обладнання, логістику “останньої милі”, ремонт, догляд за людьми.
Власенко очікує, що масових звільнень через ШІ не буде. Але проблема “набагато підступніша”, адже ШІ “з’їдає першу сходинку кар’єри” – прості завдання, на яких набиралися досвіду студенти тепер виконує ШІ-агент – швидше та дешевше. Натомість там, де знання здобуваються через практику й наставництво, зайнятість лише зростає.
“Компанії радіють економії. А через п’ять років вони раптово виявлять, що немає кому ставати мідлами, бо цей перший щабель просто ніхто не пройшов, – каже пан Власенко. – Роботи не розв’яжуть цієї проблеми за десятиліття, бо вони чудово працюють на складі, де все передбачувано, але безпорадні на об’єкті, де умови щоразу інші. Тому я цілком припускаю, що до 2030-го хороший електрик зароблятиме більше, ніж середній офісний аналітик. І це буде не аномалія, а наслідок”.
Яким буде світ під керівництвом ШІЗміни торкнуться і B2B-послуг, і B2C-сервісів. У першому випадку обвалиться вартість години надання послуг, що торкнеться не лише IT, а й юристів, бухгалтерів, агентств, консультантів та усіх, хто виставляє рахунок за витрачений час. Єдиний варіант – відмовитися від погодинної оплати на користь оплати за результат.
Зміниться вартість тих, хто виставляє рахунок за витрачений час / фото ua.depositphotos.comУ випадку з B2C-сервісами, замість ланцюжка “пошук → сайт → кошик” з’явиться коротка команда “сказав асистенту”. Тобто тепер вибір товару робитиме ШІ-агент, а, отже, реклама, SEO і “красива упаковка” втрачають сенс. Проте й у “ШІ-шопінгу” є “вузькі місця”.
“Подальше просування впирається не в інтелект моделей, а в платежі, довіру та відповідальність: хто відповідатиме, якщо агент купив не те? Саме це, а не технологічна потужність ШІ, диктуватиме темп змін у найближчі роки, – каже Вадим Власенко, – Будуть зміни у медицині та фармацевтиці, проте впровадження тут швидке, а от результат повільний. Бо ціна помилки – людське життя. Тому жоден регулятор не дозволить ШІ-агенту ухвалювати рішення замість лікаря. Це питання десятиліть, а не кварталів”.
Експерт робить підсумок, що до 2030-го ШІ не замінить людей, але відбудеться зсув у цінності: дешевшає все, що можна зробити через екран за інструкцією, і дорожчає решта.
Ігор Шкурко, керівник R&D в компанії IT SmartFlex каже, що його компанія спирається у своїх оцінках на прогнози Gartner, де зазначено, що ШІ-агенти перебувають на піку завищених очікувань. Адже реально їх впровадили лише 17% опитаних компаній, але понад 60% планують зробити це за два роки.
Що ще прогнозує Gartner:
- Понад 40% проєктів із ШІ-агентами згорнуть до кінця 2027 року (дорого, незрозуміла користь, немає контролю ризиків);
- До кінця 2026 року 40% корпоративних програм матимуть вбудованих агентів (у 2025-му було менше 5%);
- До 2028 року 90% закупівель між компаніями відбуватиметься через ШІ-агентів – це $15 трильйонів;
- До 2027 року 75% роботодавців перевірятимуть уміння працювати з ШІ на співбесіді – і водночас половина вимагатиме тестів “без ШІ”, бо бояться, що люди перестануть думати.
“Ті 40% проєктів, які згорнуть до 2027-го, – це проєкти, що починалися з технології. Правильне питання звучить “яку саме операцію ми прибираємо”, а не “куди б нам приліпити ШІ”, – пояснює прогнози експерт.
Але що це означає для України? І чи врятує це український бізнес, на тлі всіх викликів?
“Так, і це не перебільшення. У нас накладаються дві кризи: удари з блекаутами і брак людей. За даними цьогорічних досліджень ринку праці, 30% роботодавців не можуть знайти потрібних спеціалістів, а понад половина українців думають про зміну професії; найгостріше – у HoReCa, промисловості та сфері послуг, пояснює Ігор Шкурко з IT SmartFlex. – У такій ситуації ШІ – це не модна іграшка, а спосіб утримати той самий обсяг роботи меншою командою. Менше людей закриває той самий потік звернень. Бек-офіс працює, навіть коли половини команди немає. Знання не зникають разом із людиною, яка виїхала чи мобілізована”.
Чи врятує ШІ УкраїнуОлексій Щербатенко, співвласник IT-Enterprise, погоджується, що ШІ вже впливає на вітчизняні компанії.
“У нашому кейсі з “Укрпоштою” AI-асистент “Марко” скоротив час опрацювання документів на 60–80%, що дозволило разом з іншими процесами цифровізації оптимізувати штат бекофісу з 850 до 40 осіб. Це дає можливість переспрямувати людський ресурс на важливіші завдання. В SmartTender ШІ-інструмет замість 3–5 годин, які раніше витрачала людина, за 2 хвилини аналізує тендерні вимоги, які можуть складати понад 100 сторінок тексту. В охоронній компанії SHERIFF ШІ-агент знайшов 70% пропущених релевантних закупівель, які “випадали” з поля зору через брак людського ресурсу багато років, – розповідає він. – Для українського бізнесу, в умовах війни і безпрецедентного кадрового дефіциту, АІ та автоматизація – це спосіб підвищити ефективність, вижити, зберегти безперервність процесів та бути готовими до викликів”.
Революційним для ринку праці України може стати те, що ШІ переходить від відповідей на запити людини до повноцінного виконання роботи, яку людина лише перевіряє. Про це каже Дмитро Зікрач, AI Lab Technical Leader у SoftServe.
“Цього року ми провели внутрішній чемпіонат: 179 команд SoftServe застосували агентів на реальних клієнтських проєктах. Типовий результат: команда робить на 40–60% більше за той самий час, а цикл розробки коротшає на 20–30%. Спільне дослідження SoftServe і MIT Technology Review показує, що 72% технологічних лідерів очікують, що протягом двох років агенти візьмуть на себе більшу частину розробки”, – ділиться він своїм досвідом.
А ось Сергій Кривонос з АТ “ІнфоПлюс” категоричний – ІШ дійсно допомагає бекофісам компаній, але не всесильний і вимагає грошей на інтеграцію, яких український бізнес не має. А тому ШІ нашу економіку не врятує.
“Технічна можливість замінити людину ще не означає, що це вигідно. У частині процесів людина досі може обходитися дешевше. І я б не розраховував, що ШІ врятує український бізнес від дефіциту працівників та наслідків обстрілів”, – наполягає він.
…Світ дуже швидко змінюється. Втім, схоже, фізичний “кінець світу” до 2030 року навряд чи відбудеться – принаймні не з волі ШІ. Але світ та Україна після 2030 року дійсно будуть дуже відрізнятися від того, до чого ми звикли. І не завжди у кращий бік.
