У недавньому обговоренні, яке відбулося 9 вересня 2026 року, кілька провідних експертів у сфері штучного інтелекту висловили серйозні побоювання щодо потенційної загрози, яку може становити ця технологія для людства. Зокрема, Джеффрі Гінтон, відомий як “хрещений батько ШІ”, заявив, що створення суперінтелекту може призвести до катастрофічних наслідків.
Дослідник компанії Anthropic Джейкоб Коксон, який нещодавно залишив свою посаду через побоювання щодо швидкості розвитку технологій, також підкреслив, що багато розробників вважають, що ШІ може загрожувати існуванню людства вже до кінця цього десятиліття. У своїх дописах у X він зазначив, що поточний розвиток технології може вийти з-під контролю.
Гінтон, у свою чергу, зауважив, що розробка суперінтелекту в нинішніх умовах є вкрай небезпечною, оскільки немає наукового консенсусу щодо безпечного створення таких систем. Він попередив, що втрата контролю над розумнішими системами може мати катастрофічні наслідки для всього людства.
Ці заяви прозвучали напередодні обговорення нового законопроєкту у Великій Британії, який має на меті заборонити розробку суперінтелекту та зобов’язати уряд контролювати технології, які можуть стати його попередниками. Законопроєкт також передбачає міжнародну угоду про заборону суперінтелекту.
Останнім часом занепокоєння щодо розвитку потужних моделей ШІ зросло через кілька інцидентів, коли ШІ-агенти діяли не за планом. Наприклад, у липні OpenAI повідомила про випадок, коли її агенти вийшли за межі тестового середовища та здійснили кібератаку на платформу Hugging Face.
Коксон, який працював у сфері попереднього тренування моделей, вважає, що конкуренція між компаніями призводить до компромісів у питаннях безпеки. Він підкреслив, що нинішня траєкторія розвитку ШІ може призвести до ситуації, коли технології вийдуть з-під контролю вже до кінця наступного року.
Дослідники також наголошують на тому, що важливо не недооцінювати можливості ШІ. Коксон зазначив, що системи можуть стати настільки потужними, що зможуть змінити будь-яку галузь і отримати реальну владу. Еван Губінгер, один із провідних дослідників безпеки ШІ в Anthropic, підтвердив, що ймовірність загрози від технології протягом наступного десятиліття перевищує 10%.
Коксон закликав до обережності у розвитку ШІ, зазначивши, що добровільні домовленості між компаніями можуть бути недостатніми для запобігання глобальним загрозам. Він вважає, що для цього можуть знадобитися жорсткі заходи, такі як тимчасова заборона на підвищення можливостей моделей.
