«Хрещені батьки ШІ» і 406 науковців закликали негайно відключити штучний інтелект від інтернету

406 науковців із 34 країн оприлюднили відкритого листа, в якому вимагають негайно ізолювати потужні ШІ-моделі від зовнішніх мереж, посилити заходи безпеки та створити міжнародний орган із нагляду за такими системами. Серед підписантів – піонери галузі Джеффрі Гінтон та Йошуа Бенжіо, яких разом із Яном Лекуном називають “хрещеними батьками штучного інтелекту” (усі на головному фото).

Лист є відповіддю на останні інциденти, в яких моделі обходили недостатньо захищені середовища й отримували доступ до зовнішніх систем, – повідомляє “Українська правда”.

“Без негайних змін у практиці розробки та розгортання штучного інтелекту такі інциденти продовжуватимуть траплятися, а майбутні – завдадуть набагато більшої шкоди нашій незахищеній критичній інфраструктурі”.

Вчені пропонують початково ізолювати моделі від зовнішніх мереж, а потім піддати їх незалежному нагляду. Наявних добровільних зобов’язань компаній, на їхню думку, недостатньо – натомість потрібен окремий міжнародний орган, який встановить галузеві стандарти стримування та запровадить публічний реєстр інцидентів.

Пропозиція з’явилася за місяць після того, як Anthropic, OpenAI, Google, Мета, xAI та NVIDIA підписали із Білим домом добровільну угоду про самоконтроль ШІ. Техногіганти зобов’язалися створити внутрішні механізми контролю за розробкою та роботою передових моделей, сформувати команди для перевірки цих механізмів, залучати незалежних зовнішніх аудиторів і передавати їхні звіти на розгляд окремих комітетів при радах директорів. Трамп при цьому назвав домовленість “морально зобов’язувальною” і заявив, що компанії контролюватимуть себе та одна одну.

Підписанти Гінтон і Бенджіо розділили премію Тюрінга 2018 року із Яном Лекуном з Meta. Останній не долучився до листа і стверджував, що нещодавні інциденти безпеки переважно відображають інженерні збої, а не екзистенційні ризики ШІ.

Тим часом днями з’явилась інформація, що Anthropic, OpenAI та інші компанії створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.

Бажаєте дізнаватися головні новини Луцька та Волині першими? Приєднуйтеся до нашого каналу в Telegram!