Джек Кларк, співзасновник компанії Anthropic, висловив занепокоєння щодо швидкого розвитку штучного інтелекту (ШІ), попередивши, що технології можуть досягти стадії, коли вони зможуть розвиватися без людського контролю.
У інтерв’ю BBC Newsnight Кларк зазначив, що в індустрії ШІ існує відчуття, ніби «є педаль газу, але немає гальм». Він підкреслив, що важливо, щоб люди контролювали ці системи, оскільки їхній вплив на суспільство зростає.
«Світу потрібно подумати, і нам слід розробити нові правила, щоб бути впевненими в цих системах», — зазначив Кларк, який є одним із лідерів у галузі розробки ШІ.
Кларк також звернув увагу на чат-бот Claude, розроблений Anthropic, який вже на 80% здатний генерувати власний код. Він висловив побоювання, що досягнення 100% може статися протягом наступних двох років, що матиме значні наслідки.
Хоча Кларк не надав конкретних пропозицій щодо регулювання, він провів паралель між розвитком ШІ та нафтовим бумом, зазначивши, що суспільство повинно розробити політичну та регуляторну базу, яка забезпечить безпеку технологій.
Незважаючи на ці застереження, цього тижня Anthropic підтримала виконавчий указ президента США Дональда Трампа, який не містить обов’язкових вимог до компаній, що розробляють ШІ, проходити урядові тестування на безпеку.
Компанія, заснована п’ять років тому, швидко зросла і готується до публічного виходу на фондовий ринок, що може стати одним із найцінніших лістингів в історії. Приватні інвестори оцінюють вартість Anthropic приблизно в 1 трлн доларів.
Кларк підкреслив, що метою компанії є не лише поліпшення репутації серед клієнтів, а й інформування суспільства про потенційні ризики, пов’язані з технологією.
Він висловив занепокоєння щодо наслідків для економіки, оскільки технології ШІ можуть замінити робочі місця. За останній рік деякі великі технологічні компанії вже провели масові звільнення, посилаючись на здатність ШІ виконувати роботу, яка раніше вимагала участі людей.
Кларк також зазначив, що креативність людей може залишатися важливою перевагою перед технологіями ШІ. «Є відкриті питання щодо того, чи можуть системи ШІ бути справді креативними», — додав він.
На завершення, Кларк порадив молодим людям, які відчувають невпевненість у майбутньому, розвивати свої хобі та здобувати гуманітарну освіту, підкресливши, що креативність і допитливість можуть стати важливими активами в економіці, заснованій на ШІ.
Джек Кларк, співзасновник Anthropic, закликав до уповільнення розвитку штучного інтелекту, підкреслюючи важливість людського контролю. Він також висловив занепокоєння щодо потенційних ризиків для економіки та робочих місць.
Джерело: BBC News
