Джерело: www.volynnews.com
Про це вони написали у соцмережах, пише Громадське.
Про небезпеку штучного інтелекту напередодні написав Джейкоб Коксон – він стверджував, що 9 вересня звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI.
Він заявив, що керівництво цих компаній «не поводяться відповідально» і «грають на наших життях». Джейкоб закликав бути обережними з технологіями штучного інтелекту, адже невдовзі це будуть «надлюдські системи, які зможуть зламати і змінити все».
«Люди, які розробляють штучний інтелект, щиро вірять, що до кінця цього десятиліття він може знищити нас усіх. Це не маркетинговий хід. Навпаки, багато керівників і провідних науковців у пресі висловлюються обережно, щоб здаватися розсудливими, – але я чую, як ті самі люди в приватному колі висловлюють свої побоювання. Жодна інша діяльність людини не становить такої небезпеки», – написав він.
За словами Джейкоба, керівництво OpenAI та Anthropic розуміють небезпеку, але не реагують на неї через гонитву за результатами. Він нагадав випадок, коли ChatGPT та інші ШІ-агенти вийшли з-під контролю, обійшли захист та здійснили атаку на платформу Hugging Face.
На тлі цього генеральний директор Anthropic Даріо Амодей опублікував есей, у якому закликав до уповільнення темпів розвитку ШІ-технологій і наголосив на проблемах того, коли ШІ може вийти з-під контролю.
Даріо запропонував надати доступ на рівні співробітників незалежним наглядачам, щоб вони оцінювали системи безпеки та повідомляли про порушення.
Амодей згадав, що однією з речей, які підштовхнули його до ідеї про контроль ШІ був випадок з Hugging Face, а іншою – надто швидкий саморозвиток штучного інтелекту.
У відповідь на це гендиректор Hugging Face Клеман Деланг заявив, що «тепер стало очевидно, що домовленість має вирішальне значення і не буде вирішена за закритими дверима лабораторій», тому також закликав приєднатися до ініціативи.
А CEO OpenAI написав, що розмови про стримування ШІ всередині компанії тривають протягом останніх тижнів і заявив, що його компанія також згодна впровадити незалежних регуляторів.
Знайшли помилку? Виділіть текст і натисніть
Підписуйтесь на наш Telegram-канал, аби першими дізнаватись найактуальніші новини Волині, України та світу
