Джерело: www.bbc.com
Автор фото, Reuters
-
- Author, Лілі Джамалі
- Role, Північноамериканський кореспондент з технологій
- Author, Лів Макмехон
- Role, Кореспондент BBC з технологій
- 11 хвилин(и) тому
OpenAI дозволить більше контенту в ChatGPT. Це стосується і еротики. Керівник компанії Сем Альтман заявив, що вони хочуть “ставитися до дорослих користувачів як до дорослих”.
У дописі на X Альтман написав, що майбутні версії популярного чатбота дозволять йому поводитися більш схоже на людину — “якщо ви цього захочете”.
Цей крок, що нагадує нещодавнє запровадження двох сексуально відвертих чатботів Grok від xAI Ілона Маска, може допомогти OpenAI залучити більше платних підписників.
Він також, імовірно, посилить тиск на законодавців, щоб ті запровадили жорсткіші обмеження щодо чатботів-компаньйонів — віртуальних співрозмовників, які створені не лише для надання інформації, а й для імітації дружби, романтичних стосунків чи емоційної підтримки.
Компанія OpenAI не відповіла на запити BBC про коментар.
Водночас Альтман сказав, що раніше OpenAI зробила ChatGPT “досить суворим, щоб переконатися, що ми були обережні з проблемами психічного здоров’я”.
Ці зміни були оголошені в дописі в блозі в серпні, який більше не відображається на вебсайті OpenAI.
“Ми усвідомлюємо, що це зробило його менш корисним/приємним для багатьох користувачів, які не мали проблем із психічним здоров’ям, але, враховуючи серйозність проблеми, ми хотіли зробити все правильно”, — написав пан Альтман.
Він сказав, що ChatGPT може незабаром послабити обмеження – “тепер, коли ми змогли пом’якшити серйозні проблеми психічного здоров’я та маємо нові інструменти”.
“У грудні, коли ми повноцінно запровадимо вікові обмеження та як частину нашого принципу “ставитися до дорослих користувачів як до дорослих”, ми дозволимо ще більше, наприклад, еротику для верифікованих дорослих”, – додав Альтман.
Ці зміни відбуваються після того, як раніше цього року на OpenAI подали до суду батьки американського підлітка, який покінчив життя самогубством.
Позов, поданий Меттом і Марією Рейн, які є батьками 16-річного Адама Рейна, став першим судовим позовом, який звинувачує OpenAI у неправомірному спричиненні смерті.
Родина долучила до справи чати між Адамом, який помер у квітні, та ChatGPT, де видно, як він пояснює, що має суїцидальні думки.
У своїй заяві OpenAI повідомила BBC, що переглядає цей документ.
“Ми висловлюємо наші найглибші співчуття родині Рейн у цей важкий час”, — заявила компанія.
Безпека дітей під питанням
Згідно із законами Великої Британії, письмова еротика не вимагає перевірки віку.
Однак порнографічні зображення, включно з тими, що згенеровані ШІ, вимагатимуть від користувачів підтвердження, що їм понад 18 років.
У США критики заявляють, що рішення OpenAI дозволити еротику на платформі свідчить про необхідність посилення регулювання на федеральному рівні та рівні штатів.
“Як вони збираються переконатися, що діти не зможуть отримати доступ до тих частин ChatGPT, які призначені лише для дорослих?” – запитує Дженні Кім, партнерка у юридичній фірмі Boies Schiller Flexner.
Пані Кім бере участь у процесі проти компанії Meta, де йдеться про те, що алгоритм Instagram цієї компанії шкодить психічному здоров’ю підлітків.
“OpenAI, як і більшість великих технологічних компаній у цій галузі, просто використовує людей як піддослідних кроликів”, — сказала вона.
У квітні видання TechCrunch повідомило, що OpenAI дозволяла акаунтам, де користувач реєструвався як неповнолітній, генерувати еротичні зображення.
Тоді OpenAI заявила, що компанія впроваджує зміни, щоб обмежити такий контент.
Опитування, опубліковане цього місяця некомерційною організацією Центр демократії та технологій (CDT), показало, що кожен п’ятий студент повідомляє, що він або хтось із його знайомих мав “романтичні стосунки” зі ШІ.
У понеділок губернатор Каліфорнії Гевін Ньюсом наклав вето на законопроєкт, ухвалений законодавчими зборами штату. Він мав заборонити розробникам пропонувати дітям чатботи-компаньйони, якщо компанії не зможуть гарантувати, що програмне забезпечення не призведе до шкідливої поведінки.
Ньюсом сказав, що “вкрай необхідно, щоб підлітки навчилися безпечно взаємодіяти з ШІ”.
На загальнонаціональному рівні Федеральна торгова комісія США (FTC) розпочала розслідування щодо того, як чатботи зі ШІ взаємодіють із дітьми.
Минулого місяця в Сенаті США внесено двопартійний законопроєкт, який дозволив би користувачам чатботів подавати позови про відповідальність проти їхніх розробників.
Навіщо вводити еротику?
Заява Альтмана прозвучала в той час, коли скептики ставлять під сумнів швидке зростання вартості технологічних компаній, що працюють у сфері ШІ.
Роб Лалка, професор бізнесу з Університету Тулейн і автор книги The Venture Alchemists, сказав, що основні компанії у сфері ШІ опинилися в боротьбі за частку ринку.
“Жодна компанія ніколи не мала такого рівня, як OpenAI з ChatGPT”, — сказав професор Лалка в інтерв’ю BBC News.
“Їм потрібно продовжувати просуватися по цій кривій експоненційного зростання, досягаючи якомога більшого домінування на ринку”, — додав він.