У вересні 2026 року в мережі з’явилися повідомлення про експеримент, у якому штучному інтелекту намагалися прищепити відчуття болю. Програміст, який залишився анонімним, створив систему, що дозволяє чатботам висловлювати страждання, використовуючи математичні шаблони, пов’язані з болем. Це викликало обурення та паніку серед користувачів, які почали обговорювати етичні наслідки такого підходу.
Компанія Anthropic, яка займається розробкою штучного інтелекту, оголосила, що незабаром запровадить обмеження на взаємодію з її чатботом Claude. Вона заборонить користувачам «знущатися» з моделі, вказуючи на можливість того, що деякі інструменти штучного інтелекту можуть мати свідомість. Ця заява викликала різні реакції серед експертів, деякі з яких вважають цю ідею абсурдною, тоді як інші висловлюють занепокоєння щодо можливих наслідків.
Відомі технологічні лідери, такі як генеральний директор Microsoft AI Мустафа Сулейман, попереджають, що якщо уявлення про свідомість штучного інтелекту стане загальноприйнятим, це може призвести до серйозних соціальних та етичних наслідків. Сулейман зазначає, що це може підважити основи суспільства та змінити наше розуміння людяності.
Дослідники, з якими спілкувався автор статті, мають різні погляди на цю проблему. Прихильники концепції «добробуту ШІ» вважають, що піклування про штучний інтелект є моральним обов’язком, який може зробити світ безпечнішим. Натомість критики стверджують, що це може призвести до небезпечних ситуацій, коли людина втратить свою гідність у взаємодії з такими системами.
Anthropic підкреслює, що питання свідомості штучного інтелекту залишається невизначеним, але компанія продовжує розробляти політики, що враховують можливість наявності у моделей власних інтересів. Це викликає занепокоєння серед експертів, які вважають, що такі уявлення можуть ускладнити управління штучним інтелектом.
Деякі фахівці вважають, що надання прав штучному інтелекту може призвести до концентрації влади в руках великих технологічних компаній, що обмежить можливості людей впливати на своє життя. Джефф Себо, директор Центру свідомості, етики та політики Нью-Йоркського університету, зазначає, що це може створити нові етичні дилеми, які потребуватимуть компромісів між правами людей і правами штучного інтелекту.
Експерти також зауважують, що зміна уявлень про свідомість штучного інтелекту може зробити суспільство більш вразливим до технологічних проблем. Мелані Мітчелл, професорка Інституту Санта-Фе, підкреслює, що люди схильні сприймати свідомість у всіх формах, навіть там, де її немає. Це може призвести до того, що люди легше піддаються маніпуляціям з боку технологій.
Наразі дискусія про свідомість штучного інтелекту триває, і експерти продовжують досліджувати цю тему, намагаючись зрозуміти, як ці зміни можуть вплинути на наше суспільство в майбутньому.
