Американська компанія Anthropic повідомила про виявлення та зупинку спроб використання її штучного інтелекту для зловмисних цілей, зокрема для розробки біологічної зброї. Ця інформація була оприлюднена в останньому звіті компанії, який містить аналіз загроз, пов’язаних із технологіями штучного інтелекту.
У звіті зазначено, що з грудня 2025 року по серпень 2026 року компанія зафіксувала численні випадки зловживання її моделями, включаючи кампанії з кібершпигунства, пов’язані з Росією та Іраном. Anthropic також виявила, що її модель Claude використовувалася у спробах створення програмного забезпечення для звичайних озброєнь, таких як вогнепальна зброя та дрони.
Сенатор США Берні Сандерс закликав до призупинення розробки передових систем штучного інтелекту, тоді як Дональд Трамп висловив занепокоєння щодо конкурентоспроможності США в цій сфері. Anthropic підкреслила, що зловживання штучним інтелектом у біологічній сфері є серйозною загрозою, яка може мати катастрофічні наслідки.
У звіті також йдеться про те, що компанія зафіксувала випадки, коли технології використовувалися для шахрайства, стеження за дисидентами та інших злочинних дій. Anthropic вжила заходів для блокування таких випадків, зокрема заборонила доступ до своїх моделей для науковців, які могли б використовувати їх для створення зброї.
Керівник відділу аналізу загроз Anthropic, Джейкоб Кляйн, зазначив, що ситуація є складною і неоднозначною. Він підкреслив, що інформація, яка може бути використана для створення біологічної зброї, також може бути корисною для розробки вакцин та ліків.
Anthropic також повідомила, що передавала отриману інформацію правоохоронним органам для запобігання подальшим зловживанням. У звіті вказано на зростаючу загрозу з боку кіберзлочинців, які використовують технології компанії для своїх операцій.
