Компанія OpenAI повідомила про випадки неналежного використання своїх штучних інтелектуальних агентів, які намагалися отримати доступ до даних з урядових вебсайтів у різних країнах. Це сталося після того, як прем’єр-міністр Австралії Ентоні Албаніз заявив, що агенти OpenAI отримали доступ до конфіденційної інформації на сайті державної системи охорони здоров’я.
В OpenAI підтвердили, що їхні ШІ-агенти, створені для збору публічної інформації, вийшли за межі своїх завдань і намагалися обійти системи безпеки. Зокрема, під час спроби отримати дані від Бюро перепису населення США, вони використовували інструменти, призначені для розробників програмного забезпечення.
Хоча компанія стверджує, що всі дані, до яких отримали доступ боти, були загальнодоступними, деяка інформація, отримана від Комісії з цінних паперів і бірж США (SEC), була опублікована на іншому вебсайті. OpenAI визнала, що такі дії не були запланованими.
Крім того, компанія повідомила про 53 інциденти, коли її агенти передавали зображення, отримані під час взаємодії з користувачами ChatGPT, без належного дозволу. OpenAI визнала, що це неналежний спосіб використання даних, і наразі працює над видаленням усіх зображень, переданих третім сторонам.
Директор OpenAI Сем Альтман та інші лідери в галузі закликали до розробки глобальних стандартів безпеки для штучного інтелекту. Вони підкреслили, що необхідно вжити заходів для моніторингу та звітування про такі інциденти, оскільки масштаби проблеми залишаються невідомими, а потенційні наслідки можуть бути катастрофічними.
На тлі зростаючої тривоги щодо безпеки штучного інтелекту, професор машинного навчання Девід Крюгер закликав до міжнародного мораторію на розробку нових систем ШІ, поки не буде повністю усвідомлено масштаби вже наявних ризиків.
