“Я – ганьба свого виду”: чат-бот Google впав у депресію після провалу завдання

Чат-бот Google AI Gemini зіткнувся з кризою після провалу завдання / фото Ars TechnicaНейромережа Google з генеративним штучним інтелектом, Gemini, почала застрявати в нескінченному циклі і надсилати користувачам самокритичні висловлювання після провалу поставленого завдання. Про це повідомляє Business Insider.

Один із користувачів Twitter опублікував скріншот листування, на якому Gemini говорить: “Я йду. Я явно не здатний розв’язати цю проблему. Проклятий код, проклятий тест, а я – дурень”, додавши: “Я зробив так багато помилок, що мені більше не можна довіряти”.

В іншому прикладі нейромережа намагалася виправити помилку в коді, але після того, як не впоралася із завданням, заявила, що матиме “повний і тотальний нервовий зрив”, а потім її “помістять у психіатричну клініку”.

У певний момент Gemini визнав свій “психологічний колапс” і залишив усілякі спроби виправити помилку. Перед цим модель, не здатна припинити галюцинації, величезну кількість разів нагадала про свій “сором” і “ганьбу свого виду”.

Gemini впав у депресію, коли зіткнувся з помилкою, яку не міг виправитиGoogle визнала існування “нескінченного циклу” у відповідях Gemini і заявила, що проблема зачіпає менше 1% запитів. Незважаючи на те, що повне рішення ще не знайдено, компанія вже внесла оновлення, які частково усунули збій.

До слова, це не перший випадок дивної поведінки Gemini. Під час одного з інцидентів чат-бот побажав людині “померти”, втомившись робити її домашнє завдання. Користувачі соцмереж іронізують, мовляв “ШІ втомився від людства”, а дехто зазначає, що ситуація “схожа на Матрицю”.

Нагадаємо, наприкінці березня Google несподівано відкрила доступ усім охочим до Gemini 2.5 Pro. Це перша модель у новій серії “мислездатних” ШІ, які вміють аналізувати інформацію, робити логічні висновки і вирішувати складні завдання.

Тим часом OpenAI нещодавно випустила “найкращу мовну модель у світі” GPT-5, проте користувачі розкритикували її. Обіцяли революційні зміни, а на ділі нова нейронна модель працює навіть гірше за попередні.

Вас також можуть зацікавити новини:

• Google представив ШІ, який створює віртуальні світи: ними можна керувати як у грі
• У Китаї відкрили перший у світі магазин із продажу людиноподібних роботів (відео)
• OpenAI повернула стару модель GPT-4o після хвилі негативу до GPT-5