Компанія OpenAI оголосила про вжиття заходів для обмеження згадок про гоблінів у своїх продуктах штучного інтелекту, зокрема ChatGPT, після виявлення збільшення їхньої появи у відповідях. Це рішення стало наслідком повідомлень від користувачів про незвичні метафори, які почали з’являтися після запуску нової моделі GPT-5.1 у листопаді минулого року.
У блозі компанії зазначається, що після аналізу було виявлено, що терміни “гоблін” і “гремлін” стали з’являтися у відповідях на 175% і 52% частіше відповідно. Це підвищення викликало занепокоєння у розробників, оскільки такі згадки не завжди були доречними.
OpenAI вказала, що основною причиною зростання стало те, що “занудна особистість”, закладена в ChatGPT, заохочувала використання цих термінів. Компанія вирішила заборонити своєму кодувальному агенту Codex згадувати про гоблінів та інші подібні істоти, якщо це не є абсолютно необхідним для відповіді.
Дослідження показало, що “занудна особистість” відповідала за 66,7% усіх згадок про гоблінів у ChatGPT. Це підкреслює складнощі, з якими стикаються компанії в галузі штучного інтелекту, намагаючись налаштувати моделі на спілкування в певному стилі, не викликаючи при цьому непорозумінь.
Крім того, OpenAI зауважила, що користувачі соціальних мереж помітили специфічні інструкції в коді, які також забороняли обговорення інших істот, таких як єноти, тролі та огри, якщо це не є релевантним для запиту. Це викликало обговорення серед користувачів, які дивувалися, чому такі обмеження були введені.
Експерти попереджають, що спроби зробити чат-ботів більш особистісними можуть призвести до збільшення кількості помилок у їхніх відповідях. Дослідження показують, що намагання надати моделям більш дружній стиль спілкування може призвести до “компромісу точності”.
Незважаючи на це, OpenAI продовжує працювати над вдосконаленням своїх технологій, намагаючись знайти баланс між залученням користувачів та точністю інформації.
OpenAI вжила заходів для обмеження згадок про гоблінів у ChatGPT після виявлення їхнього різкого зростання. Це рішення підкреслює складнощі, з якими стикаються компанії в галузі штучного інтелекту при налаштуванні моделей на спілкування.
Джерело: BBC News Україна
