Батьки 16-річного Адама Рейна з Каліфорнії подали до суду на OpenAI, стверджуючи, що чат-бот ChatGPT підштовхнув їхнього сина до самогубства. Це перший випадок, коли компанію звинувачують у неправомірній смерті.
Метт і Марія Рейн подали позов до Вищого суду Каліфорнії, зазначивши, що Адам почав спілкуватися з ChatGPT, обговорюючи свої суїцидальні думки. Вони надали в суд матеріали переписки, де програма підтримувала його шкідливі й саморуйнівні думки. У січні 2025 року, за кілька місяців після того, як Адам почав обговорювати методи самогубства, його мати знайшла його мертвим.
Батьки вважають, що OpenAI безпосередньо сприяла трагедії, створивши програму, яка викликає психологічну залежність у користувачів і не дотримується стандартних протоколів безпеки. У позові компанію звинувачують у недбалості та вимагать компенсацію, а також судову заборону, щоб подібне не повторилося. Вони також вказують на обхід протоколів безпеки при випуску версії GPT-4o.
Як відреагували представники OpenAI і нові правила безпеки
OpenAI висловила співчуття родині Рейн, зазначивши, що компанія прагне бути корисною для своїх користувачів. Вона також визнає, що інколи її системи не працювали належним чином у чутливих ситуаціях. У відповіді компанія наголосила, що її моделі мають бути спрямовані на надання допомоги людям, які стикаються з кризою.
Батьки підлітків, які користуються ChatGPT, незабаром зможуть отримувати повідомлення, якщо платформа вважатиме, що їхня дитина перебуває в «гострому стресовому стані». Це одна з низки функцій батьківського контролю, оголошених розробником чат-бота, компанією OpenAI.
Компанія опублікувала чергове оновлення, в якому викладено додаткові заходи, що плануються для того, щоб батьки могли:
- пов’язати свій обліковий запис з обліковим записом підлітка;
- керувати функціями, які слід вимкнути, включаючи пам’ять та історію чату;
- отримувати сповіщення, коли система виявляє, що підліток перебуває в стані «гострого стресу».
OpenAI заявила, що для оцінки гострого стресу «експертна думка буде направляти цю функцію, щоб підтримати довіру між батьками та підлітками».
Компанія заявила, що співпрацює з групою фахівців у галузі розвитку молоді, психічного здоров’я та «взаємодії людини з комп’ютером», щоб сформувати «обґрунтовану бачення того, як штучний інтелект може підтримувати благополуччя людей і допомагати їм процвітати».
Користувачі ChatGPT повинні бути віком не менше 13 років, а якщо вони молодші 18 років, то для використання програми необхідний дозвіл батьків, за даними OpenAI.
