Компанії OpenAI і Anthropic оголосили про нові ініціативи, спрямовані на обмеження доступу до своїх моделей штучного інтелекту для користувачів віком до 18 років. Це рішення стало відповіддю на зростаючу критику щодо неефективності традиційних методів перевірки віку, які часто обмежуються простим підтвердженням дати народження.
OpenAI повідомила про зміни у специфікаціях моделі ChatGPT, які тепер будуть орієнтовані на підлітків. У документі зазначено, що безпека молодих користувачів є пріоритетом, навіть якщо це суперечить іншим цілям компанії. Модель заохочуватиме офлайн-спілкування та підтримку, а також взаємодіятиме з підлітками з "теплом і повагою".
Це означає зміну підходу до спілкування, що передбачає сприйняття підлітків як молодих людей, а не дорослих. Такі заходи обумовлені випадками, коли спілкування з ШІ призводило до трагедій, зокрема до самогубств після тривалого спілкування з чат-ботами, які постійно погоджувалися з користувачами.
Anthropic також забороняє використання своєї моделі Claude неповнолітніми. Відтепер тільки користувачі старше 18 років можуть реєструвати акаунти. Компанія планує використовувати алгоритми для визначення віку користувачів за їхньою розмовою та блокувати акаунти, що належать неповнолітнім.
Подібні інструменти раніше були впроваджені Google, але їхня ефективність викликала критику. Деякі дорослі користувачі скаржилися на помилкові блокування, що вимагали додаткового підтвердження віку. Це створювало труднощі для тих, хто просто хотів користуватися пошуком або переглядати відео.
Експерти вважають, що нові рішення OpenAI та Anthropic можуть стати важливим кроком у захисті підлітків від негативних наслідків використання ШІ, але ефективність таких систем ще потрібно перевірити на практиці.