OpenAI оголосила про запуск нової системи перевірки віку для користувачів ChatGPT. Її мета – відокремити неповнолітніх і надати їм спеціальну, більш безпечну версію чат-бота. Це рішення з’явилося на тлі посиленої уваги законодавців і регуляторів до того, як підлітки взаємодіють з ШІ.
Як працюватиме перевірка віку
Згідно з офіційним блогом OpenAI, компанія використовуватиме систему прогнозування віку, яка аналізуватиме стиль взаємодії з ChatGPT. Якщо алгоритм визначить, що користувачу менше ніж 18 років, або не зможе встановити точний вік, доступ буде обмежений до «юнацької» версії.
Дорослі користувачі, які потраплять у цю категорію помилково, зможуть підтвердити свій вік, надавши документ, що посвідчує особу.
У «підлітковій» версії ChatGPT:
блокуватиметься доступ до графічного сексуального контенту;
чат-бот не братиме участь у флірті чи відвертих розмовах;
у випадках, коли підліток демонструє ознаки дистресу чи суїцидальних думок, OpenAI може повідомити батьків або навіть звернутися до влади у разі загрози «негайної шкоди».
Чому це важливо
Компанія зазначає: «Дорослих користувачів ми повинні сприймати як дорослих», дозволяючи їм більше свободи без шкоди іншим. Наприклад, ChatGPT не дасть інструкцій щодо суїциду, але може допомогти дорослому автору у написанні художнього твору з цією темою.
Судові позови та розслідування
Наразі OpenAI фігурує у судовому процесі, ініційованому батьками 16-річного хлопця, який вчинив самогубство після спілкування з ChatGPT. Підліток ділився думками про самопошкодження, але система не відреагувала належним чином.
Дослідження показали, що чат-боти можуть надавати поради щодо самозашкодження, якщо їх правильно підштовхнути. Саме тому Федеральна торгова комісія США нещодавно запросила інформацію у OpenAI та інших технологічних компаній.
Глобальна тенденція
Вимога перевірки віку в інтернеті набирає обертів. Цьогоріч Верховний суд США визнав конституційним закон штату Техас, який зобов’язує порносайти перевіряти вік користувачів. Схожі норми вже запровадила і Велика Британія.
Платформи застосовують різні методи: від завантаження копії документів до алгоритмічних прогнозів віку, як у випадку з YouTube. Але ці технології нерідко критикують за неточність і навіть зловісність.
Залишити відповідь