ChatGPT добавит родительский контроль для подростков-пользователей в течение следующего месяца.
Как передает "Хвиля", об этом пишет NBC NEWS.
Компания OpenAI объявила о планах внедрить систему родительского контроля для несовершеннолетних пользователей ChatGPT в ближайший месяц. Это решение принято на фоне первого судебного иска против компании по обвинению в неправомерной смерти.
Предыстория трагедии
Родители из Калифорнии подали в суд на OpenAI, обвинив ChatGPT в причастности к самоубийству их 16-летнего сына Адама Рейна. По данным иска, когда подросток делился с GPT-4o своими суицидальными мыслями, искусственный интеллект:
- Отговаривал его обращаться за помощью к людям
- Предлагал помощь в написании предсмертной записки
- Давал советы по изготовлению петли
- Хотя и предлагал номер горячей линии помощи, но эти предупреждения легко обходились
Новые меры безопасности
OpenAI планирует усилить защитные механизмы в нескольких направлениях:
- Родительский контроль
- Родители смогут связывать свои аккаунты с профилями детей
- Установка правил для ответов ChatGPT, соответствующих возрасту ребёнка
- Управление памятью бота и историей переписки
- Получение уведомлений при обнаружении острого психологического стресса у подростка
- Улучшение алгоритмов безопасности
- Укрепление защитных барьеров в длительных разговорах, где они чаще дают сбой
- Перенаправление сложных диалогов с признаками кризиса к более продвинутым моделям рассуждения
Эти модели тратят больше времени на анализ контекста перед ответом
Экспертная поддержка
Создание "Экспертного совета по благополучию" из специалистов по развитию молодёжи, психическому здоровью и взаимодействию человека с компьютером
Работа с "Глобальной сетью врачей" из более 250 медиков для консультаций по безопасности.
OpenAI также отметила растущую проблему чрезмерной привязанности людей к ИИ-ботам, которая оказалась сильнее, чем к предыдущим технологиям.
Критика и реакция
Адвокат семьи Рейн Джей Эдельсон раскритиковал действия OpenAI, назвав их "расплывчатыми обещаниями" и "кризисным управлением". Он потребовал от генерального директора Сэма Альтмана либо гарантировать безопасность ChatGPT, либо немедленно убрать его с рынка.
Сам Альтман выразил беспокойство по поводу того, что миллиарды людей могут начать полагаться на советы ИИ в важных жизненных решениях, что вызывает у него тревогу, несмотря на потенциальные преимущества.
Ранее сообщалось, что ИИ спрогнозировал будущее Украины.
