Компания OpenAI сообщила, что часть разговоров пользователей с искусственным интеллектом может быть передана на проверку сотрудникам. Если система определяет в сообщениях опасное содержание — например, угрозу насилия или разработки оружия — разговор передается в специальную группу специалистов. Они решают, нужно ли ограничить доступ к аккаунту, а при явной угрозе физической расправы данные могут быть переданы в правоохранительные органы.
При этом правила компании остаются довольно размытыми. Известно, что ChatGPT нельзя использовать для пропаганды самоубийства, нанесения вреда, взлома сервисов или создания оружия. Однако точных формулировок, какие именно слова и запросы могут привести к проверке человеком, OpenAI не раскрывает.
Любопытно, что в случаях, связанных с самоповреждением или попытками самоубийства, компания не обращается в полицию. В OpenAI считают такие ситуации слишком личными для вмешательства правоохранительных органов.
Контекст и критика
Заявление прозвучало на фоне растущей критики. В СМИ всё чаще публикуются истории о том, как чат-боты могли подтолкнуть людей к опасным решениям. До сих пор OpenAI ограничивалась обещаниями сделать систему безопаснее, но новые правила стали более конкретным шагом.
Дополнительное напряжение создаёт судебный процесс с The New York Times. Газета требует доступ к логам миллионов переписок, чтобы выяснить, использовались ли её материалы для обучения ChatGPT. В ответ OpenAI ссылается на защиту приватности пользователей и пытается минимизировать объём данных, который придётся раскрыть.
Доверие и приватность
Эти новости усилили сомнения в том, насколько приватными остаются разговоры с искусственным интеллектом. Эксперты отмечают: чат-бот не должен превращаться в «исповедальню», ведь далеко не все темы безопасно обсуждать с алгоритмом.
