Критики заявляют, что такое предложение противоречит миссии компании по созданию «безопасного и полезного» ИИ. Распространение 18+ материалов, сгенерированных искусственным интеллектом, вызывает беспокойство, особенно в связи с недавним наплывом в интернете дипфейков со знаменитостями.
Мы считаем, что разработчики и пользователи должны иметь возможность использовать наши сервисы так, как они считают нужным, при условии, что они соблюдают политику использования. Мы изучаем, сможем ли мы предоставить возможность генерировать контент NSFW (Not Safe For Work) через API и ChatGPT. Мы надеемся лучше понять ожидания пользователей и сообщества в отношении поведения модели в этой области.
Предложение было опубликовано в среду как часть обсуждения дальнейших планов на разработку ИИ-инструментов.
Обсудить«Мы хотим гарантировать, что люди имеют максимальный контроль в той степени, в которой это не нарушает закон или права других людей, но о разрешении дипфейков не может быть и речи» (c) Джоан Джанг, сотрудница OpenAI из Сан-Франциско