Компания OpenAI изучает возможность разрешения пользователям создавать контент для взрослых в своих нейросетях — чате и других продуктах GPT, а также в генераторе изображений DALL-E.
Под взрослым контентом разработчики понимают эротику, жестокие сцены, нецензурную лексику и различные оскорбления.
При этом в OpenAI надеются, что пользователи будут ответственно подходить к тому, какой контент они создают. Также под запретом останутся дипфейки.
Пример ответа чат-бота
Фото: OpenAI
В ответ на критику этого обсуждения в OpenAI заявили, что хотят дать пользователям максимальный контроль над ИИ, пока это не нарушает границ и прав других людей.
Ранее компания начала тестирование функционала, который позволяет определить, какие изображения были созданы нейросетью.