OpenAI разработала технологию, которая позволяет незаметно для человеческого глаза встраивать в текст, созданный ChatGPT, специальные метки — цифровые водяные знаки. Обнаружить эти метки можно только с помощью специального инструмента.
По данным внутреннего тестирования компании, использование цифровых водяных знаков не влияет на качество генерируемого текста. Однако пока OpenAI не планирует внедрять эту технологию.
Цифровые водяные знаки могли бы помочь в определении авторства текстов, созданных искусственным интеллектом. Это особенно важно в свете растущих опасений по поводу использования ИИ для создания дезинформации или плагиата.
Решение OpenAI не делать технологию водяных знаков общедоступной вызывает вопросы о прозрачности и ответственности в сфере искусственного интеллекта. Некоторые эксперты считают, что такие инструменты должны быть доступны для обеспечения подотчётности ИИ-систем.
