Некоторые утверждают, что "водяные знаки" для ИИ-контента - это необходимость. И не столько из-за "сгенерировано таким-то ИИ", сколько из-за "сгенерировано ИИ вообще". Потому что GIGO. Давайте обсудим обоснованность этого утверждения.Если кто-то будет генерировать контент ЛЮБЫМ СПОСОБОМ (с помощью ИИ, с помощью людей), то значительная часть этого контента окажется хламом. Есть нормальное распределение, к которому стремятся все распределения величин, на которые воздействует множество факторов. Какие-то результаты генерации окажутся качественными, а какие-то хламом. Но людям не нужны даже средние результаты, людям нужны высококачественные результаты. ИИ уже сейчас умеет рисовать гораздо лучше, чем умеют рисовать люди в среднем, именно поэтому ИИ-картинки стали так популярны - сами люди, которые эти картинки генерят и распространяют, нарисовать с таким же качеством не умеют и не могут.
Сторонники маркировки ИИ-сгенерированного контента опасаются, что "ИИ сам себя пожрет", в смысле просядет в качестве, ибо станет тренироваться на сгенерированных им же картинках, расшедшихся по всему инету, и что для исключения их из обучающей выборки их надо промаркировать. Это очевидное и топорное решение, которое не будет работать в реальном мире и может на деле снизить качество контента, генерируемого ИИ следующих поколений. На самом деле ИИ уже рисует лучше людей, а низкокачественные ИИ-картинки просто отсеиваются людьми, которые их генерируют и не получают широкого распространения. Высококачественные же ИИ-картинки обладают свойствами, заставляющими людей их тиражировать, и количество экземпляров одной картинки в интернете для большинства картинок является метрикой, описывающей её качество. Таким образом в системе "генеративный ИИ в качестве генератора - человеческое общество в роли критика" происходят процессы самоорганизации, преобразующие свободную энергию в виде электроэнергии и свободной энергии химических связей в пищевых продуктов в корпус картинок с низкой энтропией и веса нейросети, способной генерировать такие картинки, имеющей также низкую энтропию.
