По состоянию на 17 июля 2023 года в «Отчете о коде» обсуждается серьезная проблема в Интернете: сложность определения подлинности изображений и голосов из-за технологии генеративного искусственного интеллекта. В нем упоминаются случаи, когда контент, созданный ИИ, например изображение Папы, вводил в заблуждение людей во всем мире.
Для решения этой проблемы существует новая коалиция под названием «Коалиция за обеспечение и аутентичность контента» (C2PA), в которую входят такие компании, как Adobe и Microsoft. C2PA стремится использовать метаданные и криптографию для цифровой подписи мультимедийных файлов, таких как изображения, видео и аудио, что делает их защищенными от несанкционированного доступа. Это позволит пользователям проверять, создается ли контент искусственным интеллектом или он поступает из надежных источников, таких как BuzzFeed или Infowars.
В отчете также говорится о потенциальных преимуществах такой технологии для создателей контента, гарантирующих, что их работа не будет олицетворена, и для конечных пользователей, которые хотят потреблять аутентичный контент. Такие компании, как Valve, начали запрещать игры, подозреваемые в использовании созданного искусственным интеллектом контента, нарушающего авторские права.
Тем не менее, в отчете высказываются опасения по поводу возможности использования технологии для массового наблюдения. Благодаря комбинации цифровых идентификаторов, выдаваемых правительством, может стать проще отслеживать и контролировать создателей контента, включая мемы. Это потенциально может привести к цензуре и ограничению доступа в Интернет для тех, кого считают «воинами мемов».
В отчете также указывается на потенциальную опасность использования контента, созданного ИИ, для распространения дезинформации и обмана общественности, особенно если контент выглядит заслуживающим доверия с подписями авторитетных лиц.
В целом, технология, предложенная C2PA, имеет как положительные, так и отрицательные последствия, и обсуждение ответственного внедрения и этических соображений имеет важное значение, поскольку она может изменить ландшафт Интернета.