Блог

Aug 19, 2023

Изображения, созданные ИИ, становится все труднее обнаружить. Google считает, что у него есть решение.

Изображения, созданные искусственным интеллектом, становится все труднее отличить от реальных, поскольку технологические компании стремятся улучшить свои продукты на базе искусственного интеллекта. Поскольку президентская кампания 2024 года набирает обороты, беспокойство растет.

Изображения, созданные искусственным интеллектом, становится все труднее отличить от реальных, поскольку технологические компании стремятся улучшить свои продукты на базе искусственного интеллекта. По мере того как президентская кампания 2024 года набирает обороты, быстро растет обеспокоенность тем, что такие изображения могут быть использованы для распространения ложной информации.

Во вторник Google анонсировала новый инструмент под названием SynthID, который, по его словам, может стать частью решения. Инструмент встраивает цифровой «водяной знак» непосредственно в изображение, которое не видно человеческому глазу, но может быть обнаружено компьютером, обученным его считывать. В Google заявили, что их новая технология создания водяных знаков устойчива к несанкционированному вмешательству, что делает ее ключевым шагом на пути к контролю за распространением поддельных изображений и замедлению распространения дезинформации.

Генераторы изображений с искусственным интеллектом доступны уже несколько лет и все чаще используются для создания «дипфейков» — ложных изображений, выдающих себя за настоящие. В марте фальшивые изображения бывшего президента Дональда Трампа, убегающего от полиции, стали вирусными в Интернете, а в мае фейковое изображение взрыва в Пентагоне вызвало кратковременный обвал фондовых рынков. Компании размещают видимые логотипы на изображениях ИИ, а также прикрепляют текстовые «метаданные», отмечающие происхождение изображения, но оба метода можно относительно легко обрезать или отредактировать.

«Очевидно, что джин уже выпущен из бутылки», — заявила в интервью член палаты представителей Иветт Д. Кларк (DN.Y.), которая выступает за закон, требующий от компаний ставить водяные знаки на своих изображениях, созданных искусственным интеллектом. «Мы просто не видели, чтобы он был максимально развернут с точки зрения его вооружения».

На данный момент инструмент Google доступен только некоторым платным клиентам его облачного бизнеса — и он работает только с изображениями, созданными с помощью инструмента создания изображений Google Imagen. Компания заявляет, что не требует от клиентов ее использования, поскольку она все еще находится в стадии эксперимента.

Конечная цель — помочь создать систему, в которой большинство изображений, созданных искусственным интеллектом, можно будет легко идентифицировать с помощью встроенных водяных знаков, — сказал Пушмит Кохли, вице-президент по исследованиям Google DeepMind, лаборатории искусственного интеллекта компании, который предупредил, что новый инструмент не полностью надежный. «Вопрос в том, есть ли у нас технология, чтобы достичь этого?»

Поскольку ИИ становится все лучше в создании изображений и видео, политики, исследователи и журналисты обеспокоены тем, что грань между реальным и ложным в Интернете будет размываться еще больше, и эта динамика может углубить существующие политические разногласия и затруднить распространение фактической информации. Улучшение в технологии дипфейков происходит по мере того, как компании социальных сетей отказываются от попыток контролировать дезинформацию на своих платформах.

Использование водяных знаков — одна из идей, вокруг которых технологические компании сплотились как потенциальный способ уменьшить негативное воздействие «генеративной» технологии искусственного интеллекта, которую они быстро продвигают миллионам людей. В июле в Белом доме состоялась встреча с руководителями семи самых влиятельных компаний в области искусственного интеллекта, включая Google и производителя ChatGPT OpenAI. Все компании обязались создать инструменты для нанесения водяных знаков и обнаружения текста, видео и изображений, созданных искусственным интеллектом.

Microsoft создала коалицию технологических и медиа-компаний для разработки общего стандарта для нанесения водяных знаков на изображения ИИ, и компания заявила, что исследует новые методы отслеживания изображений ИИ. Компания также размещает небольшой видимый водяной знак в углу изображений, созданных с помощью инструментов искусственного интеллекта. OpenAI, чей генератор изображений Dall-E помог спровоцировать волну интереса к искусственному интеллекту в прошлом году, также добавляет видимый водяной знак. Исследователи искусственного интеллекта предложили способы внедрения цифровых водяных знаков, которые человеческий глаз не видит, но может идентифицировать компьютер.

Кохли, исполнительный директор Google, сказал, что новый инструмент Google лучше, потому что он работает даже после того, как изображение было значительно изменено. Это ключевое улучшение по сравнению с предыдущими методами, которому можно легко помешать, изменив или даже перевернув изображение.

«Существуют и другие методы нанесения водяных знаков, но мы не думаем, что они настолько надежны», — сказал он.