Глубокая нейронная сеть научилась определять поддельные фотографии

Команда ученых из Калифорнийского университета обучила нейронную сеть на большой базе отредактированных и неотредактированных фотографий, заранее пометив каждую из них. Система обращала внимание на пиксели вдоль границ объектов, которые часто выдают манипуляции, пишет "Хайтек".

Сеть концентрировалась на пикселях вдоль границ объектов - на поддельных снимках они более гладкие, чем на оригинальных кадрах. Эти различия не всегда может обнаружить человек, но компьютерное зрение делает это практически безошибочно.

Затем маркированный набор загрузили в глубокую нейронную сеть, которая представляет собой набор алгоритмов, смоделированных по образцу человеческого мозга и предназначенных для распознавания закономерностей в исходных данных. Используя изображения, эта сеть научилась определять основные границы цифровых изображений. Когда впоследствии ей показали фотографии, не вошедшие в набор данных, она смогла определить какие из них - фальшивые.

Пока система работает только с фотографиями, но в будущем сможет анализировать и видеокадры. При этом точность технологии никогда не будет 100-процентной. Скорее всего, она будет использоваться для того, чтобы отмечать подозрительные фотографии, которые потом будут анализировать люди.

"Если вы хотите проверить достоверность всего, что есть в интернете, особенно с появлением deepfake-видео, то вы не справитесь с этим. Автоматизированная система же, вероятно, справится с этим более надежно. Так что это должна быть совместная работа человека и машины", - отметили исследователи.