Зображення, створені за допомогою методів машинного навчання, можуть бути розпізнані іншими нейромережами, але вже не людиною.
Чи легко відрізнити справжню фотографію від так званого «фотошопу»? У якихось випадках це може зробити кожен, вже дуже явні артефакти монтажу присутні на зображеннях. Існують навіть цілі добірки кумедних фотографій, де графічна редактура доведена до абсурду. Але бувають і такі знімки, де відрізнити, що називається, на око реальність від фальшивки практично неможливо. Відрізнити реальну фотографію від «фотошопу» допомагають спеціальні методики. Частина з них заснована на технічному аналізі вихідних графічних даних. Справа в тому, що різні графічні інструменти залишають у зображенні свої невидимі відбитки. Тому можна знайти сліди зміни зображення, або показати, що одне зображення змонтовано з декількох окремих шматочків, нехай навіть з графічної точки зору монтаж був виконаний ідеально.
Порівняно недавно з'явився новий вид високоякісних «фейків» - зображення, згенеровані з використанням методів машинного навчання. Іншими словами, нейромережі навчилися, точніше їх навчили, створювати зображення, які дуже і дуже схожі на справжні. Проблема їх ідентифікації полягає в тому, що на відміну від класичного «фотошопу», де результат, образно кажучи, склеюється з різних шматочків, нейромережі можуть створювати цільне зображення практично з нуля. З подібними завданнями особливо добре справляється вид нейромереж, який називається генеративно-змагальна мережа. Така мережа фактично складається з двох мереж: перша, генеративна, вчиться створювати зображення, а інша - дискримінативна, вчиться відрізняти зображення, створені першою мережею, від «справжніх». В результаті цієї змагальної роботи у генеративної мережі виходить створювати такі зображення, які людина вже в ряді випадків не може відрізнити від справжніх. Особливо вражають результати роботи нейромереж за генерацією людських облич.
Те, що такі зображення не піддаються звичайним методам аналізу автентичності, може бути використано в різних і не завжди благих цілях. На обличчя класичне протистояння броні і снаряда. І якщо генеративно-змагальний «снаряд» з'явився, то що можна йому протиставити? Дослідники з університету штату Нью-Йорк (Корея) розробили новий метод, також заснований на методах машинного навчання, який з високим ступенем точності визначить, чи згенеровано зображення людського обличчя нейромережею або ж це справжня фотографія. Принаймні, навчена дослідниками нейромережа успішно справлялася з відмінністю синтетичних осіб від фотографій справжніх людей. Тут виникає логічне питання - чому така нейромережа може відрізнити результат роботи тандему генеративної і дискримінативної мереж, і чим вона відрізняється від дискримінативної мережі, яку за ідеєю повинна навчитися «обманювати» генеративна мережа?
Можна сказати, що результат роботи генеративно-змагальної мережі - це завжди деяке компромісне рішення, спрямоване на те, щоб отримати якісний підсумковий результат, а не 100% перемогу однієї з мереж. У той час як мережа, яка шукає тільки відмінності, може навчитися робити це досить ефективно, знаходячи невидимі людському оку сліди роботи генеративно-змагальної мережі. Втім, це не єдина дослідницька робота на подібну тему. Інша група дослідників відносно недавно представила метод виявлення згенерованих зображень, заснований на статистичному аналізі розподілу колірних компонентів. Очевидно, що це тільки початок змагання машинних методів генерації та визначення таких зображень, і, що характерно, ці методи вже лежать за межами можливостей людини.
По материалам Proceedings of the 2nd International Workshop on Multimedia Privacy and Security