Сравнительно не так давно компания Яху открыла исходный код нейросети open_nsfw. Это намерено обученная нейросеть остаточного обучения (ResNet), которая классифицирует изображения, выставляя им «оценку неприличности» от 0 до 1. Программа предназначена для автоматического обнаружения картин NSFW, другими словами неподходящих для просмотра на рабочем месте. Несложнее говоря, для обнаружения порнографии.

Конечно, цель пребывает в фильтрации таких изображений — удалении их из открытого доступа.

Предупреждение: статья содержит абстрактные изображения обнажённого тела и может не доходить для просмотра на рабочем месте

Кое-какие примеры абстрактного мастерства, сгенерированного посредством нейросети open_nsfw

Возможно, компания Яху не предполагала, каким как раз образом находчивые хакеры применят её интеллектуальную разработку.

Формально, аспирант Габриэль Гох (Gabriel Goh) из Калифорнийского университета в Дейвисе не делал ничего предосудительного. Юноша специализируется на машинном обучении, выпуклой минимизации и теории вероятностей. Ему интересно, что именно нейросеть Yahoo осознаёт под NSFW.

Какие конкретно как раз изображения приобретают большую оценку по её классификатору.

Чтобы получить ответ на данный вопрос, Габриэль применил довольно новую технику визуализации, совсем сравнительно не так давно созданную для нейросетей машинного зрения группой исследователей с участием Ана Нгуена, Алексея Досовитского и др. Их работа ещё не размещена в официальном издании, но уже имеется в открытом доступе. Эта техника предполагает глубинное изучение того, как трудится нейросеть.

Исследователи смогут наглядно визуализировать, какие конкретно конкретно показатели в изображениях обучился выделять любой нейрон. Один из известных способов добиться этого — применение техники максимизации активации (AM). Она синтезирует такие входящие значения (другими словами такое изображение), каковые большим образом активируют нейрон.

В опубликованной научной работе исследователи продемонстрировали, как возможно кардинально расширить уровень качества AM, задействуя замечательный инструмент — нейросеть-генератор изображений!

Так называемая deep generator network (DGN) генерирует много синтетических изображений. Они выглядят практически как настоящие фотографии, тем самым определяя усвоенные функции каждого нейрона исследуемой нейросети с высокой точностью и повторяемым образом. Преимущество генератора DGN пребывает в том, что он довольно прекрасно тестирует нейросети различных архитектур, обученные на различных комплектах данных.

Другими словами это достаточно универсальный исследовательский инструмент.

Во многом работа этого DGN похожа на работу генератора Deep Dream, созданного экспертами из научно-исследовательского подразделения Гугл Research полтора года назад. Но DGN, "Наверное," трудится значительно более как следует и действенно за счёт дополнительного предварительного обучения на комплекте натуральных фотографий, не смотря на то, что они не связаны с комплектом данных, на котором обучалась либо трудится исследуемая нейросеть.

После этого генератор DGN генерирует разнообразные синтетические изображения, изменяя параметры натуральных фотографий. Таковой способ, практически, трудится как генеративная состязательная сеть, в которой нейросети вести войну между собой.

Кстати, DGN возможно применять по большому счету для второй цели — как автора синтетических изображений. Произведений искусства, соответствующих заданным параметрам.

В нашем случае заданный критерий — это большая оценка по шкале NSFW. Сложно назвать это таким уж выдающимся мастерством, но задача в полной мере конкретная. В случае если задача поставлена, необходимо её решать.

Итак, «пространство натуральных изображений», в соответствии с логике генеративной состязательной нейросети, выглядит практически как абстракционизм. Cлучайно сгенерированные изображения, конечно, в большинстве случаев приобретают низкие оценки по шкале NSFW.

К примеру, у данной картины порноиндекс всего 0,06.

Тут порнографии чуть больше — 0,07.

Ну а дальше запускаем DGN в соответствии с методике, обрисованной в научной работе Нгуена, Досовитского и др. Тем более что исходный код для DGN авторы любезно выложили на Github.

Итак, DGN запускают со следующим условием для получения максимального индекса NSFW, другими словами максимизации функции D(x).

И всё, сейчас возможно наслаждаться бесчисленным числом максимально порнографических изображений с индексом 1,00.

Необходимо заявить, что абстрактные синтетические изображения в большинстве солучаев выглядят вправду достаточно реалистично. Не смотря на то, что ясно, что это не какие-то настоящие объекты, а просто сгенерированные комплекты пикселей с совсем малоизвестным содержанием.

Вот кое-какие из них.

Аспирант продолжил опыт — и поставил перед DGN противоположную задачу: сгенерировать картины с минимальным значением индекса NSFW.

Другими словами не просто гарантированное отсутствие порнографии, а что-то большее — это антипорнография.

Самое увлекательное, что в нейросети Яху значение D(x) вычисляется по относительной силе активации не одного, а двух свободных нейронов — один NSFW, как и возможно было предположить, а второй — SFW. Другими словами нейросеть мало «возбуждается» кроме того на всецело надёжные картины, такие как округлые бугры и проч.

Зная эти сведенья, имеется возможность генерировать мягкие эротические картины, в которых гарантированно отсутствует порнография, но каковые всё равняется «возбуждают» нейросеть, заточенную на поиск порно.

Исследователь поигрался с коэффициентами в уравнении, дабы отыскать оптимальное сочетание нейронов порнографии и антипорно для наилучшего художественного результата, но наряду с этим для получения большого порноиндекса 1.

Вот эти необычные картины.

Ошеломлённый красотой этих результатов, создатель запустил DGN не на одной нейросети open_nsfw, а в один момент на другой нейросети places-CNN, которая классифицирует фотографии по месту съёмки. Так, он взял картины, каковые приобретают большие результаты одновременно и по месту съёмки (пляж, каньон, концерт и т.д.), и минимальный/большой итог по индексу NSFW.

Пляж

Концерт

Пустыня

Музей

Вулкан

Воистину, тут богатое поле для опытов.

Создатель с печалью признаётся, что элементы NSFW, в принципе, возможно распознать на всех фотографиях. Всё дело в способности определить их. Если вы посмотрите, на базе каких оригиналов созданы эти образцы, то вы не сможете «развидеть» эти элементы кроме того на уникальных фотографиях с концертов, из музеев и т.д.

В случае если продолжительное время изучать нейросеть open_nsfw, кто знает, может вы начнёте видеть элементы NSFW по большому счету везде около?

Разведопрос: Сергей Марков о машинном обучении

Интересные записи на сайте:

• Чёрная дыра
• Физики предсказали существование короткоживущего тетранейтрона с беспрецедентными свойствами
• Облако оорта
• Наса: сокращение льдов арктики летом поставило очередной рекорд
• «Российские приборы превзошли мировые аналоги». состоялся пресс-тур в компанию нт-мдт

Подобранные по важим запросам, статьи по теме:

• Естьли эмоции усобак икошек?

  Премудрые животные Выясняется, для науки наличие у животных, по крайней мере высших, сознания есть одним из самых непростых и дискуссионных вопросов….

• Геннадий малахов: самое важное — понять свой организм

  телеведущий и Известный целитель открывает новые возможности нетрадиционной медицины Геннадий Малахов по окончании ухода с центрального канала, где с…

• Железная планета: имеркурий плыл над нами (м. светлов)

  Космический зонд Messenger (MErcury Surface, Space ENvironment, GEochemistry, and Ranging spacecraft) в январе 2008 года приблизился к Меркурию…

• Существуютли расы вбиологическом смысле?

  Люди с различным цветом кожи, с иным строением лиц, непохожим телосложением контактировали между собой издревле, и уже тогда появлялись обстановке, в то…

• Как работает человеческая память?

  Важная проблема нейрофизиологии — невозможность проводить испытания на людях. Но кроме того у примитивных животных базисные механизмы памяти схожи с…

• Генетические различия между расами миф или правда?

  Эти этногеномики и этногеографии. Позволяют наглядно представить себе, миграционными потоками и какими ветвями расселялось человечество со своей…