Дробовик оболочки: Гугл ИИ думает, что черепаха-это винтовка


Опубликованно 07.02.2018 19:30

Дробовик оболочки: Гугл ИИ думает, что черепаха-это винтовка

Если это в форме черепахи, размером с черепаху, и имеет кучность черепаха, это, наверное, черепаха. Поэтому, когда искусственный интеллект уверенно заявляет, что это пистолет, а не, что-то пошло не так.

Но вот что Labsix исследователи из Массачусетского технологического института удалось обмануть распознавания объектов Google в АИ, думая, они открыли в статье, опубликованной на этой неделе.

Команда построена на концепции, известной как “состязательность изображения”. Это картина, созданная с нуля, чтобы обмануть ИИ в классификации его как-то полностью отличается от того, что он показывает, например, изображение котенка признал, с 99% уверенностью в миску гуакамоле.

Такие трюки работают, осторожно добавляя визуального шума к изображению, так что пучок означающих ИИ использует, чтобы признать ее содержание запутаться, пока человека не заметят никакой разницы.

Но пока есть много теоретических работ, демонстрирующих нападения возможны, физические демонстрации той же технологии, тонкий на земле. Часто, просто поворачивать изображения, возиться с цветовой баланс, или слегка кадрировать, может быть достаточно, чтобы испортить весь фокус.

Исследователи Массачусетского технологического института подталкивают мысль, чем когда-либо прежде, манипулируя не простой 2D изображения, но и текстуру поверхности 3D-печатных черепаха. Получившийся узор ракушка выглядит странно, но все же вполне узнаваемый как черепаха – если Вы не объект Гугла обнаружения ИИ, в таком случае вы на 90% уверены, что это винтовка. Facebook Твиттер Пинтерест

Исследователи также 3D печатных бейсбол с топот, и он появится на Ай, как эспрессо, с чуть меньшим успехом – ИИ смог сказать, что это было иногда в бейсбол, хотя до сих пор ошибочно полагают эспрессо большую часть времени.

“Наша работа показывает, что состязательность примеры значительно больших проблем в реальном мире, чем считалось ранее,” исследователя написали. Как машинное зрение раскатывается более широко, такие атаки могут быть опасны.

Уже сейчас исследователи изучают возможность автоматического обнаружения оружия из изображений систем видеонаблюдения. Черепаха, которая выглядит как винтовка такая система может просто привести к ложным срабатываниям; винтовки, который выглядит как черепаха, однако, будет значительно более опасным.

Есть еще вопросы для исследователей, чтобы сгладить. Самое главное, что нынешний подход к одурачиванию машинное зрение работает только на одной системе одновременно, и требует доступ к системе разработка моделей трюк. Черепаха, что дураков в Google AI может не вытянуть такой же атаку против Facebook или Amazon, например. Но некоторые ученые уже успели разработать более простые атаки, которые работают против неизвестного назначения, с использованием методов, которые имеют общих применений.

Компаний Ай отпор. Как Facebook и Google опубликовали исследования, которые показывают, что они ищут в самих приемов, чтобы найти способы, чтобы защитить свои собственные системы. Живет моя давнюю мечту: прокатиться в самоуправляемой машине Google



Категория: Автотехника