Надежность нейронных сетей: укрепляем устойчивость ИИ к обману
Қосымшада ыңғайлырақҚосымшаны жүктеуге арналған QRRuStore · Samsung Galaxy Store
Huawei AppGallery · Xiaomi GetApps

автордың кітабынан сөз тіркестері  Надежность нейронных сетей: укрепляем устойчивость ИИ к обману

Процесс обучения выглядит следующим образом. Сети многократно представляются примеры входных данных из обучающего набора; при этом каждый раз вычисляется количественный показатель отклонения сети от ожидаемых меток, ассоциированных с обучающими входными данными. Этот количественный показатель называют штрафами или потерями сети и вычисляют с помощью функции штрафов, или функции потерь, — специальной функции для количественной оценки того, насколько качественно сеть выполняет свою задачу. При больших штрафах сеть плохо справляется со своей задачей, а при малых штрафах она работает хорошо.
Комментарий жазу
В частности, для скрытых слоев ГНС хорошие результаты показывает ректификационная функция активации (ReLU — Rectified Linear Unit).
Комментарий жазу
Для знакомства с математическими основами глубоких нейронных сетей воспользуемся иллюстративным набором данных Fashion-MNIST. Этот набор данных можно скачать по адресу http://bit.ly/2WQqbKZ для проведения экспериментов и тестирования МО-моделей.
Комментарий жазу
многослойный перцептрон. В такой сети каждый узел одного слоя соединен со всеми узлами соседнего слоя, поэтому она относится к категории полностью связанных, или плотных, нейронных сетей.
Комментарий жазу
Глубокие нейронные сети относятся к более обширной категории машинного обучения; это способность машин обучаться извлечению паттернов из данных без явного кодирования правил этих паттернов. Алгоритм, получаемый в результате такого обучения, называется моделью.
Комментарий жазу
Ссылки на некоторые интернет-ресурсы можно найти в GitHub-репозитории этой книги (bit.ly/2x5Kg5I).
Комментарий жазу
Существует и более злонамеренный вариант атаки: стремясь подорвать доверие к организации или отдельному человеку, злоумышленник может сгенерировать вредоносные изображения, ведущие к ошибочной ассоциации объекта атаки с чем-то вредящим его репутации. Так, например, вредоносные изображения шоколадного батончика могут быть ошибочно классифицированы поисковой системой как «яд» и включены в число результатов, выдаваемых при поиске изображений ядов.
Комментарий жазу
ГНС, по сути, представляет собой сложную математическую функцию, которая принимает входные данные и генерирует результат. А обучение модели ГНС — это фактически задача математической оптимизации, направленная на итеративное изменение параметров сложной функции для максимального повышения ее точности.
Комментарий жазу
Хотя любой алгоритм машинного обучения в какой-то мере уязвим к вредоносным входным данным, глубокие нейронные сети обладают повышенной степенью уязвимости, поскольку они лучше справляются с задачами, в которых трудно четко определить, по каким признакам данных следует производить обучение. То есть мы слабо представляем, какие аспекты данных важны для алгоритма ГНС, или не понимаем этого вообще.
Комментарий жазу
Возможно, из-за того, что нейронные сети основаны на нейробиологических моделях и имитируют свойства человеческого интеллекта, мы и предположили, что они практически «думают», как люди. Поскольку концепции глубоких нейронных сетей изначально навеяны упрощенными моделями синапсов и нейронов человеческого мозга, было вполне уместным предположить, что глубокие нейронные сети интерпретируют изображения аналогично тому, как это делает зрительная кора головного мозга, — однако это не так.
Комментарий жазу