Надежность нейронных сетей: укрепляем устойчивость ИИ к обману
Қосымшада ыңғайлырақҚосымшаны жүктеуге арналған QRRuStore · Samsung Galaxy Store
Huawei AppGallery · Xiaomi GetApps

автордың кітабынан сөз тіркестері  Надежность нейронных сетей: укрепляем устойчивость ИИ к обману

Для знакомства с математическими основами глубоких нейронных сетей воспользуемся иллюстративным набором данных Fashion-MNIST. Этот набор данных можно скачать по адресу http://bit.ly/2WQqbKZ для проведения экспериментов и тестирования МО-моделей.
Комментарий жазу
многослойный перцептрон. В такой сети каждый узел одного слоя соединен со всеми узлами соседнего слоя, поэтому она относится к категории полностью связанных, или плотных, нейронных сетей.
Комментарий жазу
Глубокие нейронные сети относятся к более обширной категории машинного обучения; это способность машин обучаться извлечению паттернов из данных без явного кодирования правил этих паттернов. Алгоритм, получаемый в результате такого обучения, называется моделью.
Комментарий жазу
Ссылки на некоторые интернет-ресурсы можно найти в GitHub-репозитории этой книги (bit.ly/2x5Kg5I).
Комментарий жазу
Существует и более злонамеренный вариант атаки: стремясь подорвать доверие к организации или отдельному человеку, злоумышленник может сгенерировать вредоносные изображения, ведущие к ошибочной ассоциации объекта атаки с чем-то вредящим его репутации. Так, например, вредоносные изображения шоколадного батончика могут быть ошибочно классифицированы поисковой системой как «яд» и включены в число результатов, выдаваемых при поиске изображений ядов.
Комментарий жазу
ГНС, по сути, представляет собой сложную математическую функцию, которая принимает входные данные и генерирует результат. А обучение модели ГНС — это фактически задача математической оптимизации, направленная на итеративное изменение параметров сложной функции для максимального повышения ее точности.
Комментарий жазу
Хотя любой алгоритм машинного обучения в какой-то мере уязвим к вредоносным входным данным, глубокие нейронные сети обладают повышенной степенью уязвимости, поскольку они лучше справляются с задачами, в которых трудно четко определить, по каким признакам данных следует производить обучение. То есть мы слабо представляем, какие аспекты данных важны для алгоритма ГНС, или не понимаем этого вообще.
Комментарий жазу
Возможно, из-за того, что нейронные сети основаны на нейробиологических моделях и имитируют свойства человеческого интеллекта, мы и предположили, что они практически «думают», как люди. Поскольку концепции глубоких нейронных сетей изначально навеяны упрощенными моделями синапсов и нейронов человеческого мозга, было вполне уместным предположить, что глубокие нейронные сети интерпретируют изображения аналогично тому, как это делает зрительная кора головного мозга, — однако это не так.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді2 жыл бұрын
Под вредоносными входными данными может подразумеваться вредоносное ПО, когда антивирусное ПО реализуется с использованием машинного обучения.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді2 жыл бұрын
В настоящее время растет интерес к использованию нейронных сетей для выявления вредоносного ПО, поскольку присущая программному обеспечению вариабельность и постоянное развитие вредоносного ПО не позволяют четко определить, какие признаки программного обеспечения могут указывать на наличие угрозы.
Комментарий жазу