Надежность нейронных сетей: укрепляем устойчивость ИИ к обману
Қосымшада ыңғайлырақҚосымшаны жүктеуге арналған QR
goole playappstore
RuStore · Samsung Galaxy Store
Huawei AppGallery · Xiaomi GetApps

автордың кітабынан сөз тіркестері  Надежность нейронных сетей: укрепляем устойчивость ИИ к обману
Кэти Уорр

Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
Под вредоносными входными данными может подразумеваться вредоносное ПО, когда антивирусное ПО реализуется с использованием машинного обучения.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
В настоящее время растет интерес к использованию нейронных сетей для выявления вредоносного ПО, поскольку присущая программному обеспечению вариабельность и постоянное развитие вредоносного ПО не позволяют четко определить, какие признаки программного обеспечения могут указывать на наличие угрозы.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
Термин «вредоносный образ» (adversarial example) впервые использован Шегеди и его коллегами для описания примеров, подобных тем, что представлены на рис. 1.2. Иногда он подразумевает входные данные, созданные с целью заставить модель возвращать неверный результат, вне зависимости от того, удается ли таким данным действительно обмануть нейросеть или нет. Однако обычно этот термин подразумевает только те входные данные, которые сумели обмануть нейросеть.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
Вредоносные входные данные также могут представлять собой определенные метки на дорожном знаке, которые будут восприниматься человеком как граффити, но в то же время заставят автономное транспортное средство интерпретировать знак неправильно.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
сфере обработки изображений концепция вредоносных входных данных подразумевает создание оптических иллюзий, которым подвержен только искусственный интеллект. Так, вредоносное изображение может быть сгенерировано путем добавления в изображение кошки множества, казалось бы, неважных пикселей, которые заставят ИИ относить данное изображение к категории «собака», но не внесут в него каких-либо заметных изменений признаков, которые, по мнению человека, являются характерными для собаки.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
озможно, из-за того, что нейронные сети основаны на нейробиологических моделях и имитируют свойства человеческого интеллекта, мы и предположили, что они практически «думают», как люди.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
Международной конференции по репрезентационному обучению (International Conference on Learning Representations, ICLR). Эта работа показала, что алгоритмы глубокого обуче­ния можно обманом заставить выдавать некорректные результаты.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
Начиная с 2010 года в рамках данного проекта проводится ежегодный конкурс ILSVRC (ImageNet Large Scale Visual Recognition Challenge — конкурс по широкомасштабному распознаванию образов в ImageNet), призванный стимулировать исследования в области программного обеспечения для визуального распознавания объектов.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
При реализации проекта ImageNet использовался краудсорсинг для ручного аннотирования каждого изображения.
Комментарий жазу
Дионисий
Дионисийдәйексөз келтірді1 жыл бұрын
ImageNet ImageNet (www.image-net.org) — это база данных со ссылками на изображения, созданная для стимулирования прогресса в области машинного зрения.
Комментарий жазу