Droider[Наука] 2025-07-03 14:23
👁**Новый хак заставляет ИИ видеть то, чего нет**
Американские инженеры [создали](https://research.ncsu.edu/new-attack-can-make-ai-see-whatever-you-want/) метод, который может обмануть любую систему компьютерного зрения. **RisingAttacK способен заставить искусственный интеллект «увидеть» машину там, где её нет, или не заметить пешехода на дороге.**
Команда из Университета Северной Каролины протестировала свой метод против четырёх самых популярных ИИ-систем зрения: ResNet-50, DenseNet-121, ViTB и DEiT-B. **RisingAttacK успешно обманул все программы.**
Как это работает? Метод анализирует изображение и определяет, какие визуальные элементы наиболее важны для распознавания объекта. **Затем алгоритм вносит крошечные, незаметные глазу изменения именно в эти ключевые области.** Для человека две картинки выглядят абсолютно одинаково, но ИИ видит совершенно разное.
Представьте последствия. Хакер может заставить автопилот не увидеть красный сигнал светофора или пешехода на переходе. **Злоумышленник способен внедрить код в рентгеновский аппарат, чтобы ИИ ставил неверные диагнозы.** Или обмануть систему безопасности, сделав человека «невидимым» для камер.
RisingAttacK использует сложные математические операции для поиска уязвимостей. Хорошая новость в том, что исследователи работают на стороне добра. **Цель проекта — выявить уязвимости, чтобы разработать защиту от подобных атак.** Нельзя защитить то, о чём не знаешь.
Команда уже планирует расширить исследования на большие языковые модели. **Если RisingAttacK научится обманывать не только зрение, но и «мышление» ИИ, это открывает совершенно новые горизонты для кибербезопасности.**
@droidergram