Сотрудники ИДСТУ СО РАН в числе победителей хакатона «Доверенный искусственный интеллект»

В рамках образовательной программы «Доверенный искусственный интеллект» Университета «Сириус» сотрудники Института динамики систем и теории управления имени В. М. Матросова СО РАН стали одними из победителей хакатона в номинации «Защита». Образовательная программа проходила с 7 по 18 октября в Сочи. Команда ИДСТУ СО РАН состояла из руководителя молодежной лаборатории по работе с искусственным интеллектом ИДСТУ СО РАН кандидата технических наук Андрея Анатольевича Михайлова, сотрудника лаборатории Андрея Александровича Кузнецова и студента РТУ МИРЭА Михаила Викторовича Быкова.

«Целью работы в хакатоне стала разработка методов защиты NLP-моделей от состязательных атак, использующих омоглифы и другие невидимые возмущения текста. Такой подход направлен на повышение надежности и точности языковых моделей при обработке текста, подвергнутого атаке. В частности, мы занимались исследованием и классификацией различных типов состязательных атак на NLP-модели, включая атаки с использованием омоглифов, невидимых символов, перестановок и удаления символов, а также обучением языковой модели для корректировки и распознавания омоглифов в тексте», — рассказал Андрей Анатольевич.

Победители хакатона определялись в двух номинациях: «Защита» и «Атака».