Нужен ли ИИ разработчикам ОС?

Теме компьютерной безопасности уже традиционно была посвящена XII научно-практическая конференция OS DAY 2025, состоявшаяся в Москве в Российском экономическом университете имени Г.В. Плеханова. Несколько сотен специалистов в области системного программирования два дня обсуждали новинки в области ИТ, обменивались опытом, демонстрировали свои последние технические достижения и новинки на выставке технологий.

Подготовил Сергей Кормилицын
Автор фото: Вадим Мелешко

Основным предметом для обсуждения стало использование изолированных сред исполнения в современных операционных системах, однако нашлось время и для других тем. Так, второй день конференции открылся круглым столом, посвященным ОС в контексте искусственного интеллекта. И хотя, как это признают решительно все специалисты, включая самих разработчиков нейросетей, полноценного искусственного интеллекта сегодня еще не существует, обсуждение его потенциальной опасности (или безопасности), его возможного функционала и вариантов его использования оказалось волнующим, а дискуссия — жаркой.

Разумеется, как отметила на открытии конференции заместитель генерального директора ВИНИТИ РАН Анна Кан, упоминание искусственного интеллекта сегодня зачастую является данью моде, однако, если говорить о нейросетях, как об инструменте, который может быть применен как во благо, так и во вред, не приписывая ему свойств и качеств, которыми он пока не обладает, разговор приобретает серьезный характер.

Сильные стороны

— Любые новые технологии нужно использовать с умом, — предостерегает Андрей Духвалов, вице-президент и директор департамента перспективных технологий «Лаборатории Касперского», выступивший ведущим круглого стола. — ИИ — мощный инструмент, и ущерб от его неправильного применения может быть тоже мощным. На современном уровне развития ИИ трудно априори предсказать вероятность ожидаемого и непредсказуемого его поведения. Понимая это, технологию нужно использовать в тех направлениях, где она может принести пользу, и не использовать в тех, где — вред. Классификация событий и объектов, анализ больших данных, генерация новой информации — сильные стороны ИИ.

Алексей Киселёв, руководитель направления в компании НТЦ ИТ РОСА, дополняет эту оценку, говоря о том, что эта технология позволяет экономить временные ресурсы.

— Мы используем нейросети, главным образом, для ускорения реакции на запросы и инциденты, — рассказал он. — Например, недавно нас атаковал мощный ботнет объемом в 67000 машин. Нейросеть помогла написать мелкую автоматику, чтобы отбить атаку, и очень нам помогла. Целиком она оформить решение не может, но может помочь отбиться от ботов значительно быстрее. А в том, что касается разработки, нейросети просто помогают несколько ускорить ее процесс. Особенно это полезно, когда нужно разобраться в каком-то легаси-коде, если, например, в продакшене используется какой-то довольно старый код, и просто нет никого, кто разбирается в нем нормально, а самому штудировать мегабайты кода нет возможности.

Естественный интеллект все еще нужен

— В целом, современные нейросети — это что-то вроде улучшенного поисковика, — говорит Андрей Духвалов. — Обращаясь к ним, программисты получают советы, как решить ту или иную задачу. Могут получить даже какой-то элемент кода. Но разработчика сети не заменят. Как минимум, пока.

А Евгений Синельников, руководитель саратовского обособленного подразделения «Базальт СПО», и вовсе разрушает мечту об искусственном интеллекте, который сможет заменить многочисленных «джунов», превратив разработку ПО в конвейерный процесс.

— Для использования искусственного интеллекта нужно, как минимум, приложить изрядные усилия интеллекта естественного, — убежден он. — При работе с нейросетями необходима критичность мышления, критичность восприятия этого инструмента. Нужно понимать его возможности и ограничения, области его возможного применения. Это просто еще один инструмент наряду со множеством других. А все попытки восприятия ИИ как личности и наделения его некими сверхъестественными возможностями настоящего живого естественного интеллекта, — это путь в никуда. Это ожидание каких-то сверхрезультатов от того, что скорее кажется, чем является. Впрочем, справедливости ради, «казаться» нейросети умеют очень хорошо.

Опасное умение

Именно это умение «казаться», по мнению Анны Кан, и представляет собой одну из видимых угроз повсеместного применения искусственного интеллекта. Среди списка других опасностей она в числе первых называет этическую — дискриминацию и предвзятость алгоритмов:

— Искусственный интеллект обучается на больших объёмах неконтролируемых данных, которые могут содержать предубеждения, и может воспроизвести их, — считает она.

Хватает и иных угроз. От технических (злоумышленники могут взломать ИИ-системы для получения конфиденциальной информации или манипулировать их поведением, в том числе — для организации с их помощью кибератак), до правовых. Во многих странах отсутствует четкое регулирование сферы разработки нейросетей и, как следствие, существует потенциальная возможность создания систем, действительно опасных для человека и общества.

Наконец, повальное увлечение ИИ, — считает эксперт, — может быть чревато серьезными проблемами в случае сбоев или ошибок в работе алгоритмов. Особенно, если ИИ применяется в критических сферах, таких как медицина, энергетика, или автономные транспортные системы.

Алексей Киселёв видит в широком использовании ИИ проблему не настолько серьезную, но по-настоящему масштабную, связанную с формированием информационного поля по тому или иному вопросу.

— Основная проблема, — говорит он, — угроза заполнения нейрослопом информационного пространства. Я, например, несколько недель назад искал специфическую информацию по работе компилятора и обнаружил, что абсолютно вся информация по теме — это нейромусор, который сообщает много слов об общем принципе работы и в целом вводит в заблуждение, а не объясняет тонкие нюансы работы. И такого будет всё больше и больше.

Еще не время

Иными словами, нейросетевые технологии пока еще не превратились в глобальный и мощный инструмент, который мог бы изменить всю сферу разработки ПО, ликвидировать необходимость в низкоквалифицированных специалистах, занимающихся черновой работой, и так далее. Конечно, ему находится применение при решении ряда некритичных задач, но не более.

— Мы проводим исследования и тестирование возможностей ИИ в различных направлениях, — рассказывает Роман Симаков, директор департамента развития системных продуктов компании РЕД СОФТ. — Например, планируем оценить перспективность разработки решений на основе экспертных систем и чат-ботов в техподдержке. Такие системы позволят автоматически обрабатывать запросы клиентов и давать быстрые и точные ответы. Внедрение ИИ в этом направлении должно снизить нагрузку на сотрудников и повысить качество обслуживания. Нам интересно в будущем использовать искусственный интеллект при тестировании и поиске уязвимостей. Также рассматриваем использование ботов-помощников для первой линии помощи клиентам.

Однако, как утверждает ведущий специалист компании «Криптософт» Егор Васин, прямое использование технологий ИИ при разработке отечественного ПО вообще и ОС, в частности, затруднено. Сегодня эти технологии представляют интерес, скорее, для отдельных энтузиастов, а не для компаний, занимающихся промышленной разработкой ПО. Связано это c незрелостью технологии, человеческим фактором и рядом угроз, непосредственно связанных с использованием искусственного интеллекта.

Ключевые слова: OS DAY 2025, искусственный интеллект, разработка, нейросети

Подпишитесь на журнал

Комментарии могут оставлять только зарегистрированные пользователи