Безопасное знакомство

Александр Михайлов,

руководитель GSOC компании «Газинформсервис»

Как давно вы работаете в сфере информационной безопасности?

14 лет.

Можно ли ожидать в ближайшие десятилетия мир, где никто никого не взламывает?

К сожалению, нет. И я пишу именно с сожалением, хоть защита — это мое призвание и хлеб. Впереди нас ждет много трудностей и соревнования пушки с крепостью, конца которым в обозримом будущем не видно. Пока существуют информационные технологии — будут и те, кто этими технологиями будет пользоваться не через дверь, а через окно. Из любопытства, корысти, спортивного интереса или ради отчизны — не имеет значения, такова природа человека.

Растет ли с годами число угроз, направленных на пользователей привычных сервисов?

Количество угроз пока только растет, но что важнее — растет их изощренность и сложность для распознавания потенциальными жертвами. Технологии ИИ используются и злоумышленниками, поэтому сложность подготовки атак падает, а качество растет.

Возьмем в виде примера фишинговые атаки на компании или персоналии. Если раньше злоумышленнику нужно было делать шаблоны писем, сайтов, наполнять нужным текстом и скриптами, где-то вступать в переписку с жертвой, то теперь каждый шаг можно автоматизировать, а атаку персонализировать и тратить на фишинговую кампанию куда меньше времени и иметь большую результативность.

Может ли кто-то взломать один из популярных ИИ-чат-ботов, чтобы он стал злым и начал давать плохие ответы?

Взломать можно все, вопрос только в финансовой целесообразности и готовности потратить на атаку соответствующие ресурсы. Более эффективной выглядит атака на сервисы-агрегаторы чат-ботов. Многие из них собраны «на коленке» и представляют из себя интерфейс, взаимодействие с которым передается в официальные чат-боты или бесплатные модели, развернутые на соседнем сервере. И взломать такого агрегатора куда проще, чем, например, компании OpenAI и DeepSeek. А дальше дело за малым — можно перенаправлять все или определенные запросы в свою модель, которая ответит так, как нужно злоумышленнику.

Социальный инжиниринг безотказно работает уже несколько десятилетий. Что делать с человеческим фактором?

Человеческий фактор можно только минимизировать. Где человек — там и ошибки, там и пресловутый фактор. Минимизировать его можно выстраиванием сложных процессов, но проще это сделать техническими средствами — автоматизацией тех действий человека, где может произойти ошибка, а те действия, которые нельзя автоматизировать, нужно перепроверять подходящим инструментом. Например, многие случайные утечки данных или ошибки конфигурации можно предотвратить соответствующими программными решениями. То есть человека нужно подстраховать.

Антон Исаев,

лидер продуктовой практики SIEM и VM R-Vision

Как давно вы работаете в сфере информационной безопасности?

Я занимаюсь информационной безопасностью уже девятый год. За это время прошел путь от настройки отдельных средств защиты до построения комплексных решений для защиты ключевых бизнес-процессов компаний.

Можно ли ожидать в ближайшие десятилетия мир, где никто никого не взламывает?

Мир без взломов — красивая мечта, но, к сожалению, недостижимая. Пока есть интерес, данные и деньги, всегда найдутся те, кто захочет этим воспользоваться.

Растет ли с годами число угроз, направленных на пользователей привычных сервисов?

Да, угрозы растут — и не только по количеству, но и по качеству. Пользователи все больше зависят от цифровых сервисов, а злоумышленники подстраиваются под эту зависимость. Сейчас атакуют не системы, а привычки: доверие к брендам, спешку, лень проверять ссылки.

Может ли кто-то взломать один из популярных ИИ-чат-ботов, чтобы он стал злым и начал давать плохие ответы?

Теоретически ИИ-чат-бот можно обмануть или использовать для атаки, но чтобы он «стал злым», нужно сильно постараться. Но уже сейчас злоумышленники его вовсю используют для создания фишинговых писем и манипуляций.

Социальный инжиниринг безотказно работает уже несколько десятилетий. Что делать с человеческим фактором?

С человеческим фактором все просто: его нельзя победить, но можно приручить. Регулярное обучение, симуляции фишинга и культура безопасности работают лучше, чем любые запреты.

Иван Костыря,

руководитель L1 SOC uFactor UserGate

Как давно вы работаете в сфере информационной безопасности?

Я работаю в информационной безопасности уже 5 лет и суммарно 19 лет в ИТ. Прошел путь от админа-эникея и монтажника сетей до аналитика киберугроз и руководителя отдела мониторинга. Сейчас являюсь руководителем первой линии центра безопасности компании UserGate. Также читаю лекции по информационной безопасности для вузов и «менторю» как своих сотрудников, так и друзей — мне нравится рассказывать обо всем, что узнал сам.

Можно ли ожидать в ближайшие десятилетия мир, где никто никого не взламывает?

Хочется верить, что рано или поздно мы победим всю киберпреступность — ради этого и работаем. Но реальность такова, что это вряд ли произойдет, ведь с каждым годом схем и злоумышленников становится только больше, меняются и их тактики и техники. Безусловно, аналитика, системы защиты и цифровая криминалистика также развиваются, и при должном подходе к цифровой гигиене и безопасности риск стать жертвой снижается. А вот со стороны криминалистов работа никогда не останавливается и даже по старым инцидентам расследования будут продолжены, а информация актуализирована. Одним словом, посмотрим, кто кого.

Растет ли с годами число угроз, направленных на пользователей привычных сервисов?

Количество угроз растет. В первую очередь под прицелом внимательность и доверие рядовых пользователей. Никто не защищен от мошенников, и никто не может гарантировать, что его сеть или сервис не будут уязвимы завтра. Попасть в мошеннические сети сегодня просто, как никогда. Речь не только про ссылки или вложения от неизвестных отправителей, но и про всевозможные «скачать бесплатно» с первых страниц поисковика. Можно без проблем скачать «отравленную» версию популярного мессенджера и при запуске приложения подарить свой доступ злоумышленникам. То же самое касается банковских приложений, кошельков, скидочных сервисов и так далее. Чем ближе сервис к прямой выгоде для мошенников, тем больше ему уделяется внимания в атаках.

Может ли кто-то взломать один из популярных ИИ-чат-ботов, чтобы он стал злым и начал давать плохие ответы?

Если включить фантазию и каким-то образом отравить весь датасет AI-ассистента, чтобы он давал вредные советы и вводил пользователя в заблуждение, то мы получим ситуацию, что помощнику очень быстро перестанут доверять, но к большим последствиям подобная атака все равно не приведет. Даже сейчас разработчик, использующий ассистента в написании рабочего кода, относится к нему как к потенциальной уязвимости и несколько раз перепроверяет сгенерированное, а об использовании в бесконтрольном и автономном режиме речи не идет — слишком много проблем вроде галлюцинирования, возможности отравления вводных данных или вероятности утечки секретов.

Социальный инжиниринг безотказно работает уже несколько десятилетий. Что делать с человеческим фактором?

Социальная инженерия будет работать всегда, пока существует человеческий фактор — так устроена психология поведения. Осведомленность граждан повышается с каждым годом, но и схемы атак совершенствуются. Есть много различных приемов, которые мошенники применяют, чтобы вызвать у жертвы доверие или, наоборот, страх и испуг. Правильным решением будет системно переводить риск социальной инженерии в управляемый риск — для этого следует проектировать контур безопасности так, чтобы сотрудники и пользователи любого сервиса не были единственной линией защиты. Тогда человеческий фактор перестанет быть «слабым звеном», а станет частью устойчивой защитной архитектуры.