Содержание
- Взлом AI
- Борьба назад
- Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
Источник: Sdecoret / Dreamstime.com
вынос:
ИИ обладает потенциалом для защиты данных, как никогда раньше, но также имеет потенциал для кражи данных, как никогда раньше. Как профессионалы в области безопасности, так и хакеры пытаются извлечь максимальную пользу из этой технологии.
Специалисты по кибербезопасности смотрят на искусственный интеллект (ИИ) с энтузиазмом и трепетом. С одной стороны, он может добавить совершенно новые уровни защиты для критически важных данных и инфраструктуры, но, с другой стороны, он также может быть использован в качестве мощного оружия для разрушения этой защиты, не оставляя следов.
Как и любая технология, ИИ имеет как сильные стороны, так и слабые стороны, которые можно использовать. Задача сегодняшних экспертов в области безопасности состоит в том, чтобы оставаться на шаг впереди плохих парней, что должно начаться с четкого понимания того, как именно ИИ может использоваться в качестве наступательного информационного оружия.
Взлом AI
Во-первых, говорит Николь Коби из Wired, мы должны признать, что, как и в любой среде данных, сам ИИ может быть взломан. В основе каждого интеллектуального процесса лежит алгоритм, и алгоритмы реагируют на данные, которые они получают. Исследователи уже показывают, как можно обмануть нейронные сети, думая, что изображение черепахи на самом деле является изображением винтовки, и как простая наклейка на знаке остановки может привести к тому, что автономный автомобиль въедет прямо в перекресток. Подобные манипуляции возможны не только после развертывания ИИ, но и во время его обучения, что потенциально дает хакерам возможность нанести ущерб любому типу, не затрагивая инфраструктуру предприятия-клиента.
В то время как, конечно, нет недостатка в недовольных, чья единственная цель - причинить людям вред и вызвать террор, реальный приз в хакерской игре - это обнаружение пароля и все возможности кражи / вымогательства, которые идут с ним. В прошлом году Технологический институт Стивенса создал программу, чтобы продемонстрировать силу, которую ИИ привносит в этот процесс. Исследователи наполнили ряд известных программ для взлома паролей интеллектуальными алгоритмами, которые были обучены угадывать вероятные комбинации букв и цифр и специальных символов, и в течение нескольких минут они получили более 10 миллионов паролей LinkedIn. Разумеется, по мере обнаружения большего количества паролей они могут использоваться для обучения этим алгоритмам обучения, поэтому они со временем становятся более эффективными, даже если применяются общие меры защиты, такие как обычная смена пароля. (Подробнее о паролях см. В разделе «Просто безопасность: изменение требований к паролям для пользователей».)
Возможно ли, что эти инструменты уже используются криминальным подпольем? С легкодоступными облачными службами искусственного интеллекта и темной сетью, служащей центром обмена информацией для всех видов криптографического программного обеспечения, было бы удивительно, если бы это было не так. Фирма по анализу угроз Darktrace заявляет, что она видит первые признаки популярных вредоносных программ, таких как TrickBot, проявляющих постоянную осведомленность в своих попытках украсть данные и заблокировать системы. Похоже, они знают, что искать и как его найти, изучая целевую инфраструктуру, а затем сами решают, как избежать обнаружения. Это означает, что программе больше не нужно поддерживать связь с хакером с помощью командно-контрольных серверов или других средств, что обычно является одним из наиболее эффективных средств отслеживания злоумышленника.
Между тем, традиционные фишинговые мошенничества начинают выглядеть все более и более подлинными, в значительной степени потому, что инструменты ИИ могут создать первоначальный вид, исходящий из надежного источника. Например, обработка естественного языка предназначена для имитации человеческой речи. В сочетании с легкодоступными данными, такими как исполнительные имена и адреса, он может создать сообщение, настолько реалистичное, что может одурачить даже близких сотрудников. Средний потребитель одинаково восприимчив, учитывая способность ИИ извлекать любые данные из мошеннической, используя персонализированную информацию.
Борьба назад
Как уже упоминалось выше, AI - это улица с двусторонним движением. Хотя это может позволить хакерам обходить традиционные системы безопасности, это также делает существующие системы безопасности намного более эффективными. Согласно журналу «Страхование», Microsoft недавно смогла предотвратить попытку взлома своего облака Azure, когда режим безопасности с использованием искусственного интеллекта обнаружил ложное вторжение с удаленного сайта. Эта попытка осталась бы незамеченной в соответствии с более ранними протоколами, основанными на правилах, но способность ИИ учиться и приспосабливаться к новым угрозам должна значительно улучшить способность предприятия защищаться, даже если данные и инфраструктура проталкивают традиционный брандмауэр в облако и интернет. вещи. Все ведущие поставщики гипермасштабных облаков активно внедряют ИИ в свои задачи безопасности, поскольку чем раньше он будет задействован, тем больше он узнает к тому времени, когда столкнется с взломами, наделенными ИИ. (Чтобы узнать больше, посмотрите, как достижения AI влияют на безопасность, кибербезопасность и взлом.)
Таким образом, ИИ - это лишь очередная эскалация войны в сфере безопасности, которая продолжается уже несколько десятилетий. По мере появления новых угроз для их противостояния появляются новые защитные механизмы, и обе стороны питают одни и те же технологии.
Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
Вы не можете улучшить свои навыки программирования, когда никто не заботится о качестве программного обеспечения.
Во всяком случае, ИИ, скорее всего, ускорит этот процесс, одновременно снимая многие практические действия с операторов-людей. Будет ли это хорошо или плохо для современных кибер-воинов? Вероятно, сочетание того, что и белые, и черные шляпы бросают гадости и механизмы кодирования своих атак и защиты и концентрируются на более стратегических аспектах современной кибервойны.