«Интеллектуальный» пузырь и будущее секюрити индустрии.

Previous Entry Поделиться Next Entry
2 сентября, 2016
e_kaspersky
Ну, пора возвращаться с алтайских вершин на землю - как раз самое время поговорить о IT-безопасности.

Недавняя статья в New York Times о буме технологий искусственного псевдоинтеллекта в Кремниевой долине заставляет серьёзно задуматься о будущем секюрити-индустрии. Будущем как завтрашнем, так и послезавтрашнем.

К чему приведёт маниакальное увлечение тем, что пока существует только в фантазии футурологов? Сколько ещё миллиардов инвесторы вложат в проекты, которые в лучшем случае «изобретают» то, что изобретено дюжину лет назад, а в худшем - на поверку оказываются надувными маркетинговыми куклами? Какие реальные перспективы развития умных машинных секюрити-технологий и какая роль уготована в этом новом мире человеку эксперту?

То, что сейчас переживает область искусственного интеллекта весьма напоминает стремительно растущий мыльный пузырь, и новости о его росте заставляют слишком многих задумываться о том, что будет, когда он, наконец, лопнет..

Разумеется, без смелых шагов и рискованных инвестиций фантастическое будущее никогда не станет реальностью. Проблема, однако, в том, что на волне всеобщего энтузиазма начали процветать стартап-пустышки (в некоторых случаях стартап-воришки), которые привлекают миллиарды инвестиций для нагнетания эйфории вокруг давно известных технологий машинного обучения. Технологии снабжаются неоновой вывеской «artificial intelligence» со стробоскопами и оборачиваются в гламурные маркетинговые кампании, нацеленные на вечные уязвимости человеческой психологии, а именно – веру в чудо и теорию зáговора жадных ретроградов-разработчиков «традиционных» технологий. Не избежала этого, увы, и область ИТ-секюрити.

И вот уже на публику выкатывается «революционный» продукт, который волшебным образом, наконец-то, решает все проблемы защиты от всех на свете угроз. Пустышки не гнушаются подавать информацию таким образом, что манипуляция общественным мнением приводит к абсолютно ложному пониманию реального положения дел. И, разумеется, под капотом у продукта чаще всего оказывается паровой двигатель, но кто ж его полезет смотреть? Да и кто им даст посмотреть – разработчики псевдо-ИИ жёстко регламентируют доступ к дистрибутивам, вплоть до публичных порок своих партнёров. Оно и ясно - а вдруг поднимут капот? Подробнее эта мизансцена уже расписана здесь.

Некоторые стартапы успели провести IPO, обеспечить удачный выход первичных венчурных инвесторов и… разочаровать фондовый рынок. Построенный на говномаркетинге убыточный бизнес дивиденды не выплачивает, курс акций от крутого пике ура-новостями не спасёшь. К тому же маркетинговая пирамида машина требует денег, ещё денег, больше денег, много денег.

Да, венчурный бизнес потому и называется венчурным, что часть яиц кладёт в высокорисковую корзину. Талант венчурного капиталиста заключается в правильном ощущении куда и сколько положить, чтобы в итоге выйти с приемлемой прибылью. Однако есть нюанс: в области искусственного псевдоинтеллекта наблюдается тенденция – пока что ни один крупный венчурный секюрити-проект не вышел на самоокупаемость. Самолёты без двигла не летают! Как же так?

Главная цель бизнес-модели большинства «силиконовых» стартапов (не всех, бывают приятные исключения) заключается не в серьёзных и дорогостоящих исследованиях и основанных на них продуктах/технологиях, а надувании пышного мыльного пузыря для привлечения инвесторов, быстрого выхода из бизнеса через продажу по цене, основанной на «оценке будущей прибыли», а дальше… это уже чужая проблема. И реальная операционная прибыль на самом деле только мешает этой модели.

Вот типичная бизнес-модель, разжеванная за 1 минуту 15 секунд одним из героев сериала «Кремниевая долина» (и это не шутка):



ИИ-пузырь чем-то напоминает пузырь на рынке недвижимости США 2008-го года, аукнувшийся по всему миру. Всех устраивала пирамида инвестиционных субпродуктов, основанных на закладных и ипотечных кредитах - с неё кормились миллионы людей (а десятки тысяч особо хорошо кормились). А потом бах – пирамида рухнула, мировая экономика закачалась, дыры латали деньгами налогоплательщиков – тех самых людей и компаний, которые зарабатывают деньги. Не в курсе? Смотрите фильм «Игра на понижение».

ИИ-пузырь таит в себе другую опасность – дискредитация машинного обучения – одного из самых перспективных направлений в IT.

Только благодаря машинному обучению человечество не утонуло в гигантском объёме информации, который за последние дцать лет увеличился на порядки.

Например, количество вредоносных программ за 10 лет выросло в ~1000 раз: в начале века мы каждый день анализировали ~300 вредоносов, а сейчас эта цифра обзавелась ещё тремя нулями. Спросите меня – насколько увеличилось количество наших аналитиков? В 4 раза. Как так? Машинное обучение, ага. У нас 99,9% атак детектят системы-роботы. Что же делают люди? Люди в основном «подкручивают» рабочих роботов и делают новых.

Например, у нас есть эксперты для выявления сложных кибератак, которые передают свои знания и навыки автоматизированным системам. Есть специалисты по анализу данных, которые экспериментируют с разными моделями и методами машинного обучения. Важно: в отличие от стартап-пустышек, которые концентрируют все технологии на конкретном компьютере и ограничены в производительности, мы защищаем пользователей через гигантскую облачную инфраструктуру, способную быстро и эффективно решать гораздо более сложные задачи. И, да, по этой причине в нашей инфраструктуре применяется много разных моделей машинного обучения.

Только единичные атаки из числа самых сложных мы расследуем «руками». Что любопытно: даже при таком проникновении машинных технологий всё равно не хватает кадров. Впрочем, и требования к качеству кадров тоже выросли.

Рано или поздно спектакль «искусственный интеллект спасает мир» подойдёт к концу. Эксперты наконец протестируют фуфло-продукты, заказчики разочаруются, инвесторы потеряют интерес. Как говорится, «ложечки нашлись, но осадочек остался» ©. Как дальше будет развиваться машинное обучение?

На пепелище ИИ-пузыря неизбежно проклянут всё сопредельные поляны. Машинное обучение? Нейросети? Поведенческое детектирование? Когнитивный анализ? А-а, это из оперы про искусственный интеллект? Спасибо, слышали, не надо.

Проклятие ИИ-пузыря на многие годы притупит интерес к перспективным технологиям, как уже случалось!

Да, крупные разработчики будут продолжать вкладываться в направление. Например, мы внедрили технологии градиентного бустинга и решающих деревьев для обнаружения сложных целевых атак и проактивной защиты от будущих угроз. Одна из перспективных линий нашего развития – усложнение корреляционной картины событий сквозь все уровни инфраструктуры, увязывание между собой всё большего числа событий в сети (включая выявление атипичного поведения пользователя) и интеллектуальный анализ полученной биг даты, что даёт возможность с высокой точностью и надёжностью детектировать самые сложные кибератаки. А какие будут шансы у честных стартапов? Увы: сегодняшнее злоупотребление темой искусственного интеллекта в среднесрочной перспективе приведёт к замедлению развития.

Впрочем, пузырь прогресс не остановит. Человечество верно движется к автоматизации всего и вся, вплоть до самых мелких бытовых действий. И не просто автоматизации, а адаптивного взаимодействия человек-машина, построенного на продвинутых алгоритмах машинного обучения. Иногда темпы проникновения умных технологий даже пугают.

Какая роль уготована человеку в этом новом мире?

В краткосрочном реалистичном будущем человечество будет продолжать создавать роботов в самых разных областях, включая IT-секюрити. Например, у нас готово решение для встраивания уровня безопасности в парадигму «умных городов» (в т.ч. разнообразные роботизированные аспекты вроде автоматического управления автомобильным трафиком), для безопасного управления критической инфраструктурой. И кадровый голод усилится не столько за счёт распространения технологий, сколько за счёт повышения требований к кадрам. Системы машинного обучения для IT-секюрити требуют глубоких знаний и навыков из самых разных областей (включая Big Data, расследование компьютерных преступлений, системное и прикладное программирование) – знаний и навыков, присущих исключительно высококлассным специалистам. И научить этому не так просто, если вообще возможно. Перед образованием стоит очень сложная задача поиска и воспитания самородков, талантов от природы. Именно они будут совершать качественные скачки в развитии умных технологий.


Кто же будет управлять будущим: человек или роботы? Каков будет интеллект будущего?

В повести «Далёкая радуга» в 1963 г. Стругацкие описали теорию симбиотического интеллекта: слияние человека и машины, кибернетический организм, сочетающий разум человека и гигантские вычислительные мощности суперкомпьютеров. И это не научная фантастика – это происходит уже сейчас. И это, на мой взгляд, не только самый вероятный, но и благоприятный для человечества вариант.

Или всё-таки прогресс достигнет точки технологической сингулярности, человек потеряет способность понимать происходящее, а машины полностью и безвозвратно примут контроль над миром?

Ключевая особенность чистого машинного искусственного интеллекта, – способность к совершенствованию без вмешательства человека, самостоятельный выход за границы алгоритма. Иными словами, машинный ИИ – это новая форма разума. И далёкий, но теоретически вероятный день появления такой формы ИИ станет началом конца нашего мира - во благо человека и в полном соответствии с законами робототехники нас избавят от душевных мук и бремени существования. Или, как это часто случается, программист ляпнет баг.

ai_oil

Previous Entry Поделиться Next Entry

Записи из этого журнала по тегу «humachine»

  • Умная пробирка для злобной малвары.

    Вы задавали себе вопрос - почему компьютерные вирусы назвали именно «вирусами»? Вопрос на самом деле риторический, но если для кого-то это не…

  • Рекламная энтомология.

    Само собой разумеется, что мой e-mail весьма подвержен спаму. Долгие годы раздачи визиток направо и налево, «засвечивания» адреса в публикациях, на…

  • Одержимость фигурами.

    Дамы и господа, Без лишних предисловий сим спешу сообщить, что мы являемся официальным спонсором талантливого шахматиста Сергея Карякина. По этому…


Добрый день.
На Вашем сайте "Хроника целевых кибератак" инфографика имеет несколько минусов.
1. Несколько атак расположены на одном фарватере. Логично предположить, что это их как-то объединяет. Но нет, если навести курсор на "CosmicDuke", "Duqu" или "Turla", то видно, что связи обозначены иначе. Понятно, что дизайнеры пытались таким образом "впихнуть невпихуемое", однако выглядит не очень логично и читаемо.
2. Следствием первого явления является то, что когда две APT находятся на одной линии, то не всегда удается отследить длину фарватера (время между первым появлением и обнаружением угрозы). Не очень критично, т. к. есть подробная информация. Но для инфографики это минус.
3. В описании угрозы "Красный Октябрь" на карте закрашена Гренландия, что само по себе уникально :) Ведь Дания в списке стран-жертв отсутствует. Как в данном описании, так и на более подробном описании на сайте Securelist. Кроме того, по фильтру можно выбрать угрозы, среди жертв которых была Дания. Такая угроза всего одна - Desert Falcons. При этом на карте закрашены пять или шесть государств, при том что в списке их двадцать четыре и "многие другие".
Иногда информация бывает недостоверной не потому что её кто-то намеренно исказил, а вследствие того, что исполнитель просто где-то ошибся. А его работу потом не проверили. Для компании, которая занимается безопасностью, подобные ошибки естественно не критичны, но репутацию подмочить могут.
PS. Идея с представлением киберугроз в виде кораблей лично мне нравится: чем большее время активна угроза, тем больше/опаснее корабль. Это неплохо. Однако с точки зрения инфографики размер корабля должен был бы ассоциироваться с количеством жертв или оцененным ущербом. Но это закодировали цветом, а легенда находится на другом экране. Поэтому тут спорный момент возникает. Я не стал добавлять его в минусы.
С уважением и наилучшими пожеланиями.

?

Log in

No account? Create an account