«Интеллектуальный» пузырь и будущее секюрити индустрии.

Previous Entry Поделиться Пожаловаться Next Entry
2 сентября, 2016
e_kaspersky
Ну, пора возвращаться с алтайских вершин на землю - как раз самое время поговорить о IT-безопасности.

Недавняя статья в New York Times о буме технологий искусственного псевдоинтеллекта в Кремниевой долине заставляет серьёзно задуматься о будущем секюрити-индустрии. Будущем как завтрашнем, так и послезавтрашнем.

К чему приведёт маниакальное увлечение тем, что пока существует только в фантазии футурологов? Сколько ещё миллиардов инвесторы вложат в проекты, которые в лучшем случае «изобретают» то, что изобретено дюжину лет назад, а в худшем - на поверку оказываются надувными маркетинговыми куклами? Какие реальные перспективы развития умных машинных секюрити-технологий и какая роль уготована в этом новом мире человеку эксперту?

То, что сейчас переживает область искусственного интеллекта весьма напоминает стремительно растущий мыльный пузырь, и новости о его росте заставляют слишком многих задумываться о том, что будет, когда он, наконец, лопнет..

Разумеется, без смелых шагов и рискованных инвестиций фантастическое будущее никогда не станет реальностью. Проблема, однако, в том, что на волне всеобщего энтузиазма начали процветать стартап-пустышки (в некоторых случаях стартап-воришки), которые привлекают миллиарды инвестиций для нагнетания эйфории вокруг давно известных технологий машинного обучения. Технологии снабжаются неоновой вывеской «artificial intelligence» со стробоскопами и оборачиваются в гламурные маркетинговые кампании, нацеленные на вечные уязвимости человеческой психологии, а именно – веру в чудо и теорию зáговора жадных ретроградов-разработчиков «традиционных» технологий. Не избежала этого, увы, и область ИТ-секюрити.

И вот уже на публику выкатывается «революционный» продукт, который волшебным образом, наконец-то, решает все проблемы защиты от всех на свете угроз. Пустышки не гнушаются подавать информацию таким образом, что манипуляция общественным мнением приводит к абсолютно ложному пониманию реального положения дел. И, разумеется, под капотом у продукта чаще всего оказывается паровой двигатель, но кто ж его полезет смотреть? Да и кто им даст посмотреть – разработчики псевдо-ИИ жёстко регламентируют доступ к дистрибутивам, вплоть до публичных порок своих партнёров. Оно и ясно - а вдруг поднимут капот? Подробнее эта мизансцена уже расписана здесь.

Некоторые стартапы успели провести IPO, обеспечить удачный выход первичных венчурных инвесторов и… разочаровать фондовый рынок. Построенный на говномаркетинге убыточный бизнес дивиденды не выплачивает, курс акций от крутого пике ура-новостями не спасёшь. К тому же маркетинговая пирамида машина требует денег, ещё денег, больше денег, много денег.

Да, венчурный бизнес потому и называется венчурным, что часть яиц кладёт в высокорисковую корзину. Талант венчурного капиталиста заключается в правильном ощущении куда и сколько положить, чтобы в итоге выйти с приемлемой прибылью. Однако есть нюанс: в области искусственного псевдоинтеллекта наблюдается тенденция – пока что ни один крупный венчурный секюрити-проект не вышел на самоокупаемость. Самолёты без двигла не летают! Как же так?

Главная цель бизнес-модели большинства «силиконовых» стартапов (не всех, бывают приятные исключения) заключается не в серьёзных и дорогостоящих исследованиях и основанных на них продуктах/технологиях, а надувании пышного мыльного пузыря для привлечения инвесторов, быстрого выхода из бизнеса через продажу по цене, основанной на «оценке будущей прибыли», а дальше… это уже чужая проблема. И реальная операционная прибыль на самом деле только мешает этой модели.

Вот типичная бизнес-модель, разжеванная за 1 минуту 15 секунд одним из героев сериала «Кремниевая долина» (и это не шутка):



ИИ-пузырь чем-то напоминает пузырь на рынке недвижимости США 2008-го года, аукнувшийся по всему миру. Всех устраивала пирамида инвестиционных субпродуктов, основанных на закладных и ипотечных кредитах - с неё кормились миллионы людей (а десятки тысяч особо хорошо кормились). А потом бах – пирамида рухнула, мировая экономика закачалась, дыры латали деньгами налогоплательщиков – тех самых людей и компаний, которые зарабатывают деньги. Не в курсе? Смотрите фильм «Игра на понижение».

ИИ-пузырь таит в себе другую опасность – дискредитация машинного обучения – одного из самых перспективных направлений в IT.

Только благодаря машинному обучению человечество не утонуло в гигантском объёме информации, который за последние дцать лет увеличился на порядки.

Например, количество вредоносных программ за 10 лет выросло в ~1000 раз: в начале века мы каждый день анализировали ~300 вредоносов, а сейчас эта цифра обзавелась ещё тремя нулями. Спросите меня – насколько увеличилось количество наших аналитиков? В 4 раза. Как так? Машинное обучение, ага. У нас 99,9% атак детектят системы-роботы. Что же делают люди? Люди в основном «подкручивают» рабочих роботов и делают новых.

Например, у нас есть эксперты для выявления сложных кибератак, которые передают свои знания и навыки автоматизированным системам. Есть специалисты по анализу данных, которые экспериментируют с разными моделями и методами машинного обучения. Важно: в отличие от стартап-пустышек, которые концентрируют все технологии на конкретном компьютере и ограничены в производительности, мы защищаем пользователей через гигантскую облачную инфраструктуру, способную быстро и эффективно решать гораздо более сложные задачи. И, да, по этой причине в нашей инфраструктуре применяется много разных моделей машинного обучения.

Только единичные атаки из числа самых сложных мы расследуем «руками». Что любопытно: даже при таком проникновении машинных технологий всё равно не хватает кадров. Впрочем, и требования к качеству кадров тоже выросли.

Рано или поздно спектакль «искусственный интеллект спасает мир» подойдёт к концу. Эксперты наконец протестируют фуфло-продукты, заказчики разочаруются, инвесторы потеряют интерес. Как говорится, «ложечки нашлись, но осадочек остался» ©. Как дальше будет развиваться машинное обучение?

На пепелище ИИ-пузыря неизбежно проклянут всё сопредельные поляны. Машинное обучение? Нейросети? Поведенческое детектирование? Когнитивный анализ? А-а, это из оперы про искусственный интеллект? Спасибо, слышали, не надо.

Проклятие ИИ-пузыря на многие годы притупит интерес к перспективным технологиям, как уже случалось!

Да, крупные разработчики будут продолжать вкладываться в направление. Например, мы внедрили технологии градиентного бустинга и решающих деревьев для обнаружения сложных целевых атак и проактивной защиты от будущих угроз. Одна из перспективных линий нашего развития – усложнение корреляционной картины событий сквозь все уровни инфраструктуры, увязывание между собой всё большего числа событий в сети (включая выявление атипичного поведения пользователя) и интеллектуальный анализ полученной биг даты, что даёт возможность с высокой точностью и надёжностью детектировать самые сложные кибератаки. А какие будут шансы у честных стартапов? Увы: сегодняшнее злоупотребление темой искусственного интеллекта в среднесрочной перспективе приведёт к замедлению развития.

Впрочем, пузырь прогресс не остановит. Человечество верно движется к автоматизации всего и вся, вплоть до самых мелких бытовых действий. И не просто автоматизации, а адаптивного взаимодействия человек-машина, построенного на продвинутых алгоритмах машинного обучения. Иногда темпы проникновения умных технологий даже пугают.

Какая роль уготована человеку в этом новом мире?

В краткосрочном реалистичном будущем человечество будет продолжать создавать роботов в самых разных областях, включая IT-секюрити. Например, у нас готово решение для встраивания уровня безопасности в парадигму «умных городов» (в т.ч. разнообразные роботизированные аспекты вроде автоматического управления автомобильным трафиком), для безопасного управления критической инфраструктурой. И кадровый голод усилится не столько за счёт распространения технологий, сколько за счёт повышения требований к кадрам. Системы машинного обучения для IT-секюрити требуют глубоких знаний и навыков из самых разных областей (включая Big Data, расследование компьютерных преступлений, системное и прикладное программирование) – знаний и навыков, присущих исключительно высококлассным специалистам. И научить этому не так просто, если вообще возможно. Перед образованием стоит очень сложная задача поиска и воспитания самородков, талантов от природы. Именно они будут совершать качественные скачки в развитии умных технологий.


Кто же будет управлять будущим: человек или роботы? Каков будет интеллект будущего?

В повести «Далёкая радуга» в 1963 г. Стругацкие описали теорию симбиотического интеллекта: слияние человека и машины, кибернетический организм, сочетающий разум человека и гигантские вычислительные мощности суперкомпьютеров. И это не научная фантастика – это происходит уже сейчас. И это, на мой взгляд, не только самый вероятный, но и благоприятный для человечества вариант.

Или всё-таки прогресс достигнет точки технологической сингулярности, человек потеряет способность понимать происходящее, а машины полностью и безвозвратно примут контроль над миром?

Ключевая особенность чистого машинного искусственного интеллекта, – способность к совершенствованию без вмешательства человека, самостоятельный выход за границы алгоритма. Иными словами, машинный ИИ – это новая форма разума. И далёкий, но теоретически вероятный день появления такой формы ИИ станет началом конца нашего мира - во благо человека и в полном соответствии с законами робототехники нас избавят от душевных мук и бремени существования. Или, как это часто случается, программист ляпнет баг.

ai_oil

Previous Entry Поделиться Пожаловаться Next Entry

Записи из этого журнала по тегу «humachine»

  • Умная пробирка для злобной малвары.

    Вы задавали себе вопрос - почему компьютерные вирусы назвали именно «вирусами»? Вопрос на самом деле риторический, но если для кого-то это не…

  • Рекламная энтомология.

    Само собой разумеется, что мой e-mail весьма подвержен спаму. Долгие годы раздачи визиток направо и налево, «засвечивания» адреса в публикациях, на…

  • Одержимость фигурами.

    Дамы и господа, Без лишних предисловий сим спешу сообщить, что мы являемся официальным спонсором талантливого шахматиста Сергея Карякина. По этому…


- сочетающий разум человека и гигантские вычислительные мощности суперкомпьютеров.
Думаю, что возможности ИИ сильно преувеличены.
Пока что даже переводчик не могут сделать.

Я тоже думаю, что гораздо больше перспектив открывается перед человечеством если использовать интеллект людей объединенных в сеть и гигантские вычислительные мощности суперкомпьютеров.

Не будет достигнута точка технологической сингулярности.
Хотя можно сказать и так. Эта точка уже достигнута. Люди уже столько продуцируют информации, что ее невозможно проанализировать.
И никаких трагедий нет.

Бог с ним с переводом. Адекватного распознавания речи нет ...

Для "адекватного распознавания речи" мало понимать, из каких звуков состоит речь. Нужно понимать её смысл!
Даже люди, слушая людей, часто переспрашивают - что-что? это в том случае, если не только слух не дал чёткого разбиения звука на смысловые части, но и _мозг_, быстро прикинув возможные варианты "что там могло быть в нерасслышанных как следует местах, проглоченных шумом звуках и невнятном бормотании", ответа не нашел.
В действительности, наше зрение гораздо хуже, чем мы считаем, а слух далеко не идеален, но мозг с помощью мощных систем распознавания, частью заложенных эволюционно, а частью наработанных жизненным опытом с первых дней существования, корректирует наши несовершенные чувства.
Мы, например, практически никогда не замечаем, что у человеческого зрения тоже есть глубина резкости. Редкие исключения, такие как пулевая стрельба с её размытием то ли мушки, а то ли цели, могут дать понять, что в действительности "вечно резкая и чёткая картинка" хорошо видящего человека есть лишь компиляция множества частично резких "снимков", творчески выполняемая его мозгом.

Вывод: распознавание речи и изображений есть, на самом деле, далеко не тривиальная задача, и во многом человек ещё долго будет превосходить машину.
Кажущееся превосходство компьютерных распознавателей в военной технике связано не с качеством распознавания, а только с тем, что им проще прикрутить распознавание ультрафиолета или инфракрасных лучей, а с человеком это несколько сложнее.

>Думаю, что возможности ИИ сильно преувеличены.

Сильно преувеличены возможности современной земной науки.

До примитивного ИИ еще несколько сотен лет - и то, только при условии, что довольно быстро создадут несколько отсутствующих на данный момент фундаментальных наук.

- несколько отсутствующих на данный момент фундаментальных наук.

Какие науки Вы имеете в виду?
Спасибо.

Науку о разуме он имеет в виду, уж наверняка.
Современная наука до сих пор не понимает, что такое осознание себя и как с ним бороться. :)
Машинный ИИ до сих пор работает по принципу предварительного программирования (включая имитацию самопрограммирования, которая, на самом деле, точно так же заранее запрограммирована). А любой машинный выбор есть не более чем имитация либо датчик "случайных" чисел.
Поэтому для начала нужно создать науку, которая изучит и сумеет воссоздать хотя бы биологический разум и его "чувство себя", то есть сознание.
Может быть, даже методом Лема: засунуть биологическую саморазвивающуюся систему в "чёрный ящик", дать нужные вводные и ждать, когда оно само как-то эволюционирует до нужного состояния, а потом изучить полученное.
Возможно, тогда и появятся пути к полностью машинному ИИ.

?

Log in

No account? Create an account