Искусственный интеллект. Осторожно: разводка! 

Previous Entry Поделиться Next Entry
7 июня, 2016
e_kaspersky
Искусственный интеллект… Как много в этом звуке слилось для сердца программиста, любителя научной фантастики и просто интересующегося судьбами мира!

Благодаря лучшему другу человека роботу R2-D2 и зловещему Скайнету, Космической одиссее-2001 и андроидах, мечтающих об электроовцах, в мире очень много искусственного интеллекта. Его можно встретить в книжках, на киноэкранах, в комиксах и … в рекламных материалах недавно появившихся, но амбициозных секюрити-компаний. Единственное, где его (возможно, пока) нет даже близко – в нашей банальной повседневной реальности и реальной повседневности.

ai_oil1
"Автоматизация – друг, а не враг". Что за история у картинки? Взял здесь

Со времен Алана Тьюринга и Норберта Винера вычислительные машины прошли огромный путь. Они научились (точнее их научили) играть в шахматы и го лучше людей. Они управляют самолётами и автомобилями, пишут газетные заметки, ловят вирусы, и делают массу других полезных и иногда не очень вещей. Они даже (вроде бы) прошли тест Тьюринга на способность мыслить. Однако чат-бот, изображающий 13-летнего подростка, и больше ничего не умеющий – это просто алгоритм и набор библиотек. Это не искусственный интеллект. Кто сомневается – см. определение "ИИ", потом см. определение "Алгоритма", а потом см. отличия.

Сейчас в мире очередная волна интереса к ИИ-теме, уж не знаю какая по счету.

Модные оксфордские философы пишут книги об искусственном интеллекте. Основной вопрос: что же, блин, случится с Родиной и с нами, когда (и если) такая вещь будет создана? Что там, внутри технологической сингулярности? Полный и окончательный аллес капут или райские кущи? В данном случае философ настроен пессимистично и считает, что а) ИИ будет изобретен и б) человечеству от этого, скорее всего, придет хана.

Там в книге автор ещё опросил экспертов в сфере ИИ, и у них получилось, что существует 50% вероятность создания искусственного интеллекта к 2040-му году и 90% вероятность к 2075-му. Это довольно забавная игра в вероятности. Как встреча на улице с динозавром. Либо встретишь, либо нет, фифти-фифти. Либо создадут ИИ, либо не получится. Ну и к 2075-му либо шах, либо ишак точно сдохнет, и обсуждать проблематику ИИ будут уже другие люди.

Однако один логический вывод из всего этого вполне можно сделать: пока настоящего ИИ точно не существует.

Я недавно был в Южной Корее, и меня местный журналист несколько раз спрашивал об искусственном интеллекте в кибербезопасности. Я дал гневный отпор. Потому что я не вижу смысла говорить о том, чего нет.

Искусственный интеллект должен уметь сам учиться, адаптироваться, принимать решения в совершенно новых ситуациях с непонятным набором разноформатных вводных данных. При этом он должен иметь внутреннюю мотивацию и передавать изменения в конструкции своим наследникам.

Собственно, именно в момент, когда машины, достигшие интеллектуального уровня человека, научатся делать ещё более умные машины, а те – ещё более умные, и так по экспоненте, и случится взрыв интеллекта и конец истории человечества, как мы её знаем. По крайней мере, так говорят футурологи.

Но когда это случится? Раньше ли, например, чем групповой полёт на Альфа-Центавру?

ai_oil2Источник

Посмотрим, до 2075-го и даже до 2040-го время пока есть!

Однако если вернуться в земной 2016-й, то, как я писал выше, основное место обитания ИИ – это популярная культура и маркетинг. В предыдущем обзоре эволюционных процессов мира кибербезопасности я уже писал об этом: сегодня всё больше мелких и не очень контор пытаются продавать всякое фуфло под видом лекарства от всех киберболезней, налепив на свои свистелки и перделки гордое знамя ИИ.

К сожалению, глобальная волна интереса к этой тематике означает не только новые научные проекты, например, в области нейронных сетей. Ещё она выбрасывает на берег грязную пену и мутную жижу.

Говорят, что уже есть не только истребители, но и водка пятого поколения. И часто слышишь, что и в мире кибербезопасности на костях динозавров и останках спрутов на наших глазах пробивается крепкая молодая зелень. Это nextgen продукты, обеспечивающие невиданную точность обнаружения малвари с помощью продвинутого искусственного интеллекта.

Так вот, если вам рассказывают что-то в этом духе – то я бы рекомендовал немедленно открывать огонь на поражение насторожиться. Можно поинтересоваться у румяных энергичных продавцов, как они оценивают свои перспективы в плане многочисленных Нобелевский премий? Спасибо им сказать. Все-таки, величайшее изобретение в истории человечества, а скромняги решили в кибербезопасности применить его для начала. Прежде чем мир перевернуть. Кстати, любопытно насколько хорошо этот ИИ проходит тест Тьюринга? Хотя бы в роли 13-летнего подростка из Одессы получается кого-то убедить в своей интеллектуальности?

Удовлетворительных ответов на эти вопросы вы не получите. Потому что пока никакого ИИ не существует. Снова и увы.

Что действительно существует – это машинное обучение. Такие технологии используются очень много где и уже почтенно давно. В кибербезопасности, например, роботы делают очень много вещей. Они находят и идентифицируют малварь, анализируют ее, создают "репеллент", тестируют его, распространяют, делая частью защиты. Всё это происходит сотни тысяч раз в день в автоматическом режиме. Роботы при этом учатся, детект непрерывно корректируется и улучшается. Какие-то крохи, доли процента, люди разгребают руками.

Искусственный ли это интеллект у нас на работе? Нет, это просто компьютерные алгоритмы, в нашем случае, очень хорошие, написанные с высочайшим профессионализмом, талантом и любовью к борьбе с кибернегодяйством. Называть это ИИ было бы умышленной подменой понятий.

Если же вам на полном серьёзе продают самосовершенствующийся ИИ, который должен защищать ваши компьютеры от всех угроз, то перед вами люди, вообще не понимающие, о чём они говорят. Либо заведомые мошенники. Третьего, как говорится, не дано..

В общем, если кто-то изобретет ИИ, то как только об этом станет известно широкой публике, это окажет колоссальное влияние отнюдь не только на небольшую (но очень важную) отрасль кибербезопасности. Можно пытаться продавать семейные седаны эконом-класса, называя их космическими кораблями Ностромо, но летать от этого они выше не научатся. И, как бы ни хотелось обрести абсолютную защиту прямо здесь и сейчас, самообман никогда ни к чему хорошему не приводил. А кормить дилеров фуфла как-то и вовсе незачем.



Previous Entry Поделиться Next Entry

Записи из этого журнала по тегу «humachine»

  • Рекламная энтомология.

    Само собой разумеется, что мой e-mail весьма подвержен спаму. Долгие годы раздачи визиток направо и налево, «засвечивания» адреса в публикациях, на…

  • Одержимость фигурами.

    Дамы и господа, Без лишних предисловий сим спешу сообщить, что мы являемся официальным спонсором талантливого шахматиста Сергея Карякина. По этому…

  • Миллиард в облаке.

    Не так давно хорошие наблюдательные пользователи засекли "миллиард" в нашей базе и поздравили меня с этим событием. Спасибо! Но надо объясниться -…


Страница 1 из 2
<<[1] [2] >>
не изобретёт никто ии, в обозримом будущем
ресурсы необходимы совсем другого порядка

ИИ в существующем виде

jumper_alpha

2016-06-07 14:14 (UTC)

имеет такое же отношение к интеллекту, как палочка слепого к зрению, даже, наверное, меньше :)

Интереснее иное ( я вам писал о проекте "Солярис") - при реализации предположительно пробудится и будет эволюционировать коллективный разум, в котором мы будем выполнять роль нейронов, возникшая личность будет иметь к нам такое же отношение, как обычные нейроны к мозгу. Интернет впервые в истории человечества дает такую возможность. Это намного интереснее, чем впаривать дуракам-потребителям пылесос с ИИ. Но, финансово убыточно. Почему всё интересное - убыточно?:):):)

Edited at 2016-06-07 14:15 (UTC)

Re: ИИ в существующем виде

e_kaspersky

2016-06-08 21:48 (UTC)

> имеет такое же отношение к интеллекту, как палочка слепого к зрению

Очень хорошо.
С Вашего позволения, буду использовать как аргумент.

(Удалённый комментарий)
Интернет станет ИИ тогда, когда на запрос обывателя "есть ли Бог", ответит - "теперь есть!" и отключит пользователя от систем жизнеобеспечеия...

Евгений, у меня к вам серьезный вопрос как специалисту.
В последнее время под ИИ чаще всего подразумевают "самообучающиеся нейронные сети". НС действительно хороши для широкого класса задач: нахождение похожих на образец изображений, звуков, текстов и тд.

Но, многие утверждают, что НС могут совершить революцию в промышленной робототехнике! Мне понятно как НС применить для поисковой машины, но не совсем ясно, каким образом она может помочь в робототехнике. Мы же не можем сказать роботу: возьми предмет, похожий на болт и заверни в отверстие, похожее на место для этого болта. Инструкция должна быть точной: возьми вот это конкретный болт и заверни в это конкретное отверстие!

Как робот поймёт, что на поддоне именно болт, никакой ошибки? Как робот поймёт, что отверстие походит на нужное? Как робот поймёт, что в его шарнире нарастает люфт, и надо бы пожаловаться ремонтнику? Пока всё всегда хорошо, НС и прочие хитрости не нужны. Чем больше всякой всячины может идти наперекосяк, тем больше появляется сначала "задач совместного обнаружения и различения" этой всячины, а потом и задач прогнозирования.

Ещё есть задачи управления конфигурациями, и там тоже есть место для сбоев и ошибок.

ИИ-это Механический Бог. Почему? Потому что обычный разум человека примитивен, человек живёт по алгоритмам, привычкам, образам, понятиям.

Теоретически возможно, такой механический бог когда будет изобретен - наступит хана человечеству. По крайней мере господству человека на Земле)

Что не говорили,по настоящему независимая личность как человек набор микросхем с программным кодом нельзя назвать личностью.Независимое существо.
И точка!
Можно сделать подобие имитатор,по типу говорящей головы котрая в зависимости от программы своей зашитой что то там бякает вслух - это нельзя назвать Искусственным Интеллектом.


Даже некоторые вполне живые, и типа разумные, люди вполне подходят под определение "говорящая голова".

(Удалённый комментарий)
Его и живого-то с трудом найдёшь. Критерий "интеллект --- не интеллект" не должен записывать в животные 99.9% человечества.

(Удалённый комментарий)
(Удалённый комментарий)
Статья в стиле "камни не могут падать с неба, им там неоткуда взяться".

Автор не специалист, ему простительно.
Тащемта, нет ничего плохого в популяризации концепций из CS.
Причем каждый читатель всегда может по быстрому реализовать нейронную сеть или генетический алгоритм, скажем, и поиграться.

Потребители будут спать спокойнее, если будут думать, что их информация в безопасности. Остальное - удел специалистов по безопасности.

Любой человек, который видел баг трекер хоть одного более менее крупного проекта, может быть уверен на тему невозможности создания ИИ. Если и наступит конец истории человечества, то исключительно в силу человеческой же ошибки: исходный код криво смержат или датчик угловой скорости верх ногами молотком забьют.

Дальше должна была бы быть шутка про Билла Гейтса, исходники Виндовз и конец света.

(Удалённый комментарий)
The problem with the AI is that once it solves some problem, it is no longer called AI :)
Как самолетам не надо махать крыльями, чтобы летать быстрее и выше птиц, так и AlphaGo, Watson или Google Search не надо обладать когнитивными способностями для социума, чтобы решать некоторые интеллектуальные задачи лучше людей.

Некоторые. ИИ в теперешних технологиях - это условное понятие, не имеет ничего общего с классическим термином. Действительно, кажется что для понтов в сегодняшнем обиходе разбрасываются модной фразой "ИИ". Даже гибридный ИИ (человеческий мозг синтезирован с суперкомпьютером, как в фильме Превосходство) - будет вообще решать все и сразу - но это лишь в теории) Моя же фантазия фантаста - любителя подсказывает, что будут ИИ разного уровня.

Отличная статья, Евгений!

Гораздо перспективнее чем ИИ - это совместная работа человеческого интеллекта.
Люди, обладающие библиотеками и объединенные в сеть. Это МегаМозг.

Чисто физически ИИ уже есть. Количество транзисторов в любом передовом процессоре в десятки и в сотни раз превышает количество транзисторов в голове любого из нас. Про память машин и ее свойства вообще молчу, тут человек проигрывает, все и сразу.

Так что задачу осталось решить лишь програмно и все го то надо большой, очень большой бюджет и разносторонние исследования.

По какому пути пойти, что бы так и создать его?

Пожалуй главный вопрос и лежит он скорей всего в исторической плоскости. Иными словами, трудно назвать обезъяну интелектуалкой, а следовательно понимание как и почему обезьяна, так и превратилась в человека, полностью ответит на вопрос из чего и как выростает интелек. Ответ лежит в человеческих языках в коммуникации, что собственно и отличает нас от обезъян.

Дайте мне миллион долларов и я научу компьютер не отличаться от человека, дайте миллиард и человек вобще станет не нужен, вы застрелитесь сами, от осознания своей ущербности. Ну а покорять марс и вселенную, будут уже машины.


Да в общем, нет.

Дофига задач, которые сейчас алгоритмы deep learning делают лучше, чем человек.

Этих задач будет становиться все больше.

И большая часть того, что делают люди-"безопасники", как defensive, так и offensive, сюда войдет очень быстро.

Watson вон уже учат читать статьи про malware на человеческом языке и выделять семантические описания. А это очень экзотическая, побочная и далеко не самая простая штука.

каспердыч - просто гениальный копетан очевидность, браво.

Страница 1 из 2
<<[1] [2] >>
?

Log in

No account? Create an account