Вы читаете журнал [info]e_kaspersky

 
 
23 Январь 2012 @ 20:09
AV-Comparatives, мы - продукт года!  
Всем привет из Австрии!

У нас здесь очень неплохое начало этого путешествия (и этого года в целом) - мы получили награду Product of the Year от AV-Comparatives!!!




Теперь небольшой краткий ликбез о тестах.

1. Зачем вообще нужны тесты антивирусных (в широком смысле антивирусных) программ? Во-первых, для того, чтобы простой (и не очень простой) пользователь в момент раздумий и мучительного выбора индивидуальной (или корпоративной) защиты мог обратиться за истиной к авторитетному источнику. Во-вторых, чтобы всякие негодяи не орали что они "самые крутые и лучшие вшигонятельные средства", чтобы отвечали за базар! Отделять надо крикливый маркетинг от технических реалий. И, кстати, чтобы можно было следить за изменением качества защиты во времени - следить за тем, как разные вендоры успевают реагировать на новые компьютерные напасти - и как долго могут "держать планку". И в-третьих, чтобы производители защитных изделий не расслаблялись - чтобы держали себя в тонусе.

2. Тесты бывают разные. Бывают "правильные" - которые эмулируют реальные ситуации, настоящие заражённые сайты и поведение обычного пользователя. Эти тесты очень дорогие и проводятся очень редко. Посему наиболее распространённые тесты - "симуляция" заражённой среды и тестирование секюрити-продуктов не "целиком" - а по частям, например, тест детекта на миллионных коллекциях, тесты эвристик, тесты лечения заражённой среды и тп. Бывают и заказные ПР-тесты, результаты которых зависят не от качества тестируемых продуктов - а от корыстного интереса тестера (да-да, такие тоже бывают).

3. Одной из самых известных тестовых антивирусных лабораторий является австрийская команда AV-Comparatives под руководством Андреаса Клементи (Andreas Clementi) - он есть на фотках ниже, прошу любить и жаловать! Здесь проводятся самые разные тесты - как "правильные" с полной эмуляцией реальной среды, так и "частичные" по разному функционалу тестируемых антивирусов. Всего проводится 10 и более тестов и по их результатам определяется продукт года. Ура-ура! За 2011й год награда досталась нам! Особенно приятно, что это уже третий «Продукт года», который мы получаем с момента создания AV-Comparatives (неприятно, конечно, то, что не каждый год награда доставалась именно нам...)

Вот они мы - вместе с Андреасом и Никитой (руководитель Лаборатории Антивирусных Исследований в Лаборатории имени меня ;)







Понятно дело - сразу пресса и интервью.



Вот так выглядит сама лаборатория AV-Comparatives, выглядит весьма скромненько - но техники там на самом деле набито до чёрта.





А вот сводная табличка тестов AV-Comparatives за прошлый год.



Остальные фотки здесь.

4. Прочие награды за 2011. Мы очень напряженно работали - и в конце прошлого года собрали целый букет разных индустриальных наград:

4.1. Тест-центр AV-test.org под руководством тоже Андреаса, но Маркса, Германия. На этом фронте всех порвали KIS и наш новый корпоративный продукт KES. И это не просто победа, а абсолютный рекорд за всё время его существования и для всех вендоров! KIS пришёл к финишу со счётом 17, а KES8 – 17,5 (максимальный результат – 18, среднее по индустрии - 13,2). Кстати, тесты AV-Test.org широко тиражируются разными журналами: вот тут PC Welt свёл результаты топ-10 продуктов в одну таблицу, где сразу видно кто и как выступил. Вообще, наш отрыв в 1,5 очка от второго места – это очень-очень круто! Ура-ура!! Подробности тестов читать здесь и здесь.

4.2. Последний (декабрьский) VB100 для KIS и KES. Не, это не просто очередная медалька от Virus Bulletin, которых у нас хоть… ээээ… соли. Это был первый тест, проведённый по новым правилам, которые сразу вынесли за борт некоторых «завсегдатаев». Теперь тесты делятся на 2 части – обязательная (новые фичи: детектирование марвары по коллекции WildlistExt + работающее облако в on-demand сканировании) и «показательная» (RAP-тесты, на сертификацию VB100 не влияют). Подробности читайте в журнале, я же посылаю свой пламенный респект VB - «старичок» не стоит на месте, меняется и даже даёт «прикурить» приспособленцам – тем, кто заботится не о реальной защите, а о формальных результатах в тестах.

4.3. Немецкие Computer Bild и PC Welt - мы тоже на верхней ступеньке пьедестала И так далее.



5. Да, иногда мы как в спорте - не всегда приходим к финишу первыми. Иногда это наши косяки (разбираемся и исправляем), иногда - косяки тестеров (разбираемся, пытаемся убедить и изменить систему тестирования).

Короче, индустрия тестирования и участие во всех этих тестах - это действительно как в спорте. Чтобы побеждать - надо много тренироваться. Чтобы не дисквалифицировали - без допинга (есть в АВ-индустрии и такая тема...), но и упорный труд не всегда гарантирует победу... Но как же приятно стоять на самом верху подиума!!!
 
 
( 37 комментариев — Оставить комментарий )
Андрей Споров (Andrey Sporaw)[info]sporaw on Январь, 23, 2012 17:09 (UTC)
Первый н..
Ну вы поняли )
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 18:48 (UTC)
Не понял... Требую объяснится.
Андрей Споров (Andrey Sporaw)[info]sporaw on Январь, 24, 2012 20:05 (UTC)
Да все в порядке, Евегений. Поздравляю с успехом!

Тот комментарий из разряда "Я видел этот пост без комментариев", только чуть в другой форме )
Ilya Valiev[info]ilyavaliev on Январь, 23, 2012 18:25 (UTC)
Поздравляю Вас и всю компанию !!!!!
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 19:03 (UTC)
Спасибо! Принимаю!
Пацаны действительно очень здорово поработали.
Российские программеры - самые в мире. Да.
// кибер-мерзавцы, к сожалению, тоже...
100%Mors[info]uberlastung on Январь, 23, 2012 18:34 (UTC)
Поздравляю. Но всё же не понятно, как так плучается, что продукт далеко не во всех тестах попал в топ, а получается самым лучшим?!
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 19:07 (UTC)
Алонсо (ну, или Феттель) тоже не в каждой гонке побеждали. Но по результатам сезона становились чемпионами.
Andy[info]aviacherteg on Январь, 24, 2012 10:19 (UTC)
Поздравляю. Чо.
Вот только если бы корпоративщики смотрели на них.
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 19:08 (UTC)
Смотрят-смотрят! :)
Andy[info]aviacherteg on Январь, 24, 2012 19:28 (UTC)
Да. Только бы увеличить значимость этих наград в принятии решения.
1998-2000. И все награды по VB, а вот только корпоративная Америка не обращала внимания.
Ну это так из истории.
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 19:35 (UTC)
Корпоративная Америка смотрит не только на качество технологий и развесистость продуктов - но и на их происхождение, да...
denis_19[info]denis_19 on Январь, 24, 2012 15:03 (UTC)
Поздравляю! Очень правильная оценка работы Вас и Вашей команды за прошлые годы!
sv_rex[info]sv_rex on Январь, 24, 2012 17:56 (UTC)
Осталось объяснить, каким образом "ворье" умудряется занять второе место?
sv_rex[info]sv_rex on Январь, 24, 2012 18:11 (UTC)
речь про "Авиру"
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 19:13 (UTC)
Очень просто. Они показывают отличный результат в тех тестах, где гоняют "тестирование детекта по коллекции" (а в остальных тестах - так себе). Так вот, занимать первые места в тестах "on-demand" можно силами одного (ОДНОГО!) программера. Нужно только 1. договориться о поставках свежего малвара (это несложно), 2. написать робота, который будет сканировать новые файлы разными движками других антивирусных продуктов (это тоже совсем несложно), и 3. автоматом класть детект на все файлы, которые уже кем-то детектятся (это вообще школьник может соорудить).

Да, вот хороший пример из другого мира. Американские, Европейские, прочие фармацевтические компании вкладывают лимарды(!) долларов в разработку и "тестирование" разных новых таблеток. Проекты разработки новых лекарств у них длятся годами и десятилетиями. Индусы же тупо анализируют свежие препараты и тут же начинают штамповать ровно такие же. И поддельные таблетки ни по качеству, ни по эффективности не уступают "родным". Цена только у них почти бесплатная...

Edited at 2012-01-24 19:17 (UTC)
Андрей Споров (Andrey Sporaw)[info]sporaw on Январь, 24, 2012 20:07 (UTC)
Не самый лучший пример, точнее неправильно рассказанный. Generic'и часто имеют последствия ввиду невозможности создания "точной копии". Это я сейчас про лекарства.

Если бы это было не так, то рассказанное Вами отлично подходило бы под "А если то же самое - то зачем платить больше?" © Дося.
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 20:46 (UTC)
Ага, я в дженериках вообще никакой специалист. Если можно - поделитесь историями (линками) как скопированные (не поддельные, а именно скопированные) препараты имели побочные явления. Мне действительно интересно.
Андрей Споров (Andrey Sporaw)[info]sporaw on Январь, 24, 2012 21:07 (UTC)
Вот, почитайте эту статью:

Проблемы качества и терапевтической эквивалентности дженериков
http://www.mcfr.ru/journals/1/252/30637/30638/

Все как обычно: "подделки" - никогда не бывают такими же.
Андрей Споров (Andrey Sporaw)[info]sporaw on Январь, 24, 2012 21:08 (UTC)
Я добавил комментарий со ссылкой на статью, посмотрите.
Он скрыт сейчас из-за ссылки.
sv_rex[info]sv_rex on Январь, 24, 2012 20:36 (UTC)
А вот сводная табличка тестов AV-Comparatives за прошлый год.

Вы сами привели эту таблицу. И я четко наблюдаю в ней аж 9 столбцов. И у Авиры 6 "пятерок" и 3 "четверки", которые она набрала, попрошу это особо отметить, в хорошо отрекомендованной Вами же тестовой лаборатории. Да, действительно, есть столбцы "on-demand test" (Ваши объяснения про этот тип тестирования я помню), но что делать с остальными семью столбцами?

Edited at 2012-01-24 20:49 (UTC)
Евгений Касперский[info]e_kaspersky on Январь, 24, 2012 20:52 (UTC)
На сайте тест-лаба можно найти инструкции ко всем произведённым тестам - их и надо изучать. Мне сейчас рассказывать - поверьте! - просто некогда и лень. Возможно, что Авира очень старалась по остальным пунктам - и действительно они сделали хорошую работу. Не исключаю. Но самое главное (детект нового малвара) - они тупо тырят у других компаний.
[info]5evik on Январь, 26, 2012 06:40 (UTC)
AV-Comparatives
Евгений Валентинович в этом году AV-Comparatives сделала сразу два лучших антивирусных продукта 2011 года?
:P
Москва, 24 января 2012 г. Компания ESET, международный разработчик антивирусного ПО и решений в области компьютерной безопасности, сообщает о том, что в январе текущего года ESET NOD32 получил сразу две высшие награды – статус «Лучший антивирусный продукт 2011» от независимой тестовой лаборатории AV-Comparatives и 71-ую награду по итогам последнего тестирования британского журнала Virus Bulletin.

Статус «Лучший продукт года» лаборатория AV-Comparatives присуждает компаниям, чьи продукты показали наилучшие результаты во всех проведенных тестированиях за 2011 год. В прошлом году решения ESET NOD32 суммарно получили шесть наград «Advanced+», продемонстрировав высокую эффективность при обнаружении как известных, так и неизвестных угроз. Кроме того, антивирус компании ESET был отмечен в номинации «Скорость работы 2011» благодаря лучшим результатам по данному показателю среди конкурентов.

Еще одним достижением в самом начале 2012 года стала очередная, на этот раз уже 71-я награда в тестировании Virus Bulletin. Комплексное тестирование было проведено на программной платформе Windows 7. Испытание на эффективность обнаружения угроз прошли 54 антивирусных продукта. Компания ESET предоставила для тестирования пятую версию ESET NOD32 Антивирус, которая продемонстрировала отличный результат, опередив подавляющее большинство своих конкурентов и завоевав очередную награду VB100.

Также отметим, что антивирусные решения ESET удерживают мировой рекорд по количеству наград VB100 среди российских и зарубежных производителей антивирусных решений. В настоящее время ESET имеет 50 последовательных побед.

«Для нас большая честь получить столь высокие награды в двух международных независимых тестированиях в самом начале нового года, - комментирует Борис Грейдингер, директор по ИТ российского представительства ESET. – Статус лучшего продукта года от AV-Comparatives наша компания уже получала в 2006 и 2007 годах, и вдвойне приятно, что последние версии ESET NOD32 продолжают подтверждать качество наших решений высокими наградами».
http://www.esetnod32.ru/.company/news/?id=167448&year=2010

А Вы Richard Marko лично знакомы, он один всю LK ушатает, только нужно немножко время! :)
http://stream4.messe.de/dmag/popup/cebit2011/global_020311/index_flash.html
Евгений Касперский[info]e_kaspersky on Январь, 26, 2012 22:55 (UTC)
Re: AV-Comparatives
Я сам офигел от столь наглого вранья... Есет, конечно, врёт регулярно - но чтобы ВОТ ТАК - я очень удвилён. Честно - не понимаю в какой части тела у них мозг растёт. Ведь явную ложь можно легко распознать... Увы, в антивирусной индустрии всё больше мошенников становится. Увы.
sv_rex[info]sv_rex on Январь, 26, 2012 14:20 (UTC)
Ага, скрепя сердце и скрипя зубами, Вы таки признали, что у Авиры хорошая команда, способная создавать качественные продукты.
По последнему Вашему тезису. Помнится, Вы аргументировали его малостью штата их компании. Кроме этого, сугубо умозрительного довода, еще какие-нибудь аргументы есть?
Евгений Касперский[info]e_kaspersky on Январь, 26, 2012 22:50 (UTC)
Я не знаю размер и качество команды Авиры. Вообще никак не знаю. Вообще с ними не общался и знаком только поверхностно. Что точно знаю - они нагло тырят детект у всех подряд. Как результат - периодически выдают грандиозные фальсы. Не так давно они сами себя задетектили как троян :) Если нужны подробности - гуглить. Ну, например, "AVIRA detects itself". Если уж Вы так доверяете этому "продукту" - доверяйте во всём. Ага :)
sv_rex[info]sv_rex on Январь, 27, 2012 11:32 (UTC)
фальсы, так фальсы...
идем на сайт av-comparatives, кликаем False Alarm Tests
Лежит 5 отчетов.
Kaspersky Vs Avira
Коль "они нагло тырят детект у всех подряд", логично ожидать сокрушительного разгрома со счетом 5:0. Однако, Авира вполне достойно выступает, проиграв со счетом 3:2. А если просуммировать все ложноположительные срабатывания за 5 отчетов, то Авира выигрывает. У них 62 фальс аларма, у Kaspersky 72.
Евгений Касперский[info]e_kaspersky on Январь, 31, 2012 18:02 (UTC)
Без понятия почему 62-72. Может быть, что они исправляют быстрее. Может быть, что они быстрее узнают о фальсах на немецкий софт (поскольку немецкая компания - и тестеры тоже в Германии и Австрии). Или ждут несколько дней, прежде чем детект добавить - если файл задетектился (нами, например), а потом детект пропал - значит было ложное срабатывание, они этот файл просто не добавляют. Так что этот вопрос лучше Авире задавать - каким образом они добавляют новоё вирьё в базы и с какой скоростью.

А то, что они нагло тырят чужой детект - у нас есть доказуха за несколько лет. И как они "хавали" наши ложные срабатывания (которые мы не успевали быстро исправить), и как они детектили тестовые "пустышки" тоже есть.
sv_rex[info]sv_rex on Февраль, 1, 2012 08:34 (UTC)
А какова процедура отмены детекта в Вашей компании?
Helgin[info]helgin on Январь, 31, 2012 15:53 (UTC)
Обратите внимание на столбик -Whole Product Dynamic Test - стенд сфоткан сразу над таблицей.
В этом тесте установленные продукты получают свежую ссылку со свежей малварью (вредоносным сайтом) и считается результат - пробило или нет.
В этом тесте важны и облака для скорости блокировки, и эмуляторы и эвристики и так далее.
Это самый вообще правильный вид теста на настоящий момент- он 100% повторяет опыт пользователя.
Removal тест - тест на обнаружение и удаление сложных руткитов уже заразивших систему. Тут надо писать сложные инструкции и утилиты. Нередки случаи выпуска обновленных драйверов для борьбы с заковыристыми гадами.
sv_rex[info]sv_rex on Февраль, 1, 2012 08:37 (UTC)
Ага, у Kaspersky "отлично", у Авиры - "хорошо".
Просто Человек[info]Просто Человек on Январь, 26, 2012 11:08 (UTC)
Красавчики, пользуюсь только вашими продуктами, и всем знакомым советую. Остальным не доверяю.
Евгений Касперский[info]e_kaspersky on Январь, 26, 2012 22:51 (UTC)
Спасибо! Я тоже только так делаю.
priest_alexandr[info]priest_alexandr on Январь, 29, 2012 19:41 (UTC)
Примите мои поздравления, и вопрос..
Все понятно с тестом и его результатами, это несомненный успех и многообещающие возможности в будущем. Но самый мой актуальный вопрос - почему в этом тесте отсутствует продукция COMODO? Или она вне конкуренции скорее всего.
Ведь только они дают гарантию на свои коммерческие продукты и гарантируют выплату 500$ если компьютер с их продуктом был подвергнут вирусной атаке и клиент получил от этого какой либо урон.
Ну и об этом мы уже говорили - у них круглосуточная поддержка специалистов.
Не считая полноценного бесплатного Internet Security для частного пользования.
Простите.
Евгений Касперский[info]e_kaspersky on Январь, 31, 2012 17:57 (UTC)
Re: Примите мои поздравления, и вопрос..
Почему Комодо не тестируют - это вопрос к тем, кто эти тесты проводит. Пишите Андреасам (Марксу в Германию и Клементи в Австрию).

Гарантия $500 - это очень сильно попахивает очередным "разведением кроликов". Типа "вот таблетка от всех болезней, а если вдруг заболеете - мы вам деньег в 20 раз больше вернём!". Кстати, а такие случаи уже были или нет? Защитить на 100% - это невозможно ни практически, ни теоретически. Т.е. наверняка должны быть "залетевшие". Назовите хоть одного, кто получил эту выплату, ага?

По поводу полноценного Интернет-секюрити... Мне что - надо посмотреть внимательно на этот Комодо? Только я не уверен, что авторам Комодо это сильно понравится - я ведь правду расскажу...
priest_alexandr[info]priest_alexandr on Январь, 31, 2012 18:05 (UTC)
Re: Примите мои поздравления, и вопрос..
Евгений, благодарен Вам за ответ.
Но я не знаю никого кто бы с COMODO во что-то вляпался.
А я ставлю его всем знакомым, кто просит настроить комп.
Потому и не скажу о выплатах, но поскольку они занимаются выпуском продуктов для крупных коммерческих компаний, то скорее всего это не развод, а горькая правда.
Евгений Касперский[info]e_kaspersky on Январь, 31, 2012 19:22 (UTC)
Re: Примите мои поздравления, и вопрос..
Вы меня интригуете... "Для крупных коммерческих компаний" - назовите, плиз, штуки три из Fortune500, коие являются клиентами Комодо? Хочу узнать "горькую правду" - кстати, для кого она горькая? :)
( 37 комментариев — Оставить комментарий )