Автор Тема: О тестерах и бенчмарках  (Прочитано 2159 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« : 19, Августа 2013, Понедельник, 14:40:14 pm »
Недавно столкнулся с интересной ситуацией. Чего-то не пошло в планшете, звоню знакомому журналисту из гаджетного издания за консультацией, а он мне и говорит, что устройств приезжает на тест много и времени на тестирование нет. Поэтому придумали для себя интересный выход - прогоняют несколько бенчмарков, скриншоты и вуаля - обзор готов.

Как по мне, это некая халтура.

Во-первых, бенчмарки конкретного устройства не меняются от писателя к писателю и по сути это обезьянья работа. Во-вторых, сами бенчмарки запятнали свою репутацию последними скандалами. В-третьих, не просматривается прямая связь между бенчмарками и потребительскими свойствами тестируемого устройства. Тот же Intel показывает неплохие цифры, а приложение может и не запуститься.

Попробовал спросить у местных писателей про смысл увлечения бенчмарками, обиделись. :'(
#Приватбанк фашисты. В нём ненавидят людей старшего возраста


Оффлайн stormrs

  • Знаменитый писатель
  • ***
  • Сообщений: 6226
  • Пол: Мужской
    • Награды
О тестерах и бенчмарках
« Ответ #1 : 19, Августа 2013, Понедельник, 14:45:37 pm »
Может с ними помягче надобно? :-[


Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« Ответ #2 : 19, Августа 2013, Понедельник, 14:47:17 pm »
Samsung фальсифицирует результаты тестов Galaxy S4

По сообщению сайта AnandTech, в международной версии Samsung Galaxy S4 встроен код, который искусственно завышает показатели продуктивности при работе определённых программ для тестов.

При запуске бенчмарков AnTuTu, Linpack, Benchmark Pi и Quadrant графический процессор Exynos 5 Octa начинает работать с частотой 533 МГц, хотя при обычном использовании владелец телефона не сможет получить частоту более 480 МГц. Samsung отвечает на обвинения в официальном блоге, утверждая, что показатели, наоборот, нарочно занижаются для обычных пользователей, чтобы не перегревать устройство.

Тесты американской версии смартфона не выявили расхождений — частота не может превысить 480 МГц даже в играх.

Исследователи обнаружили фрагмент кода, озаглавленный «Benchmark Booster» (англ. «Ускоритель для тестов»). При запуске названных программ тестирования, процессор разгоняется до 533 МГц. По словам авторов исследования, в коде оставлена лазейка, позволяющая в дальнейшем расширить список задействованных бенчмарков. Благодаря этой строчке кода, Samsung Galaxy S4 может получить нечестное преимущество в сравнениях с телефонами других производителей.

Такие фальсификации обширно используются и на рынке ПК. Ранее в обмане были уличены ATI и Nvidia. Издание AnandTech утверждает, что мобильная индустрия будет полностью повторять развитие индустрии ПК, поэтому вовсе не удивительно видеть эту «оптимизацию».
#Приватбанк фашисты. В нём ненавидят людей старшего возраста

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« Ответ #3 : 19, Августа 2013, Понедельник, 14:51:54 pm »
Может с ними помягче надобно? :-[
Мягче не нужно, всё-равно не оценят. Вся эта машина "независимого" тестирования превратилась в продолжение пиар-политики, только другими методами. не прямыми. Точно также, как вытирание плохих отзывов и написание хороших на сайтах интернет-магазинов.
#Приватбанк фашисты. В нём ненавидят людей старшего возраста

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« Ответ #4 : 19, Августа 2013, Понедельник, 15:19:56 pm »
Ну очень информативный тест
#Приватбанк фашисты. В нём ненавидят людей старшего возраста

Оффлайн stormrs

  • Знаменитый писатель
  • ***
  • Сообщений: 6226
  • Пол: Мужской
    • Награды
О тестерах и бенчмарках
« Ответ #5 : 19, Августа 2013, Понедельник, 16:22:24 pm »
А чё, красиво :o

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
#Приватбанк фашисты. В нём ненавидят людей старшего возраста

Оффлайн stormrs

  • Знаменитый писатель
  • ***
  • Сообщений: 6226
  • Пол: Мужской
    • Награды
О тестерах и бенчмарках
« Ответ #7 : 19, Августа 2013, Понедельник, 17:05:42 pm »
Вот видишь — значит людям нравится! 8)

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« Ответ #8 : 23, Августа 2013, Пятница, 18:38:22 pm »
BDTI разработает абсолютно новую систему измерения производительности устройств

Зачастую производительность и время автономной работы смартфона или планшета не совпадает с данными, заявленными компанией, изготовившей устройство. Тесты, используемые для оценки параметров электронных устройств, несовершенны. Исправить ситуацию взялась компания Berkeley Design Technology (BDTI), которая собирается разработать совершенно новую систему тестов. Она будет основываться на «пользовательском опыте», то есть на том, как человек использует свой смартфон или планшет, а также на характеристиках устройства.

На основании этих данных будут составляться «режимы использования», например, просмотр веб-страниц, видео, телефонные звонки и так далее, производительность в которых и будут оценивать новые бенчмарки. «Когда мы посмотрели на тесты, которые люди используют, мы были просто напуганы тем, насколько плохи некоторые из них. Мы увидели возможность для улучшения ситуации и возможность обеспечить промышленность лучшей метрикой», — сказал Джефф Биер (Jeff Bier), президент и основатель BDTI.

Важность методов измерения производительности электронных устройств трудно переоценить, ведь зачастую при продвижении своих продуктов компании используют результаты различных тестов, стараясь таким образом показать превосходство своих решений над решениями конкурентов. Однако производители используют разные методики оценки, в результате чего сравнение получается необъективным. Кроме того, многие бенчмарки не отражают реального положения вещей. BDTI же хочет разработать объективную систему оценки, которая стала бы неким промышленным стандартом. Джефф Биер сравнил оценку производительности смартфона с оценкой мощности автомобиля, при которой во внимание принимается качество топлива, шин и другие характеристики. То есть BDTI предлагает комплексный подход.

С необходимостью создания подобных бенчмарков согласны все участники индустрии, кроме, пожалуй, маркетологов. «В последние десять лет бенчмарки были в ужасном состоянии», — говорит Патрик Мурхед (Patrick Moorhead), основатель и президент Moor Insights and Strategy. — «Тесты вводят потребителей в заблуждение, в результате те покупают не то, что хотели. Многие бенчмарки синтетические по своей природе, они не в состоянии соотнести показатели тестов с реальными моделями использования. Другими бенчмарками легко манипулировать».

BDTI не собирается использовать в своих тестах отдельную оценку процессора и графической системы, так как каждый из этих показателей в отдельности не отражает реальной производительности и не учитывает реальных сценариев использования. Например, графическая подсистема может быть достаточно мощной, но из-за высокого разрешения экрана мощности хватать не будет.

О популярном бенчмарке AnTuTu Джефф Биер отозвался как о чрезвычайно закрытом и непрозрачном. Кроме того, бенчмарк AnTuTu недавно был разоблачен аналитиком Tirias Research Джимом Макгрегором, который наглядно показал противоречивость результатов. Впрочем, в AnTuTu Labs критику назвали клеветой.

BDTI планирует выпустить свой бенчмарк в начале следующего года. Компании уже удалось привлечь таких партнеров, как Qualcomm и Tencent. При этом BDTI не хочет создавать консорциум, так как, по мнению Биер, их работа неэффективна. В последний раз компании объединялись для создания эффективного бенчмарка в 2011 году. Попытка завершилась провалом, AMD вышла из консорциума BAPCO из-за разногласий по поводу методов измерения.
#Приватбанк фашисты. В нём ненавидят людей старшего возраста

Оффлайн Сергей Горбачевский

  • Administrator
  • Знаменитый писатель
  • *****
  • Сообщений: 84843
  • Пол: Мужской
  • Есть вопросы? Пишите в личку
    • Награды
О тестерах и бенчмарках
« Ответ #9 : 01, Октября 2013, Вторник, 20:58:17 pm »
#Приватбанк фашисты. В нём ненавидят людей старшего возраста


Теги: