现今智能电视功能繁多、开发复杂,若只仰赖瀑布式(Waterfall)的质量确认流程,容易因前面环节的推迟影响测试时程和内容,导致未能发现产品重大缺陷或来不及修复,进而衍生出产品延后上市、客诉层出不穷的窘境。

为了协助客户解决市场风险,百佳泰运用敏捷式(Agile)迭代(Iteration)概念,搭配探索性测试(Exploratory Testing)战略,让电视产品无论是在开发前、中、后期甚至是上市后,皆能对产品进行客制化弱点分析及策略规划,百佳泰更会在测试执行期间与产品开发团队紧密合作、实时提出建议,让后续的产品开发与检测时程上有更多的调整与应变空间。

图:瀑布式(Waterfall)与敏捷式(Agile)测试架构的流程比较

至于什么是探索性测试? 以及如何建构出高效的测试战略,让产品检测达到事半功倍的效果? 我们将在本篇文章中为您一一说分明。

从「探索」中找出问题落点,从「测试」中分析关键问题

如果你曾经看过Netflix上的超人气赛车影集「Formula 1:飙速求生」,相信你绝对会对F1顶尖车队的团队策略和专业分工感到印象深刻。例如像是机械工程师的性能调校、策略组的沙盘推演、车手的意见回馈及电光石火的进站换胎等等,哪怕是比赛途中突然间遭逢「雨战」,无时无刻都在考验着车队上下的团队合作和应变能力。

而探索性测试的概念就好比一支训练有素的F1专业团队,比赛前,运筹帷幄的策略小组会调查现况制定最佳策略;比赛中,身经百战的车手则依场上实际状况执行战术和临机应变,最终一同在赛后分析结果做为下一场赛事的学习与参考,整个赛季周而复始。其中,策略的制定与执行并不是呆板的一个步骤一个动作,而是能够举一反三、灵活运用!因此,高效的探索性测试着重于分析者与测试者的实务经验,唯有制定对的方向并搭配丰富的测试经验,才能有效率地探索并找出关键问题!搞懂了探索性测试的基本概念后,接下来带你进一步比较探索性测试所带来的效益及应用时机。

基本检测还不够? 加上探索性测试深入挖掘产品潜在问题

假设在相同的「情境结构」与「测试时间」基准的前提下,我们从下方的测试节点模拟比较中可以看出:相较于过往的基本测试,探索性测试是依据产品现阶段所发现到的问题并凭借测试者的经验,针对「高风险方向」的重点问题进行更深入的探索,再从中挖掘潜藏在产品中的严重问题。

图:探索性测试与基本测试之模拟比较图

从比较表可知,探索性测试并非用来取代一般的基本检测,而是需要彼此相辅相成,互相搭配,才能在产品测试阶段发挥最大的综效。因此,通常建议在以下的应用时机执行探索性测试:

正在开发中的产品:执行完基本检测后,再针对容易发生问题的部分执行探索性测试,找出潜在的严重问题。

新增产品功能或有重大修正:针对相关功能执行探索性测试,确认有无潜在问题。

已上市产品:根据客诉问题或使用者回馈,执行探索性测试以有效改善质量。

 

百佳泰探索性测试服务4阶段 全方面评估+客制化测试让产品问题无所遁形

百佳泰团队以第三方的角度与立场,凭借在电视检测领域多年经验,可提供最专业的探索性测试服务:

Step 1 了解:执行测试前和客户沟通与讨论,从产品规格/测试问题列表/用户回馈等数据中了解目前重点问题。

Step 2 设计:将数据加以分析后,针对关键设备、情境、检查要点拟定测试策略及范围目标。

Step 3 执行:由拥有丰富测试经验的团队依据拟定好的测试策略执行探索测试。

Step 4 分析:根据测试结果提供分析与建议报告。

实测案例分享

测试背景

该名客户已自行对自家电视产品进行基本检测,但产品上市后依旧收到如雪片般飞来的客诉问题,当中很多问题在产品上市前未曾被发现,于是决定委托百佳泰针对该产品进行客制化检测,期望找出造成质量缺陷的关键原因。

测试规划

由客诉问题可初步判断,产品在HDMI、Bluetooth、Wi-Fi等功能上皆有问题,百佳泰团队随即根据客户提供的问题清单及市场用户回馈,分别就关键设备、情境以及检查要点,制定探索性测试之策略与方向。

客诉问题举例

  1. 接上蓝牙耳机,使用了一段时间后,开始发生声音断断续续、杂音或不同步的问题。
  2. 在某些设定组合下,电视喇叭与音响设备会有声音输出/切换不稳定、兼容性问题。
  3. 只要串接上蓝牙声音设备,或是切换串流平台、电视开关机…等操作下,就会有黑画面或是严重的影像问题。
  4. 某些连接情境下,HDMI-CEC之One Touch Play和Power on Device from TV功能异常。
  5. 连接上某些市场主流的HDMI-CEC设备时会有辨识异常或是整体装置列表显示异常/不同步的现象。
  6. 无线网络联机在开关机后,某些条件下会有联机异常/状态显示异常。
  7. 背板插槽设计不良,导致有些外部插拔装置无法顺利插入。

测试结果

整体来说,在只有一台DUT的情况下,百佳泰仅花5个工作天便找到26笔问题,并依据问题的严重程度分成四个等级(见下表),其中Critical 加上Medium的问题就足足累积了19笔,合计占比高达 73%,以一个已上市多时的产品而言,质量可说是相当不稳定。

在问题类型分布方面,除了当初主要测试的HDMI、Wi-Fi及Bluetooth等问题外,透过探索性测试竟还另外找出Sound、UX/UI、Picture(画质) 等共15个问题,占了整体问题数量的58%,其中Sound和Picture更是有5个Critical等级的问题,这结果是客户始料未及的。

图:探索性实测案例:问题类型分布

而在机构设计部分,由于该产品在开发设计规划时未考虑到部分功能需与其他外部插拔装置做搭配使用(如下图),导致无法顺利使用,除了影响使用者体验外,长期使用下最坏的情况甚至有可能造成产品部分功能毁损。此问题虽然并未归类在Critical等级,但以用户体验角度来说也是至关重要的一环。

建议与方针举例

百佳泰依据测试结果及多年的测试经验,提供客户以下建议:

兼容性建议:单单使用几台Soundbar/AVR/Headphone就有如此多的问题,市场上恐怕已有为数不少的兼容性问题正在发生,建议进一步执行大规模HDMI/Bluetooth音响或耳机设备(至少150+台以上)之兼容性测试,才能确保产品兼容性无虞。

产品功能基本面建议:虽然客户已自行经过检测才将产品上市,但我们发现许多HDMI基本协议功能皆有问题,建议针对HDMI Logo认证测试方向做进一步调查,找出问题根本。

机构设计及用户接口建议:有些机构设计未考虑周边产品搭配性问题,且用户接口也未整合优化,建议针对市占率较高的周边产品及主要竞争电视产品进行相关检测及设计改善,全面提升市场竞争力。

透过上述的真实案例可知,若想要尽可能地避免产品在上市后产生大量客诉,进而影响公司商誉,建议可以在产品开发阶段就搭配「探索性测试」,及早找出产品潜在问题和设计缺陷,在产品上市前适时修正问题,减少客诉机率。

百佳泰拥有30年以上的测试验证经验,多年来致力于研发创新检测服务,协助客户解决各式产品问题,若您想更进一步了解,或是有相关产品验证需求,欢迎您透过在线窗体与我们联系。百佳泰服务团队将诚挚为您服务!