专业人士都在用的调研平台

答题速度与答题质量有必然联系吗?

调研家SurveyPlus
2022-03-29

原创作者:胡婧炜

 

网络调查作为一种由受访者完全自主填答的访问方式,在整个访问过程中都没有访员现场监督管理,这导致很多人担心受访者会敷衍行事草率答题。为了检测受访者有无认真答题,答题时长或答题速度成为了网络调查中常用的一个质量控制指标。试想,如果一个受访者只是想草草完成任务了事,而不是深入地去思考每一道题目的答案,那么他们的答题速度一定更快,所花费的答题时间一定更短。

 

图片来自网络

 

然而,我们一定都有这样的体验,那些做事麻利迅速的人,事情并一定做得更差。那么,答题速度快的受访者,一定就没有认真答题吗?答题速度与答题质量之间有必然的联系吗?今天我们就来介绍一下Zhang与Conrad(2014)关于这一问题所做的研究。

 

01
研究背景:答题速度快=答题不认真?

 

答题速度快等同于答题不认真吗?这是一个有趣的问题。至少在过往的研究中,并不是人人都同意这一点。研究主观态度的一些心理学学者发现,答题速度更快的受访者,通常是那些主观态度更稳定的人,而主观态度稳定通常意味着更好的答题质量。研究调查方法的学者也指出,更好的问卷设计和更优的答题流程,有助于减少受访者的答题负担,提高受访者的答题速度,缩短受访者的答题时长——也就是说,受访者答题速度快并不必然是胡乱答题所致,还可能是调查设计合理有效的结果。

 

图片来自网络

 

然而,这些研究并没有直接检查答题速度和答题质量之间的关系。为了能更明确地解答这一问题,Zhang与Conrad开展了他们的研究。

 

研究设计:如何衡量答题速度与答题质量?

 

答题速度快慢是一个相对主观的概念。什么样的答题速度可以称之为快,什么样的答题速度可以称之为慢?Zhang与Conrad在他们的研究中将答题速度超过300毫秒/单词定为超速,这个速度大抵相当于人们阅读的速度。作者认为,如果受访者答题超过了阅读的速度,他们必然没有充足的时间读题、思考和答题。用300毫秒/单词乘以每道访题的单词总数,即得到了判定受访者在该题上是否超速的阈值。

 

图片来自网络

 

那么受访者答题质量的好坏又如何评估呢?作者采用了矩阵题的无差异化答题行为(straightlining)来进行衡量。矩阵题的无差异化答题行为,指受访者在结构相似的一个题组中,全部选择了相同的答案,而不论题组中每个子题目的具体内容是什么(哪怕是意义完全相反的一对题目陈述)。这种行为通常被看成是答题浮于表面、缺乏认真思考的表现,是常用的一个衡量数据质量的指标。

 

研究数据来自于通过概率性在线样本库LISS(Longitudinal Internet Studies for the Social Sciences)实施的“政治与价值调查”(Politics and Value Survey),分析共涉及5523条数据。

 

02
研究结果:超速答题与答题质量的关系

 

在纳入分析的54道访题中,受访者平均在15道题上有超速行为。作者分析了超速题目数量最多的四分之一的受访者(以下称“持续超速者”)的特征发现,年轻的受访者更可能成为持续超速者:在18-34岁的受访者中,持续超速者的比例为40%,而在65岁以上的受访者中,持续超速者的比例仅为5%。作者认为这既可能是因为年龄大的受访者认知能力减退,从而导致答题速度更慢,也有可能是因为年龄大的受访者时间更充裕,因而愿意花更多精力来回答问卷。

图片来自网络

 

受访者加入LISS 样本库的时间也和他们是否成为持续超速者显著相关,加入时间越早的受访者越容易超速答题。作者认为这也不排除两种可能性:一方面,老会员对答题机制和操作流程可能更为熟练,因此他们完成问卷所需的时间更短;另一方面,老会员参与问卷填答的次数更多,因此更容易产生疲惫感,也就更可能仓促答题。

 

用于衡量答题质量的矩阵题共有8组,主要提问人们对一些社会话题的看法,大部分为5分量表题。在控制了社会人口特征之后,作者依然发现,答题超速的倾向与无差异化答题的倾向正相关,相比其他受访者,那些持续超速者在更多的矩阵题中选择了无差异的答案,他们的答题质量更低。

 

作者进一步的研究发现,在持续超速者中,那些受教育程度低的人相比受教育程度高的人的无差异化答题倾向更高,答题质量问题更为严重。

 

03
小结:如何把控答题速度,提高数据质量?

 

Zhang和Conrad的研究论证了答题速度过快者确实答题质量更低。那么,这对于提高网络调查的数据质量有什么指导意义呢?

 

作者建议在网络调查过程中进行积极干预,当受访者答题速度过快时,提醒他们慢下来。作者的另外一些研究证实了这种答题过程中的干预能够有效地减少超速行为,改进数据质量(Zhang & Conrad 2018)。在网络调查中,这种人机互动的干预方式是可以轻松实现的。

 

图片来自网络

 

Zhang和Conrad的研究的一个重要基础是对超速的合理界定。通过他们的研究我们也了解到,受访者之间是有差异的,一些受访者比另外一些受访者更容易超速,一些超速的受访者相比另一些超速的受访者更容易出现质量问题。这提醒我们在设计网络调查问卷和制定质控标准时应该充分考虑受访者的特征。比如对于受教育程度高的受访者,可以适当地将超速的阈值提高,而对于受教育程度低的受访者,超速的阈值可能需要设置得更低一些。

 

 

 

参考文献:
Zhang,C., & Conrad, F.G. (2014) Investigation of Speeding in Web Surveys:Tendency to Answer Very Fast and Its Association with Straightlining. SurveyResearch Methods, 8 (2), 127-135.
Zhang,C., & Conrad, F.G. (2018). Intervening to Reduce Satisficing Behaviors inWeb Surveys: Evidence from two experiments on how it works. Social ScienceComputer Review, 36(1), 57-81.

原文链接:https://mp.weixin.qq.com/s/57bKPmKZeA-dVntDYrKbFw

 

 

 

 

 

 

随时随地获取 调研家 观点

关注公众号

调研家,专业人士
都在用的调研平台

关注调研家公众号

随时随地了解问卷编辑、数据收集、数据分析干货分享

调研家,专业人士
都在用的调研平台

获取定制解决方案

《调研家服务协议》
已有账户 马上登录

提交成功

感谢您的申请,我们将在24小时内与您联系

知道了

调研家将为您提供

一对一专业服务,根据您的项目情况,为您定制专属解决方案

专业服务助您事半功倍
样本需求
项目定制
  • 请选择您的需求

  • 提交成功

    感谢您的申请,我们将在24小时内与您联系

    企微咨询顾问

    咨询电话

    188 2459 1379

    广东省深圳市南山区登良路汉京国际大厦20楼FG单元

    0755-21615848

    contact@surveyplus.cn

    关注调研家公众号

    Copyright © 2023 SurveyPlus 瀚一数据科技(深圳)有限公司 粤ICP备18114013号 粤公网安备44030502004015号