Inflection调查:合成受访者与真实用户答案平均相差约22个百分点
Inflection AI在2026年10月30日发布一项关于“合成受访者”的研究,比较了1003名美国真实聊天机器人用户与六组合成受访群体的问卷答案。六组样本由Claude、ChatGPT和Gemini三种模型结合两种调查方式生成,在选定问题上与真实答案平均相差约22个百分点,即使表现最好的合成群体也相差近19个百分点。这些数字属于该研究的特定样本与题目,不是所有人工智能问卷的通用误差;本站11月2日刊载不能改变原研究的发布日期。
Inflection AI在2026年10月30日发布一项关于“合成受访者”的研究,比较了1003名美国真实聊天机器人用户与六组合成受访群体的问卷答案。六组样本由Claude、ChatGPT和Gemini三种模型结合两种调查方式生成,在选定问题上与真实答案平均相差约22个百分点,即使表现最好的合成群体也相差近19个百分点。这些数字属于该研究的特定样本与题目,不是所有人工智能问卷的通用误差;本站11月2日刊载不能改变原研究的发布日期。
合成受访者是由模型模拟人口特征、使用习惯或态度的虚拟答题者,研究机构可能用它们快速测试问题或探索市场假说。Inflection的比较提醒人们,答案读起来可信并不等于能够代表真实人的行为分布。研究覆盖1003名真实美国聊天机器人用户,不是美国全部人口的随机替身;因此结论应先限定在这个研究框架。三种模型、两种提问方式产生六组群体,也说明“合成用户”不是一种固定的测量仪器。若团队更换模型或提示方式,即使问卷文字不变,得到的市场画像也可能改变。
差异在较少被网络记录的日常行为上尤其明显。原研究举例称,44%的真实受访者在此前一周使用有线耳机,合成受访者只有6%;45%的真人与他人一起听音乐,合成群体只有2%;16%的真人与他人一起听播客,合成样本约为零。在研究检查的行为中,网络已有充分记录的活动平均误差约6个百分点,而较少被记录的活动约33个百分点。这里的6与33是该研究所选行为组的平均误差,不可解释为所有线上和线下行为都具有固定误差。
研究还检查了用户放弃某个聊天机器人的理由。真实用户中9.9%提到与价值观相关的反对意见,例如公司行为、隐私、政治偏见或环境影响;六组合成群体中的对应比例仅为1.1%。这类偏差对产品团队尤其重要,因为模型可能生成语气平稳、常见而“合理”的解释,却漏掉具体的反对、抵制或信任问题。若把合成意见直接当作真实顾客声音,就可能低估对企业本身的批评。研究并没有证明每个模型对每个价值问题都同样失真,应用时仍需针对具体题目重测。
模型之间也没有给出一致的市场图景。真实受访者报告有实际使用的聊天机器人达13种;某一组合成群体提到了11种,另外一些只有4种。让虚拟受访者跨多个问题维持持续身份,在部分答案上有改善,但并未可靠地提高整体准确度。这意味着不能凭“更长的对话”就推断调查已经接近真人,也不能只挑一个看似符合预期的模型结果作为证据。模型、提示、人口特征设定、问卷顺序和真实样本组成都应被记录,以便重复和比较。
对市场研究者,合理的使用方式是先用合成群体探索题目措辞、列出可能的假说,然后用真实访谈或有清晰抽样方法的问卷验证关键决策。若调查涉及新习惯、弱势群体、价值冲突或品牌信任,真实人的反馈更不能省略。复核可以按题目报告绝对百分点差、样本量、置信范围以及不同模型之间的分歧,而不只报一个平均值。对于产品上线或定价等高影响决策,还应事先设定可以接受的误差与停止条件,避免在看到结果后选择有利解释。
在披露结果时,还应区分百分比与百分点:44%对6%的差距是38个百分点,而不是38%的相对误差。平均约22个百分点也不意味着每一道题都相差22点;某些题可能接近,另一些题偏离更远。若报告没有逐题表格、抽样权重或原始问卷,读者就难以重新计算总体误差,因此最稳妥的用法是把公司公布的聚合数字当作待复核的研究结果,而非已被独立复制的定论。
这项研究的实质贡献是把合成答案的“像人”与统计上的“像真实样本”区分开,并用具体问题展示差距。合成研究可以辅助早期探索,但在这个受检样本中未能替代真实受访者;将来若有人声称某种方法更准,应提供同题同样本的对照数据。
Sources
FAQ
Inflection比较了哪些真实人与合成受访者?
研究比较1003名美国真实聊天机器人用户和六组合成群体。后者由Claude、ChatGPT、Gemini三种模型及两种调查方式产生;真实样本并不自动代表全体美国人,合成群体也不是同一种固定测量工具。
约22个百分点的误差意味着什么?
这是所选问题上合成估计与真实答案的平均差;最接近的一组仍相差近19个百分点。它不是每道题都相差22点,更不是所有合成问卷的普遍误差。应查看各题差距、样本和模型差异。
市场团队该怎样使用合成调查?
可先用合成回答检查问卷措辞、提出假说,再以真实访谈或抽样清楚的问卷验证关键决策。特别是新习惯、少数群体和价值观驱动的选择,必须报告逐题百分点差及不确定性,不能让模拟答案替代客户。