·更新于 ·Research·Jerry Miller, Product at Minds

合成样本库与AI受访者的工作原理

合成受访者是基于真实受众画像条件化生成的 AI 调研参与者,合成样本库则是可针对相同问题进行提问的受访者集合。它们适用于对概念、信息和问卷进行快速、方向性的初筛,但其回答属于模型估算值,在用于高成本决策之前,应先对照真实问卷数据进行校验。

合成受访者是由语言模型模拟的调研参与者。模型基于目标研究人群的画像(年龄、地区、职业、习惯、态度,以及针对同类人群的真实问卷或访谈数据)进行条件化设定,然后以此角色回答问卷、对概念作出反馈或参与深度访谈。

合成样本库是为代表特定受众而构建的一组合成受访者。由于可以向所有成员提出相同的问题,研究人员能将其回答汇总为概率分布并在不同细分客群间进行对比,这与招募真人样本库开展的问卷调查非常相似。

二者都是用于快速、方向性研究的工具。它们能让团队在开展实地调研前初筛创意构想与问卷设计,但其回答终究是模型生成的估算值,而非对真人的实际测量。在用于支撑代价高昂、难以逆转的重大决策之前,必须先对照真实数据进行校验。

合成受访者与相关概念对比

该领域的相关术语存在较多重叠。在评估工具或阅读研究方法论时,需要理清以下核心区别:

术语定义与合成受访者的区别
招募受访者样本库、拦截访问或客户名单中的真实人员拥有真实的经历、预算和行为;触达速度较慢且成本更高
模拟画像(Persona)叙事性提示词,例如“扮演一名市场营销总监”通常没有结构化画像,缺乏事实数据支撑,任务之间也没有记忆能力
合成样本库针对特定受众的一组合成受访者属于群体单位;其答案会被汇总并用于交叉对比
客户数字孪生基于个体自身数据构建的特定已知个人或账户模型代表具体的个体,而非细分群体中的成员;参见客户数字孪生
silicon sample学术界对以真实问卷背景为条件化设定的语言模型样本的称谓该方法的研究起源;参见 silicon sampling
问卷机器人为获取奖励而自动填写真实问卷的脚本属于真人数据中的欺诈作弊行为,而非正规调研工具

关于运用此类受访者的更广泛研究方法,请参阅什么是合成市场研究。

合成受访者的构建原理

一个实用的合成受访者由三个层级构成。

  1. 基础语言模型。它提供语言流畅度与通识知识,但同时也带来了模型固有的偏向:顺从倾向(agreeableness)、冗长表达以及训练数据带来的观点偏见。
  2. 画像及背后的证据支撑。画像设定了人口统计学、行为和态度属性。更强大的系统会将每个画像锚定在具体数据源上:公开发布的统计数据、公开研究报告,以及团队自有的问卷结果、访谈纪要或客户档案。仅凭人口统计学标签构建的受访者,其回答往往充斥着刻板印象。
  3. 应答协议。受访者在既定的测量工具内作答(单选、多选、量表、排序、MaxDiff 等强制选择任务或开放式问题),以便对结果进行对比和汇总。

封闭式问题的采集机制至关重要。在 Minds 公开发布的复现测试中,要求合成受访者针对各选项给出概率分布,而非各自进行单一强制选择,在四个公开数据集上将分布误差降低了 12.47 至 19.72 个百分点(Minds 研究报告)。

什么是合成样本库,它与传统样本库有何差异

合成样本库是受访者的群体形态:在同一定义的受众范围内(例如“每周购买植物奶的 25 至 40 岁英国杂货消费者”),包含数十到数千个存在差异的合成受访者。样本库完成一项研究作答后,结果会以概率分布、排名和主题分析的形式呈现。

评估维度合成样本库传统线上样本库
作答主体基于受众画像条件化生成的模拟受访者主动加入样本库的真实被招募者
获取结果耗时数分钟至数小时数天至数周
核心成本动因每个问题消耗的算力每份有效问卷的被试奖励、招募及样本库服务费
难以触达的人群可以进行模拟,但若相关数据稀缺,准确度会显著下降规模化招募成本极高,甚至根本无法实现
代表性本身不具备代表性;取决于数据锚定与校验程度通过良好的抽样和加权,可有效逼近总体特征
主要质量风险回答看似合理实则错误、方差过小、所有受访者共存系统性偏差作答不认真或欺诈作弊的受访者、样本倦怠

两者并非相互替代的关系。合成样本库的作用在于帮助判断哪些问题真正值得向真实样本库提问,从而让真人调研的规模更精简、定位更精准。如需了解更多对比细节,请参阅合成样本库对比传统样本库。

学术与实践中的准确度证据

没有哪一个单一的准确度指标能直接概括合成受访者的表现。测试结果取决于目标受众、具体问题以及数据采集方式,而已发表的研究证据也呈现出正反两面的结论。

  • Argyle 及其合作者根据美国真实受访者的社会人口统计学背景设定对 GPT-3 进行了条件化,发现模型能够复现多个细分子群的回答分布,他们将这一现象称为“算法保真度(algorithmic fidelity)”(Political Analysis, 2023)。
  • 一支由斯坦福大学主导的研究团队基于两小时访谈、问卷调查或两者兼具的数据,为 1,052 名美国人构建了智能体。在保留的通用社会调查(General Social Survey)测试题项上,智能体分别达到了受试者自身两周重测一致性的 83%、82% 和 86%,而仅提供人口统计学信息的智能体一致性仅为 74%(arXiv, 2024)。这证明锚定真实自我报告数据的表现明显优于仅依靠人口统计学标签。
  • Bisbee 及其合作者发现,通过角色提示词驱动的 ChatGPT 虽然匹配了美国全国选举研究(American National Election Study)中的平均情感温度计得分,但其方差小于真实受访者,回归关系存在差异,且对措辞的细微变动非常敏感,同时还会随时间推移发生漂移(Political Analysis, 2024)。
  • Santurkar 及其合作者发现,语言模型表达的观点与美国 60 个人口统计学群体之间存在显著的对齐偏差;对于某些特定群体(例如 65 岁以上人群),即使通过定向引导模型,其观点的还原度仍然较差(ICML 2023)。

关于合成受访者与真人受访者在哪些维度达成一致、在哪些维度存在分歧的深度评述,请参阅合成受访者对比真实受访者:准确度解析。

需要重点警惕的失效模式

合成受访者的失效模式与真人样本库截然不同:

  • 方差过小。回答往往高度集中于最普遍的典型观点,导致分布呈现出比真实情况更工整的形态,少数派意见容易被抹平。
  • 相关性误差。所有受访者共享同一底层模型,因此模型的盲区会同时影响所有受访者。传统的抽样误差范围假设受访者彼此独立,因而不适用于此类场景。
  • 提示词与模型依赖性。措辞、题目顺序或模型版本的细微改动都可能导致结果波动。
  • 顺从偏向。除非测量工具强制进行权衡取舍,否则受访者倾向于对其看到的所有内容都表示认可。
  • 数据稀缺受众。对于低发生率人群、专业职位以及现有数据缺乏充分描述的新兴品类,准确度会急剧下滑。

Minds 如何构建并校验合成样本库

在 Minds 中,每个合成受访者被称为一个 Mind,合成样本库被称为一个 Audience。Mind 会锚定在外部数据源以及你添加的文件中(如问卷结果、访谈纪要或客户研究资料)。一项 Study(研究)可以向 Audience 提出开放式与封闭式问题、运用 MaxDiff 等方法,或向其展示概念、图片、网站原型和文案等测试素材。

Audience Validation(受众校验)通过对照真实问卷来检验 Audience,而不是依赖笼统的准确度宣传。Minds 会寻找受访者与该 Audience 相匹配的公开问卷,或直接使用你上传的问卷文件,仅保留公开发布答案适合该 Audience 检验的问题,并逐一列出被剔除的问题及其原因。每份问卷满分为 100 分,分值定义为 100 减去与已发布答案占比的平均绝对百分点偏差,并附带 95% 置信区间。详细内容请参阅受众校验运作机制。

Minds 针对五个公开数据集发布的复现测试显示,平均分布误差在 4.72 至 8.33 个百分点之间(查看完整结果)。这些研究采用了不同的测量工具,不应将其合并为单一的准确率分数;而且在一份问卷上的良好表现,并不意味着可以自动迁移到其他受众或问题上。

何时适用合成受访者,何时不适用

适用场景:

  • 在实地调研前,对大量概念、主张或信息进行初筛,精简为候选短名单。
  • 预测试问卷,排查歧义措辞、缺失选项以及诱导性提问。
  • 在开展针对性深度访谈之前,对难以招募或招募成本极高的受众进行快速摸底。
  • 形成研究假设,并确定真人调研应当重点抽样哪些细分客群。

应当转用招募真人或观察真实行为的场景:

  • 需要代表性估算数据,例如市场规模、市场份额或实际购买意向比例。
  • 需要测算特定价格点上的支付意愿或价格弹性。
  • 结论将公开发表、面临监管合规审核或审计,包括广告真实性佐证和健康功效声明。
  • 产品需要进行实际触摸、品尝或实体使用体验。
  • 受众群体或品类属于全新领域,几乎没有可靠的历史数据可供参考。

如何评估合成受访者技术供应商

要求供应商提供可核验的事实依据:

  1. 你们复现过哪些公开问卷?误差是多少?对比的基准(Baseline)是什么?
  2. 我能否使用真实问卷数据来校验我自己的样本库,并查看哪些问题被排除在外以及具体原因?
  3. 每个受访者是如何进行数据锚定的:仅凭人口统计学标签,还是结合了权威数据源以及我自有的研究文件?
  4. 封闭式问题的答案是如何采集的?受访者是否能够表达反对或直接否决某个概念?
  5. 你们明确说明过该工具不适用于哪些场景?

有关不同供应商的横向对比,请参阅合成受访者平台评估指南。

引用来源

常见问题

什么是合成受访者?

合成受访者是由语言模型模拟的调研参与者。模型会基于目标研究人群的画像(如年龄、地区、职位、习惯和态度,最好有真实问卷或访谈数据支持)进行条件化设定,然后以该角色回答问卷问题或访谈提示。

什么是合成样本库?

合成样本库是为代表特定受众群体而构建的一组合成受访者,研究人员可以向所有受访者提出相同的问题,并像问卷调查一样汇总答案。在 Minds 中,合成样本库被称为 Audience,其中的每个合成受访者被称为一个 Mind。

合成受访者的准确度如何?

合成受访者并不存在单一的准确率指标。已发表的研究表明,模型在某些问卷分布上能高度匹配,但在其他方面存在明显缺陷,例如方差过小、细分子群对齐偏差以及对提示词措辞高度敏感。基于真实自我报告数据锚定的受访者,其表现优于仅依靠人口统计学标签构建的受访者。在依赖合成样本库之前,务必针对目标受众的真实问卷数据进行校验。

合成样本库与传统线上样本库有何不同?

传统样本库是由招募的人群组成的样本池,他们受邀参与问卷;其回答来自真人,但采集速度慢且成本高,质量取决于招募渠道与防作弊机制。合成样本库则是通过算法生成的,数分钟内即可作答,每个问题的成本极低,但其回答属于模型估算值,可能会同时朝同一个方向产生系统性偏差。

在什么情况下不应使用合成受访者?

切勿将其用作代表性估算(如市场规模或精确支付意愿)的最终依据,亦不得用于合规监管或临床声明、物理或感官测试,以及现有数据缺乏充分描述的新兴受众和新品类。

合成受访者是否受 GDPR 约束?

模拟受访者并非真人,但用于构建和运行研究所使用的文件、客户数据及账户数据可能属于个人数据。具体使用是否合规取决于你上传的数据内容以及工具的部署方式,因此请与你的隐私安全团队一起审查供应商的隐私政策、数据处理协议与次级处理方清单。