其次,证据形成与解释依赖具体实践。例如,社会科学田野访谈中的沉默究竟意味着认同、顾虑还是其他,要放回互动关系中判断;自然科学实验中的异常究竟意味着操作失误还是值得追踪的新发现,要结合操作条件辨析。人工智能能帮助识别模式和比较不同解释,但文本中留下的记录未必包含作出判断所需的全部信息。调查、实验与经验交流的作用,就在于不断补充情境信息、检验解释,并使研究方向随新证据调整。
最后,结论确立需要与主张相适应的证据和论证。人工智能可以帮助组织论证、核查材料,甚至预判可能的反驳,在知识确证中承担部分任务,但论述完整尚不足以确立知识主张。例如,OpenAI最近公布一批由人工智能生成的数学研究文稿,并为其中部分证明提供可由计算机验证的形式化版本。即便如此,人工智能所证明的命题是否准确对应原问题,仍需数学专家进一步评议。
可见,人工智能能参与知识生产的多个环节,但问题价值的取舍、具体情境的判断与结论的确立,还有赖于实践参与和共同体审查。
评价人工智能在知识生产中的作用,还应将视野从科学前沿拓展到广泛的日常知识活动。人工智能在重新组织分散的日常经验与信息的同时,通过通俗问答将专业知识带入日常生活,改变了常识获取、经验传递和问题解释方式,知识供给由此扩大,获取门槛降低。但知识供给扩大后,相应的核验条件与能力未必跟得上。即使是经过确证的专业知识,在人工智能问答中也要结合具体情境检验其适用性。例如,使用者通过智能体应用询问身体不适等问题时,可能会想当然地采纳建议,忽略其前提条件。此时,若将核验责任过多交给使用者,可能造成责任与能力的错位,使不同群体在核验能力与资源上的差距转化为新的知识不平等。
核验条件与能力的不足,会放大人工智能介入知识生产的风险。一种风险是未经确证的内容被当作知识传播。这类内容一旦进入公共空间,又未经甄别即被纳入新的训练语料,错误便可能反复传播、累积。另一种风险是长尾知识的隐没。地方性知识、少数群体经验与小语种知识资源,如果缺少数字记录或在训练语料中覆盖不足,就更难在生成内容中得到充分呈现。当训练与评价更多围绕主流语言和常见情境展开时,模型给出的通用答案便可能忽略特定地方的生活经验与实际条件,知识与表达的多样性也随之受到影响。
因此,对人工智能参与知识生产的治理,应着眼于使知识供给与核验能力相匹配,并按知识类型与使用后果明确核验要求。标明内容由人工智能生成,只能提示其生成方式,不能代替对真实性与适用性的判断。对于日常知识,重在来源核对与适用性判断;对于涉及健康、农业、法律等专业知识的问答,要提示适用条件、标明依据,并提供专业咨询与转介渠道;对于创新性专业知识,则须接受证据审查、逻辑检验与同行评价。核验要落到实处,还需明确相应的责任归属。由谁核验、谁决定采用、谁承担责任,应当与各方实际的核验能力及决策权限相称。其中,平台与应用机构应承担相应的质量保障、风险提示和纠错责任,为使用者核对信息、寻求专业支持提供便利。
总之,回答人工智能能否生产知识,不宜停留于“能”或“不能”的总体判断,而应区分知识类型,考察其在知识生产中的作用与边界。在既有知识的整理、解释与传播中,它已显示出明显的效率优势;在新知识形成中,它可以在部分环节作出贡献,但生成内容须经相应的确证才能成为知识。人机分工与责任安排,应以具体知识活动的创新要求与确证方式为依据。人工智能越善于生成,社会越需要分清哪些内容已有确证可用,哪些内容的确证尚待完成。
(作者:杨江华,系西安交通大学人文社会科学学院教授、数字社会研究中心主任)





