为AI输出系上“安全带”（纵横）

为AI输出系上“安全带”（纵横）

关育兵

《人民日报》（2025年08月26日第05版）

随着AI（人工智能）技术快速发展，AI应用已渗透社会生活各领域。从智能客服到内容创作，从医疗辅助到金融分析，AI正重塑我们的信息获取方式和决策模式。然而，AI“信口开河”现象，也给这项技术的健康发展蒙上了一层阴影。

AI“信口开河”的表现形式，主要有三类。一是时空错乱，如将相隔数月的事件强行建立因果关系；二是价值观偏差，如在涉及历史文化问题上表现出明显的错误倾向；三是无中生有，包括编造学术文献、虚构新闻事件等。这不仅暴露了当前AI技术的局限性，更反映出技术伦理建设上的滞后。

深入分析AI“信口开河”成因，需从技术、数据和监管三个维度进行考量。技术层面，当前主流的大语言模型更擅长“模仿”而非“理解”。数据层面，训练数据的质量直接影响AI的输出质量，现实中存在的数据污染、文化偏见等问题已经影响了输出内容。监管层面，行业标准的缺失和伦理规范的不足，使得一些存在明显缺陷的AI产品流入市场。

AI“信口开河”的危害不容小觑。信息传播方面，AI生成的错误内容可能导致谣言蔓延；文化认知方面，带有偏见的输出可能影响用户的价值判断；社会治理方面，虚假信息的泛滥可能扰乱公共秩序或公共决策。更值得警惕的是，这些风险往往具有累积性和隐蔽性，其负面影响可能逐渐显现。

解决这一问题，需要构建全方位的治理体系。技术研发者应当建立更严格的数据清洗机制，引入事实核查模块，完善模型的纠错能力。监管部门需要加快制定AI内容治理规范，建立分级分类的监管框架。行业组织应当推动建立统一的伦理准则和技术标准。这些问题已经引起各方重视。国家网信办等7部门联合公布的《生成式人工智能服务管理暂行办法》明确提出，服务提供者应当对生成内容进行标识，并增强训练数据的真实性、准确性、客观性、多样性。

技术发展总是伴随着新的挑战，解决问题的关键在于完善治理。同步推进技术创新与伦理建设，才能让AI更好成为造福人类的工具。这需要技术开发者保持敬畏之心，监管部门把好安全之关，普通用户擦亮辨别之眼，共同构建健康可持续的AI发展生态。技术向善，方得始终；伦理先行，方能致远。

（摘编自《工人日报》，原题为《防止AI“信口开河”，技术伦理建设刻不容缓》）