人工智能是引领新一轮科技变革的颠覆性技术，伴随其向社会各领域的渗透融合，在伦理、安全、隐私、公平等方面，也带来了新的挑战和问题。11月19日，在首届中国网络文明大会数据与算法论坛中，中国网络社会组织联合会发起了《互联网信息服务算法应用自律公约》（以下简称《公约》），旨在加强互联网信息服务行业自律，引导平台及企业担当社会责任，促进算法应用向上向善，强化算法应用示范引领，推动用主流价值导向驾驭“算法”，助力共建算法良好生态。

智能算法使机器拥有了分析、预测、优化甚至决策的能力，智能算法的自主性和决策能力成为智能化变革的核心要素。在加快推进人工智能技术研发和产业应用的同时，需要同步跟进适应智能化变革的制度调整和技术治理。随着数据的积累和算法技术的发展，算法应用已经渗透到人们生活的方方面面，同时也滋生了“过度推荐”“流量造假”“大数据杀熟”及“深度伪造”等损害公众利益、破坏正当竞争、扰乱社会秩序的行为。算法治理跟不上，就会反过来制约技术的应用和发展。

对于算法应用，应该充分重视其技术属性和社会属性并重的特征，树立“负责任创新”的价值观，避免技术创新被引入滥用的歧途。一方面，需要通过政策法规来规范算法技术的应用，保证技术的创新应用和安全可控协调发展。另一方面，也需要通过行业自律等方式规范企业行为，将政策法规精神落到实处。此次发布的《公约》，是互联网信息服务行业落实算法应用治理的积极尝试和探索，有助于企业切实承担互联网信息服务算法治理社会责任，加强互联网信息服务行业自律，推动行业健康有序发展。

《公约》首先强调了合规底线，强调依法依规开展算法应用，加强行业自律，积极践行社会主义核心价值观，尊重社会公序良俗，恪守商业道德。在此基础上，进一步落实主体责任，明确要求相关单位和企业履行算法治理义务，承担算法治理责任；设立算法治理组织机构，持续完善算法治理制度，建立健全算法安全应急管理预案；开展算法伦理审查，开展算法安全风险监测、评估和防控。从治理机制和措施方面，明确了责任和义务，有助于政策的实施。

《公约》中“维护网民权益”“筑牢安全防线”“促进算法公平”等内容，呼应了国家新一代人工智能治理专业委员会发布的《新一代人工智能伦理规范》中“促进公平公正”“保护隐私安全”“确保可控可信”等基本伦理规范，并在研发、供应、使用等各个环节提出了相应的管理规范。落实算法应用治理，就必须保障用户的知情权、选择权等合法权益，并保证算法在分析、决策和优化等具体应用任务的公平性，不能基于数据和算法优势对用户不正当地进行差别对待。在安全保障方面，需要防范应用、内容和数据的安全风险，提高算法风险监测、预警和处置能力。

《公约》最后提出，要推动设计研发创新，持续开展算法研发，主动掌握关键核心技术，融入全球科技创新整体格局。对于智能算法的治理问题，不仅要从现有技术角度出发，也要从发展的角度提出前瞻性的预判和要求。这也是张钹院士提出“第三代人工智能”的初衷，希望通过融合第一代知识驱动和第二代数据驱动的人工智能，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术。当前以深度学习为代表的人工智能算法，本质上是“黑盒”，在可靠性、可解释性、安全性等方面存在缺陷，发展第三代人工智能技术能够克服深度学习这些缺陷，有利于推动人工智能创新发展。对于算法治理的要求，也会对人工智能技术的创新发展起到有益的促进作用。

作者：特约评论员 朱军（清华大学人工智能研究院基础理论中心主任）