据英国媒体近日报道,美国初创AI企业Anthropic公司日前表示将就五角大楼将其列为“供应链风险”的决定提起诉讼。2月27日,美国总统特朗普下令美国政府停止使用人工智能公司 Anthropic的产品,五角大楼随即宣布该公司构成国家安全风险。
路透社报道截图
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受总台环球资讯《闪评》栏目采访时表示,美国将企业界定为一种“国家安全风险”,事实上与多年来美国政府将国家安全泛化的主张和做法是一脉相承的。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括:
企业主张AI的应用应设有特定的安全护栏,例如关于伦理的要求,特别是不能将AI用于全自主致命性武器,以此来避免AI应用中的伦理风险。而对于政府来说,它要求企业接受所有所谓的“合法用途”,包括军事用途的运用。于是,两者之间基于企业的安全底线和政府的军事政治需求,产生了尖锐的冲突。
美国政府认为企业如果不配合军方的需求,就可能构成供应链的可靠性风险。但事实上,对于美国军方和政府来说,一方面是通过否定企业的安全底线要求,来坚持国家权力的排他性主张,特别是在军事AI应用方面。同时,这种将特定立场主张政治化的做法,事实上与美国政府近年来强调的美国优先国家安全战略密切相关。因此,从一定意义上讲,这可以被视为在AI时代,政府权力扩张与企业所坚持的伦理底线之间的一种冲突。
据美国《对话》杂志报道,此次争议的核心,在于Anthropic开发的大型语言模型Claude如何被应用于军事领域。根据公司政策,Claude不得用于对美国公民的大规模监控,或用于一旦激活便可在无需人类参与的情况下选择和打击目标的自主武器系统。
美国《对话》杂志网站报道截图
此前,五角大楼已向Anthropic公司发出最后通牒——要么无条件服从,解除限制,要么取消合同、列入黑名单。然而,Anthropic并未松口。最终,Anthropic正式被美国列为国家安全供应链风险实体,联邦机构全面停用。
吴沈括表示,对于企业而言,此次提起诉讼表达的是对伦理底线的坚守,但长远来看,企业面临的发展形势并不乐观。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括:
一是关于美国政府在此次封杀中所涉及法律程序的瑕疵问题,其依据是《美国国防生产法》的相关条款,但该条款在法条中指向的是外国对手,而非本国公司。另一方面,企业也主张其依据在于政府应当保障美国宪法框架下的自由,特别是政治言论自由。此外,还包括美国宪法中所提到的正当程序规定。
因此,无论是在权利保障的宪法依据上,还是在程序瑕疵所构成的程序依据上,企业的主张都有一定的法律依据。特别是在整个决策过程中,官方行为较为仓促,例如通过社交媒体宣布,未经过正式的书面程序、听证、咨询或公证等流程,因此在整体流程上,企业的主张具有一定的合理性。
从法律的操作性角度来看,企业确实有一定的依据。然而从长期来看,最终结果,特别是实质层面的结果,可能仍然较为严峻。当前,美国政府已明确表示不再与其合作。从这个意义上讲,涉事企业所面对的商业前景可以说是相当严峻。
吴沈括认为,这一案件对于新背景下人工智能在各个领域中的应用,特别是在军事中的应用,带来了巨大的冲击和影响。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括:
这一案件揭开了所谓“技术中立”的遮羞布,特别是当技术发展到一定程度后,我们可以看到,例如美国政府动用国家权力,将这些AI工具做出了工具化的安排。同时,这一案件折射出当下的一个重大风险,即AI军事化应用中存在失控的风险。美国政府的这种做法,事实上超越了法律和国际规则的边界,并在这一过程中运用国家权力去突破、超越制度性约束,这很可能导致全球AI军备竞赛进一步加剧。
另外,这一案件也反映了政企关系的新变化或所面临的新挑战。以往企业坚持价值底线,但在面对国家权力时,却遭遇了巨大挑战。在这一过程中,如何维持一种良性的政企关系,从目前来看确实面临巨大挑战。因此,在人工智能的应用过程中,亟待建立有效的国际治理、国际规则以及相应的法律制度。
来源:环球资讯广播