人工智能时代的科技伦理:嵌入、示范与拓展|新民·科技前沿
创始人
2025-10-22 20:40:27
0次

人工智能的发展始终与伦理同行。人工智能技术迅速迭代,推动我国科技伦理制度的完善。近期,工业和信息化部会同多个部门起草了《人工智能科技伦理管理服务办法(试行)(公开征求意见稿)》(以下称《办法》),科技伦理规范由此在组织和技术层面深刻嵌入人工智能。《办法》体现人工智能规范体系建设的中国智慧,为人工智能伦理治理提出示范方案。结合产业和技术动向,未来可以探索伦理规范和伦理主体向个体用户和人工智能本身的拓展。

科技伦理嵌入开展人工智能科技活动的组织架构中。《办法》第九条规定:“从事人工智能科技活动的高等学校、科研机构、医疗卫生机构、企业等是本单位人工智能科技伦理管理服务的责任主体。有条件的单位应设立人工智能科技伦理委员会。”人工智能科技伦理委员会(以下称委员会)包括人工智能技术、应用、伦理、法律等相关背景的专家,其主要职责包括指导科技人员开展科技伦理风险评估、按要求跟踪监督相关科技活动全过程、组织开展科技伦理知识培训,等等。循此,开展相关科技活动的组织可以通过设立委员会并发挥其指导、监督、培训职责,在组织架构和活动流程中内化科技伦理。

科技伦理嵌入人工智能系统生命周期的各个环节中。《办法》第十五条规定:开展人工智能伦理审查重点关注公平公正、可控可信、透明可解释、责任可追溯和人员资质等五个方面。其中,前四方面涵盖数据的完整性和多样性、算法模型和系统设计的合理性、系统设计的鲁棒性和系统运行的持续监测,等等,并且要求“采取日志管理等措施清楚记录数据、算法、模型、系统各个环节的相关信息,保障全链路可追踪和管理,出现问题时可精准定位具体环节并确定责任人”。换言之,从开发研发时采集数据、设计系统,再到完成之后投入应用、持续运行,人工智能系统的各个环节都要符合科技伦理规范。

科技伦理在组织和技术层面深刻嵌入人工智能,体现了人工智能规范体系建设的中国立场。从全球角度看,如何安置科技伦理在人工智能规范体系中的位置,如何处理科技伦理和法律规范的关系,长期以来没有公认的答案。2024年,欧盟《人工智能法》正式通过。其序言部分第25条明确指出:人工智能的各项伦理原则一方面有助于设计融贯、可信赖、人类中心的人工智能系统,另一方面不能阻碍《人工智能法》和其他欧盟法律的实施。换言之,法律优位于伦理,不在人工智能专门立法中设置伦理审查或类似制度。《办法》体现了另一种思路,更重视科技伦理和法律规范形成合力、双向衔接。未来,随着人工智能时代科技伦理更加重要,《办法》可能为人工智能全球治理提供示范。

结合产业和技术动向,可以探索科技伦理规范向个人用户的拓展。当前,高等学校、科研机构、医疗卫生机构、企业等单位是科技伦理规范责任主体。随着人工智能日益融入社会生活,个体用户使用人工智能的场景和频率增加。对其自身和其他用户造成损害的可能性概率和严重程度,同样相应增加。如果个体用户因使用人工智能成瘾而遭受严重损害,此时很可能需要伦理规范的介入;又如个体用户使用人工智能“复活”追思逝者,可能导致更复杂的伦理问题,等等。在人工智能时代,个体更有必要具备一定的科技伦理素养。可从素养培育入手,在已有公认伦理判断的场景中以柔性方式逐步建立规则。

结合产业和技术动向,可以探索科技伦理主体向人工智能本身的拓展。当前,人工智能系统只是伦理审查的对象之一。如《办法》第二十一条和附件一规定:对于面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统,在开展科技伦理初步审查的基础上,还需要由相关专家开展复核,确保其在公平公正、可控可信等各个方面符合要求。2024年来,国际上开始出现关于人工智能福祉的研究。换言之,承认人工智能伦理主体地位,探索界定和尊重其福祉。少数前沿人工智能企业开始在发布人工智能前实施福祉评估,甚至允许人工智能主动中止和用户的对话。当然,人工智能福祉的研究,一方面才刚刚起步,另一方面如果取得结论,在政策上、产业上、学理上可能产生很大的影响。总之,值得深入研究,目前还不成熟,有待更多的探讨。

作者:同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦

相关内容

正泰电源取得多路输出反激电...
国家知识产权局信息显示,上海正泰电源系统有限公司取得一项名为“多路...
2026-09-14 01:04:06
园林股份再出手!拟购华澜微...
业绩接连亏损之下,园林股份(605303)欲再度加码半导体业务。9...
2026-09-14 01:03:58
美股半导体股暗盘集体下挫
每经AI快讯,9月13日,美股半导体板块在暗盘交易中集体走低。美光...
2026-09-14 01:03:52
浙商证券:在AI驱动算力设...
人民财讯9月13日电,浙商证券研报认为,AI算力重塑PCB需求结构...
2026-09-14 01:03:46
股市必读:9月11日和辉光...
截至2026年9月11日收盘,和辉光电(688538)报收于2.2...
2026-09-14 01:03:31
股市必读:博敏电子(603...
截至2026年9月11日收盘,博敏电子(603936)报收于20....
2026-09-14 01:03:26
国产AI芯片大卖,上半年谁...
(本文作者为 半导体产业纵横,钛媒体经授权发布) 文 | 半导...
2026-09-13 22:56:32
“未给英伟达供货!”“5天...
记者|黄胜 张益铭 编辑|程鹏 黄胜 张益铭 杜恒峰 校对|张锦河...
2026-09-13 22:56:23
原创 ...
不知道大家有没有过这种细思极恐的经历: 前一秒刚和朋友聊完想换个双...
2026-09-13 22:56:11

热门资讯

原创 大... 不知道大家有没有过这种细思极恐的经历: 前一秒刚和朋友聊完想换个双肩包,后一秒刷短视频,首页齐刷刷全...
男子与女同事发生不正当关系后,... 年过四十的男子张某下班后与单位女同事发生不正当男女关系后,突发脑部出血,做了开颅手术。后来,张某一方...
广州女子在绿化带发现一只巨大蜗... 近日,广东广州。女子拍摄到一只体型硕大的蜗牛,相关视频在网络引发热议。视频里拍摄者表示,自己从未见过...
教学示波器应用场景解析及院校选... 教学示波器是电子测量教学中的基础工具,广泛应用于物理实验、电工电子实训以及机电类课程中。在院校采购与...
和辉光电中标:上海大区-上海大... 证券之星消息,根据天眼查APP-财产线索数据整理,根据上海和辉光电股份有限公司9月11日发布的《上海...
工业三相补偿式稳压器虚标功率怎... 工业级三相稳压器作为工业生产、机房设备、精密仪器供电的核心保障,近年来随着制造业升级与海外订单增长,...
日本半导体公司要到月球建厂 社... 快科技9月12日消息,当地时间本月10日,日本半导体企业Rapidus社长小池淳义在美国哈德逊研究所...
神思电子获得发明专利授权:“基... 证券之星消息,根据天眼查APP数据显示神思电子(300479)新获得一项发明专利授权,专利名为“基于...
星源材质(300568):隔膜... 机构:国信证券 研究员:王蔚祺/李全 公司上半年业绩快速增长。公司2026H1 营收26.52 亿元...
长鑫闵科申请刷新控制电路、存储... 国家知识产权局信息显示,长鑫闵科存储技术(上海)有限公司申请一项名为“刷新控制电路、存储器和电子设备...