近日,根据《互联网信息服务深度合成管理规定》,国家公开发布境内深度合成服务算法备案信息,国家网信办发布《境内深度合成服务算法备案清单》,41款深度合成技术服务算法获得备案,其中文本对话、智慧客服等是主要应用场景。清单的出台,源于人工智能蓬勃发展的大背景下机遇与风险并存的局面,体现了政府部门对于科技发展方向的宏观掌舵,有利于在日新月异的变化中拨云开雾,最终迎来人工智能发展的曙光。
《清单》出台的背景分析
人工智能行业健康发展需要法律法规的跟进。
在这之前,在人工智能相关立法方面,监管存在一定漏洞这为人工智能侵犯个人隐私的罪恶滋生了温床。由于人工智能可以取代一部分社会原有劳动力,且其具有人类因生理限制无法达到的优势,更受用工单位偏爱,因此,势必会导致社会范围内的大规模失业。
人工智能发展的规模与未来还存在极大的不确定性,如果法律法规在此时失守,无法在宏观层面把控与调节人工智能发展方向,那么人类的存亡也将陷入极大的不确定之中。
人工智能发展初期行业粗放,存在隐患。
近日,ai“一键脱衣”的相关话题不断出现在舆论中心,人工智能的滥用对于个人名誉的侵犯愈演愈烈,随着ai软件的普及,恶意p图的情况也更加轻易,甚至被推举成了一件“低风险 高投入”的现象。然而,这一现象不仅在网络范围内瓦解了个人肖像权以及名誉权的严肃性,同时还造成了个人隐私信息大量泄漏的问题,严重危害社会稳定。
人工智能繁盛发展需要明确权责主体。
人工智能的迅速发展对我们的生活产生了巨大的变革,不仅为各行各业带来了发展的机遇,同时也带来了一系列挑战。由于人工智能是近些年来的新兴行业,法律法规尚不完善,需要随着该行业的发展不断完善法律界定。尤其是在ai乱象频发时,清晰的权责主体划分能够极大规范人工智能行业发展。
《互联网信息服务深度合成管理规定》的关键所在
不同的责任主体需要承担具体的相关责任。
根据《清单》,有大模型、图像生成以及识别、智能客服以及人脸融合等算法种类上榜入列,互联网大厂们占据了榜单的半壁江山,除此之外,《清单》中还列出了各个算法对应的应用场景。通过明确各种算法的功能以及贴近日常生活,人工智能逐渐由供给侧迈入应用侧的路径。深度合成人工智能的法规的不断完善,有利于保证各责任主体有法可依,为人工智能行业肃清风气,保障用户权益。
人工智能的技术融合需要细分赛道,奠定发展基调。
《清单》囊括了41种深度合成技术服务算法,为人工智能行业发展指明了发展方向,技术发展朝着应用端方向精进,智能客服、图像生成、即时通讯、多模态内容等应用场景得到重视,在人工智能发展的初期初步建立健全行业标准,为技术的服务应用提供指引,也为深度合成技术的安全可靠发展指明了方向。
规定人工智能行业中合法合规的企业。
《互联网信息服务深度合成管理规定》第十九条明确规定,具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续,体现了人工智能相关企业应具备一定的行业自律。同时,这也是我国第一部针对深度合成服务治理的专门性部门规章,规范互联网信息服务深度合成管理,为技术的服务和应用提供了规范。
《互联网信息服务深度合成管理规定》的重大意义
呼应现实需求,通过完善立法平稳群众对于人工智能的恐慌。如上文提及,深度合成技术的非法操作会引起一系列对于个人权利的侵蚀,导致违法行为增加,为个人造成名誉和财产损失;另一方面,深度合成技术滥用会导致社会信任瓦解,不利于社会稳定。因此,《互联网信息服务深度合成管理规定》的出台能够推动人工智能技术朝着更加安全稳定方向发展,有利于保护个人隐私,同时,削减民众对于新技术的恐慌情绪;其次,《互联网信息服务深度合成管理规定》的出台能够规范深度合成人工智能行业,推动行业健康发展。
解决现实问题,通过明确纠纷中相关责任主体推动法律法规的正常运行。《互联网信息服务深度合成管理规定》是为了解决互联网信息服务提供者在使用深度合成技术时,可能导致的虚假信息、侵权信息等问题而制定的。其主要目的是规范互联网信息服务行业的经营行为,保护消费者的合法权益。
该规定的出台,使得相关的责任主体在纠纷中更加明确。互联网信息服务提供者应当履行管理义务,对于深度合成生成的内容进行真实性和合法性审核,并及时更新、删除不良信息;同时,应当对用户发布不良信息承担相应的管理责任,包括追溯信息来源、记录存储信息等。
这意味着,如果在使用深度合成技术时,互联网信息服务提供者没有履行管理义务,且未能审核生成内容的真实性和合法性,那么将会面临相应的处罚和赔偿责任。这一点既保护了消费者的权益,又起到了警示作用,遏制了信息服务提供者滥用深度合成技术的行为。
此外,《互联网信息服务深度合成管理规定》还明确了合成内容标识、存储、备案等方面的具体规定,提高了互联网信息服务的透明度和可追溯性。这一规定为纠纷解决提供了更多的证据依据,同时也让管理部门更容易对相关行为进行监管。
未雨绸缪,通过完善法规起到震慑作用。《互联网信息服务深度合成管理规定》的出台是一种未雨绸缪的措施,目的在于加强对互联网信息服务行业的监管,防范和遏制滥用深度合成技术所带来的风险和隐患。通过完善法规,该规定起到了以下几方面的震慑作用。
首先,它明确了责任主体。根据该规定,互联网信息服务提供者是使用深度合成技术生成信息的主体,因此,他们也应当对信息内容的真实性、合法性进行审核和把关,如果发现不良信息,应当及时删除。这一规定的出台使得互联网信息服务提供者更加重视信息审核工作,履行好相应的管控职责。
其次,它对使用深度合成技术生成信息的标识、存储、备案等方面做出了详细规定,这些规定可以让公众以及监管部门更加了解相关信息的来源和流向,从而更好地进行监管和治理。同时,这也会对那些企图利用深度合成技术发布虚假信息或侵犯他人权利的行为形成打击和警示。
再次,该规定明确了违规行为的处罚和赔偿责任,包括对不良信息发布者和网络服务提供者的追究。这一点让那些企图利用深度合成技术进行非法活动的人或公司知道,一旦被发现,将会面临相应的法律风险和经济损失,从而起到了威慑作用。