东财计算机:内容监管——AI生态良好发展的先决条件
国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到,利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
多模态模型接受文字、音频、图像和视频输入,将支持使用者通过AI 输出可视听内容,内容生产的新范式需要提升监管治理的技术能力,机器的半监督或无监督学习算法叠加更为丰富的内容表现形式势必要求内容安全管理的与时俱进,伴随甚至提前于技术的迭代而发展,图像及音视频内容的监测将有效防范人工智能在虚假信息、学术造假、网络钓鱼等灰色地带中的滥用。
博汇科技与广电合作多年,在媒体内容安全的监测与监管领域处于行业龙头地位,已达到28个省级广电系统的覆盖。公司的监测监管系统建立在广电的数据之上,多年合作为公司积累了大量的AI落地经验,公司可以充分利用广电生成的数据进行训练。是当之无愧的AI数据安全把关的领军企业。