G7 AI 监管举行首次会议举行在即,AI 诈骗引爆全国关注度。周五,日本通讯大臣松本刚明表示,G7 政府官员将于5 月30 日举行首次AI 工作级会议,讨论知识产权保护、虚假信息以及如何管理AI 等问题。4 月29 日,G7 数字和技术部长在日本结束为期两天的会议后,同意“基于风险”推出一项针对人工智能的监管法案。根据“平安包头”官方微信公众号,包头警方发布一起利用人工智能(AI)实施电信诈骗的案例,4 月20 日福州市某科技公司的法人代表郭先生10 分钟内被骗取430 万元,诈骗方主要使用AI 智能换脸和拟声技术通过微信视频聊天对郭先生实施了诈骗。此外,近期全国多地也都出现了类似的AI 诈骗案例。
AIGC 产业潜在安全风险也不断升级,国内外陆续推出AI 监管举措。数据安全风险只是AI 潜在安全风险之一,实际上,随着AIGC 应用的不断渗透,AIGC生成虚假内容带来的社会信任风险、模型训练数据及生成内容中的知识产权风险、以及持续增强的伦理风险等均将不断涌现和升级。根据我们的梳理,自ChatGPT 爆发以来,世界主要大国纷纷出台相关AI 监管举措,且基本围绕数据安全、算法可靠、内容安全、责任归属等方面进行。此外,科技巨头也着手升级AI 监管技术,从大模型厂商角度,以OpenAI 为例,其通过专家对抗性测试、奖励模型等技术手段,实现在大模型训练、使用及后续研究阶段加强对安全问题的关注,来避免AIGC 可能带来的安全隐患。
重点推荐美亚柏科:1)电子取证龙头,大数据&网安领先企业。公司是国内电子数据取证行业龙头企业、公共安全大数据、网络空间安全与社会治理领域领先企业,是国投智能的控股子公司,国投集团的重要投资企业,国务院国资委为公司实际控制人。公司的主要服务对象为公检法司、政府机关和企事业单位,产品覆盖 6 大产品类目、40 个产品体系、130 多个产品系列,业务范围覆盖全国各省、市、自治区及部分“一带一路”沿线国家。2)前瞻性布局AI 监管领域,打开未来成长空间。公司前瞻性布局AI 防伪技术,2019年针对深度合成技术组织了特别研究团队,已经自主研发了深度伪造视频图像检测鉴定的一体化产品,推出了“AI-3300 慧眼视频图像鉴真工作站”,涵盖40 余种视频图像真伪鉴定算法,近10 种深伪鉴定算法,同时具有智能鉴定和专业鉴定两种鉴定模式,支持卷宗管理和三种鉴定文书生成,为鉴定人员提供一站式视频图像检验鉴定服务。此外,公司还积极布局大模型,以优势领域为切入点,聚焦取证、社会治理、网络安全等领域,将在垂直领域建立起大模型,为自身应用赋能。
风险提示:政策推进不及预期;技术创新不及预期;行业竞争加剧
作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。