计算机行业：AI+安全投资机遇
来源：雪球App，作者： 杳杳寒山道，（https://xueqiu.com/5149251894/252120489）
安全+AI大模型有望变革网络安全行业，成为安全建设新范式。
伴随ChatGPT的持续火热，大模型技术开始逐步应用于各个领域，其中大模型技术在网络安全领域具有广阔的应用前景。3月， 微软 发布由AI赋能的安全分析工具——MicrosoftSecurityCopilot，结合OpenAI大模型与微软安全模型，大幅提升安全事件响应效率。此外， 深信服 在国内率先展示安全GPT应用，基于“大模型算法+威胁情报+安全知识”训练而成，具有自主可控、数据不出境等特性。我们认为，AI技术将推动网络安全产业迎来重要变革，网络安全厂商将以自然语言交互方式提供安全能力，可以实现对网络安全威胁分析和响应的更加主动与智能化，将推动网络安全建设迎来新范式，同时AI技术也将促进网络安全产品和服务的创新和发展，激发政企机构对于安全技术的投入意愿与力度。
生成式AI应用带来潜在的数据安全等问题，内容监管逐步提上日程。
AI大模型在训练、推理过程中涉及用户数据调用，部分案例表明ChatGPT或导致企业机密、个人隐私泄露等问题。以意大利、加拿大为代表的多国政府、隐私保护机构开始关注ChatGPT相关的数据安全问题， 三星电子 、 苹果公司 等公司也限制员工在工作场景使用ChatGPT。与此同时，由于AI大模型在生成内容上的概率统计原理，其内容可靠性可能存在问题，AI生成的内容也可能反映社会上的偏见或成见，或被用于诈骗等网络犯罪相关活动，如虚假信息制造、欺诈行为等。因此，围绕生成式AI潜在的数据安全及生成内容如何被合理使用引发市场关注，催生相关的安全需求。我们认为，应结合数据采集、传输、存储等全生命周期，通过加密、数据水印等技术手段保护用户隐私数据，并且对AI生成内容进行标记，同时利用鉴别技术对AI生成内容的可靠性及传播链路进行把关。
投资策略：关注三类安全厂商。
一方面，AI技术带来的效率提升有望激发政企对新兴技术的购买意愿；另一方面，生成式AI带动外界对数据安全问题的关注，包括大模型训练、调优所使用数据的安全问题，以及大模型生成内容的可靠性、使用方式。推荐：1）数据安全解决方案提供厂商；2）内容监管能力提供厂商；3）密码技术提供厂商。
3月28日， 微软 推出MicrosoftSecurityCopilot，首次将大模型技术应用于网络安全中。SecurityCopilot结合OpenAI的大模型与微软的安全模型，大模型提供生成式AI能力，安全模型由微软的威胁情报能力和每天超过65万亿个信号所提供的信息支持。SecurityCopilot能力包括：1）通过基于自然语言的调查，提供事件响应的分步指导；2）捕捉可能遗漏的威胁，预测下一步威胁；3）通过用户反馈和交互进行闭环学习，适应企业偏好；4）与微软安全终端产品集成，提供基于安全信号的高效体验。我们认为，SecurityCopilot改变传统的网安防御流程，有望以效率提升激发政企投入意愿；此外，继SOAR、SASE、零信任、XDR等新兴技术模式之后，SecurityCopilot有望接力引领网安技术、模式创新
利用生成式AI技术能够帮助网络安全厂商加强安全能力。大模型（LLM）加持的AIGC技术的出现，不会颠覆以前建立的ML威胁防护的技术，但随着持续发展和能力增强，可以在更多安全领域积极使用，大幅提升威胁检测和响应效率，降低网络安全总体投入成本
5月18日， 深信服 安全GPT首秀，未来将持续投入AI大模型研发。深信服在安全领域应用GPT技术具备天然优势：1）拥有大量的算法、安全、调优算力人才；2）对威胁情报和攻防技术拥有深刻理解。深信服安全GPT由“大模型算法+威胁情报+安全知识”训练而成，具有检测效果好、专业性强、可个性化配置、迭代快速等特点，大幅提升对流量和日志的安全检测效果，可自动分析用户安全现状并生成处置建议，自动化调查、分析、研判以提升安全运营效率，自然语言交互以提高用户体验。此外，深信服安全GPT不依赖开源模型服务，做到完全自主可控，且训练数据部署在深信服托管云上，本土采集的安全大数据不出境，在合规前提下实施匿名化和去标识化，以坚持网络安全和数据安全底线。
除 深信服 以外，多家国内网络安全厂商积极推进安全AI应用。例如， 奇安信 表示将基于ChatGPT相关技术和自身积累的海量安全数据，训练专有的类ChatGPT安全大模型； 安恒信息 已将类ChatGPT的AI算法与数据分类分级、告警处置分析等多安全场景相结合； 三六零 已将国内领先的安全大数据及安全专家能力赋能360安全AI。我们看好国内安全AI前瞻布局者，结合政策端对网络安全的持续重视，行业供给生态有望进一步丰富，行业活力有望持续向上。
ChatGPT疑似数据泄露事件多发，多国关注生成式AI潜在数据安全问题。根据韩国媒体《Economist》报道（转引自澎湃新闻）， 三星电子 的半导体暨装置解决方案部门发生三起涉及ChatGPT误用与滥用案例，包括“设备信息泄露”和“会议内容泄露”。此外，英国广播电视公司报道称，有ChatGPT用户看到其他用户的对话标题。生成式AI涉及的数据安全问题开始成为各国政府及隐私监管机构的关注重点，如意大利个人数据保护局因年龄审核、数据和隐私安全等问题，宣布限制ChatGPT运营；加拿大联邦隐私监管机构宣布OpenAI涉嫌“未经同意收集、使用和披露个人信息”
生成式AI涉及大量用户数据调用，数据全生命周期保护重要性进一步强化。由于AI大模型在训练、推理、调优等过程中涉及大量的用户数据调用，且其中不乏敏感数据，我们认为，伴随生成式AI技术热潮掀起，数据安全应进一步加快提上日程。首先，各类机构需进行数据分类分级，不同类型、不同级别的数据，重要程度、可能造成的危害程度不同，应当匹配不同的保护措施，如针对敏感数据，应严格限制流转至AIGC应用。此外，在数据采集、传输、存储、处理、共享、销毁等数据生命周期各阶段，应通过加密、数据水印、隐私计算等多类技术手段保护用户数据，如隐私计算技术的理念即为数据可用不可见
随着AIGC技术的突破，生成式AI的内容开始大范围应用于社会中。生成式AI技术以较低的门槛、较强的娱乐属性备受市场关注，目前越来越多的企业开始应用相关的技术，如在自然语言处理领域，生成式AI可以用于自动摘要、机器翻译、对话系统等应用场景，为用户提供更加高效、准确的服务；在图像处理领域，生成式AI可以用于图像生成、图像修复等应用场景，为用户带来更加优质的视觉体验。
Midjourney发布第五代商业AI图像生成服务，文生图应用加速推进。Midjourney是市面上最流行、最有质感的AI图像生成平台之一，可将输入的文本转换为图像。2023年4月，公司发布了第五代V5模型，图更逼真、对prompt反应更灵敏，并且突破了AI绘画最难的画手环节，AI绘画的元年已经到来；
生成式AI内容可能存在生成虚假信息的风险，从而引起诈骗、勒索等违法行为持续增多。由于大模型在生成内容上的概率统计原理，其内容可靠性可能存在问题，如引用的客观数据是否是最新且来源可靠的，AI生成的内容也可能反映社会上的偏见或成见，或引发事件争议。
随着生成式AI技术的逐渐大众化，技术被滥用的风险也在不断增加，其中，生成式AI可能会被用于诈骗等网络犯罪相关活动。例如，通过训练生成式AI模型，可以生成大量的虚假信息（虚假新闻、虚假广告等），这些信息可能会误导公众，破坏社会稳定。此外，生成式AI还可以被用于欺诈行为，如冒充身份、伪造证据等，这些行为可能会给个人和企业带来巨大的经济损失；
科技大厂陆续推出预防和“打假AI”的行动，大模型厂商OpenAI发布保障AI的安全办法。目前，Google、 微软 、Meta等海外厂商都推出相应的产品或规范去预防和鉴别AI生成的虚假内容。在大模型厂商中，2023年4月，OpenAI在官网发布ChatGPT安全方法（OurapproachtoAIsafety），通过技术手段确保安全、可靠地为全球用户提供ChatGPT服务。在发布的安全方法中，OpenAI从六个方面出发，来考虑系统的安全问题：构建日益安全的人工智能系统，从实际应用中学习以改进安全保障措施，保护儿童，尊重隐私，提高事实准确性，持续地研究和参与
与此同时，AI鉴别技术或将开始逐步兴起。AI应用持续引发的风险有望推动AI鉴别技术的兴起，过去几年间，数亿美元资金涌向开发鉴别虚假信息技术的初创公司这一赛道。 美亚柏科 推出AIGC检测平台，对生成式AI产生内容进行检测识别和鉴定。在AI监管产品方面，美亚柏科发布了AI-3300“慧眼”视频图像鉴真工作站，可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定。AI-3300“慧眼”视频图像鉴真工作站涵盖40余种视频图像真伪鉴定算法，近10种深伪鉴定算法，同时具有智能鉴定和专业鉴定两种鉴定模式，支持卷宗管理和三种鉴定文书生成，为司法鉴定人员提供一站式视频图像检验鉴定服务
各国政府正在加大对人工智能技术的监管力度。2023年4月，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，明确了提供者在提供服务过程中的主体责任，从生成内容、数据安全、模型算法设计、运营规范四个方面对生成式人工智能产品进行约束。与此同时，美国、意大利、欧盟等国家和地区的监管部门围绕生成式AI也正在推进相关的监管政策和措施，后续将落地
伴随以大模型为代表的AI技术开始广泛应用，将对网络安全行业带来重大的影响。首先，大模型技术将赋能网络安全行业，成为网络安全行业建设的新范式；其次，在生成式AI广泛应用的过程中，一方面会大模型训练、调优所使用数据的安全问题，另一方面，大模型生成内容的可靠性、使用方式也会带来相应的安全需求。
投资建议：推荐：1）数据安全解决方案提供厂商；2）内容监管能力提供厂商；3）密码技术提供厂商