人工智能（AI）是引领新一轮科技革命和产业变革的战略性技术，已在研发设计、生产制造等领域崭露头角，成为新型工业化的重要推动力。今年两会期间，AI也成为代表委员热议的话题之一。
全国政协委员、奇安信科技集团董事长齐向东在接受《中国电子报》记者采访时表示，AI在深入应用的同时，其带来新的安全威胁也需要我们高度重视。
他认为，对于AI带来的安全挑战，一方面AI加剧了安全威胁，如数据泄露、欺诈攻击、社会治理安全等。生成式 AI技术可以快速生成钓鱼邮件、编写恶意软件与代码，导致攻击数量爆发式增长，AI欺诈事件频繁发生。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题，如 ChatGPT 在对话交互过程中能获取用户数据或输出训练数据，可能涉及个人隐私数据、业务数据等敏感信息，加剧数据泄露风险。此外，不法分子可以通过“深度伪造”技术换脸变声、伪造视频，“眼见未必为实”将成为常态，网络诈骗大增，甚至引发社会认知混乱。另一方面，AI加剧攻防失衡，利用和针对AI的攻击层出不穷，网络安全“易攻难守”。在恶意利用方面，AI大幅降低了网络攻击门槛。
那么，在AI时代，如何保证信息和网络安全？
“总体来说，面对新技术可能带来的安全风险，不仅要筑起一道用智能对抗智能的防线，更重要的是要做到人和机器的协同发展。既发挥人的引领作用，也要充分利用极其强大的智能分析和自动研判能力。不能盲目陷入技术决定论，只有人与机器的力量有机结合，生产力才能真正的新质、高质。”齐向东表示。
具体来说，他建议大力探索“AI+安全”创新应用，提高应对网络空间安全风险与不确定性的能力。主要是抓住三个关键点：
一是从供给侧看，可以开展联合创新，围绕攻防实战和应用场景实现“AI+安全”技术研发突破。技术创新产品需要在应用中更新迭代走向成熟，特别是人工智能大模型，数据样本越丰富，成长速度越快。建议鼓励各行业头部企业与安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。
二是从需求侧看，强化政策牵引，推动“AI+安全”技术创新产品在各行业落地应用。把AI用于网络安全防护是新事物，政企机构面对大模型安全创新产品产生疑虑是正常的。积极的政策引导是推动新事物落地应用、成长壮大的催化剂。以新能源汽车产业的发展为例，初消费者对其安全性有疑虑，密集出台的一系列政策，逐步改变了消费者观念，拉动了新能源汽车产业的发展和技术进步。建议像支持新能源汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补贴，推动“AI+安全”相关产业取得更多科技创新成果。
三是从人才侧看，壮大“AI+安全”领域的实战型、复合型人才队伍。“随着AI技术的普及和应用领域的不断扩展，我国AI人才严重短缺，建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、AI、网络安全等新兴产业领军人才，为我国抢抓AI机遇培育人才。”齐向东表示。
