IEEE: 新兴人工智能网络安全的挑战和解决方案

类别:其他  出处:网络整理  发布于:2023-09-25 16:48:14 | 72 次阅读

    合成现实

    挑战
    人工智能可以生成超现实的图像和视频,显示人们在做或说他们从未做过或说过的事情。这样的“深伪技术”会使虚假信息的传播更加难以察觉。
    解决方案

    IEEE会员Carmelo José Albanez Bastos Filho表示“人工智能算法经过训练,可以识别深伪技术特有的模式和特征。这些算法分析视觉和音频特征,寻找不规则或与正常模式的偏差。”

    数据泄露
    挑战
    你输入聊天机器人的信息可以用来训练它。这可能会导致模型泄露敏感或私人信息。
    解决方案

    对于聊天机器人数据隐私问题,IEEE会员汪齐齐教授指出:“将敏感数据存储在私有环境中可以有效避免数据被添加到公共的全球数据库中。”

    虚假数据
    挑战
    有偏见、不准确或虚假的数据可能会被注入人工智能模型,从而产生错误的结果和有缺陷的系统。人工智能威胁检测技术已经在现实世界中被用来重新培训“垃圾邮件”过滤器。
    解决方案

    IEEE终身会员Raul Colcher表示:“这种形式的攻击,可以采用更加严格的数据过滤和审查机制,确保模型的学习和训练不受不当干扰。先进的过滤、监控和人工监督系统已经对其进行了反击。”

    网络钓鱼
    挑战
    网络钓鱼诈骗涉及使用欺诈电子邮件诱骗人们或公司汇款或共享敏感数据。人工智能使创建更真实但仍然具有欺骗性的电子邮件和语音邮件变得更容易。
    解决方案

    IEEE会员Yale Fox表示:“组织可考虑投入先进的威胁检测技术,及时发现和拦截恶意尝试。这些技术利用机器学习和人工智能来识别和标记潜在的网络钓鱼企图。”

    躲避系统防护
    挑战
    人工智能开发人员通常会创建防护栏,以防止他们的创作产生攻击性或非法内容。
    解决方案
    IEEE会员Rebecca Herold表示:“总有人会努力破解系统。阻止它们的方法是进行更严格地开发,然后全面测试大型语言模型算法。”
    AI VS AI
    挑战
    人工智能正被用来利用或对抗其他人工智能系统——通过对抗性人工智能等技术来欺骗通常具有关键安全要求的系统。
    解决方案
    IEEE会员Amol Gulhane表示:“通过在训练过程中将模型暴露在各种攻击场景中,它将变得更加完善,能够识别和拒绝恶意输入。”

关键词:人工智能

全年征稿 / 资讯合作

稿件以电子文档的形式交稿,欢迎大家砸稿过来哦!

联系邮箱:3342987809@qq.com

版权与免责声明

凡本网注明“出处:维库电子市场网”的所有作品,版权均属于维库电子市场网,转载请必须注明维库电子市场网,https://www.dzsc.com,违反者本网将追究相关法律责任。

本网转载并注明自其它出处的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品出处,并自负版权等法律责任。

如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

热点排行

广告