微软已公布针对欧洲各国政府的网络安全计划，其中包括一项旨在加强各国国家防御能力以抵御来自敌对国家和犯罪分子的人工智能网络威胁的计划。据微软博客，该项目旨在增强欧洲政府抵御网络攻击的能力，尤其是由生成式人工智能驱动的攻击。
据称，这项网络安全增强计划是免费的。然而，此类合作可以改善微软与欧洲各国政府的关系，并增强其在欧洲网络防御项目中的影响力。
尽管利用人工智能进行恶意活动的现象激增令人担忧，但微软相信人工智能作为防御工具的潜力。该公司还积极监控并处理任何对其人工智能模型和工具的恶意使用。
微软的欧洲安全计划旨在增加与欧洲各国政府基于人工智能的威胁情报共享，增强网络安全能力和弹性，并扩大合作伙伴关系以阻止网络攻击。
微软已与欧洲执法机构合作，打击用于窃取密码、财务数据和加密钱包的Lumma 信息窃取恶意软件。据悉，Lumma 在短短两个月内就感染了全球近 40 万台设备，其中许多受害者位于欧洲。该公司还表示，此次行动可能会夺取或封锁超过 2300 个命令与控制域名。
过去几年，人工智能驱动的网络攻击激增，犯罪分子利用生成式人工智能和商业人工智能工具来攻击用户和组织。大型语言模型 (LLM) 被修改用于恶意目的，使攻击者能够更轻松地利用漏洞。
诈骗者和犯罪分子甚至利用 ChatGPT 等人工智能工具创建钓鱼邮件、冒充公司和个人，以及制作深度伪造视频。在另一个案例中，ChatGPT 被用来策划针对特朗普酒店的袭击。