产品中心

生成式AI有哪些安全问题?vivo 首席安全官谈AI挑战
首页 > 产品中心 > 复合材料
来源:电竞比赛押注平台app    发布时间:2024-04-01 19:37:46

  “生成式人工智能要解决四个方面的安全问题,分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。”vivo 首席安全官鲁京辉在日前举办的亚马逊云科技 re:Inforce 2023 中国站上如是说。

  对于生成式 AI 在安全层面给公司能够带来的挑战与机遇。鲁京辉表示,生成式AI对交互和体验上带来的变革毋庸置疑。但是作为一个终端厂商,如何利用手机算力平台去做好这件事其实也是一个很大的挑战。“我们聚焦于作为一个智能手机生产厂商一定要做好的工作。其它工作则是通过合作伙伴的赋能。”

  亚马逊云科技认为,安全是构建生成式AI不可回避的重要议题,企业只有在AI旅程中做好数据、模型和应用的安全防护,才能更好地借助AI加速业务创新。在鲁京辉看来,AI和安全的关系,一个是AI for Security,一个是Security for AI。

  鲁京辉认为,生成式人工智能要解决四个方面的安全问题,分别是内生安全的问题、内容安全的问题、运行安全的问题以及合规性的问题。比如,对于内生安全的问题,其核心是要做好相应管理的基线、管理的流程/制度/规范/工具支撑,做好数据源头的可控。

  “推动AI行业的健康、有序、可持续发展,一定要重视数据安全和个人隐私信息保护,二者是人工智能有序可持续发展的“基石”。”鲁京辉提到,vivo的安全战略是“PROTECT”,即:数据隐私保护、数据风险管理、产品对象安全、关键安全技术、安全工程和合规管理、安全攻防。在技术实践上面,vivo抽象出来千镜安全范式。“我们是以整个千镜安全架构为核心,通过安全技术、安全工程、安全攻防来形成整体的能力建设的技术主架。”

  鲁京辉介绍称,vivo作为一个终端厂商,在AIGC时代对生成式人工智能的应用,第一是对内部提效,第二是要构建生成式人工智能的产品和服务提供给用户。

  他还强调称,生成式AI对交互和体验上带来的变革毋庸置疑。但如何充分的利用手机算力平台去做好这件事其实是一个很大的挑战。实验室的成果真正落地到手机上还应该要考虑很多工程性的问题,比如说功耗、内存的使用、使用者真实的体验等方面。

  鲁京辉表示,vivo比较聚焦于作为一个智能手机生产厂商,在提供生成式人工智能服务的时候一定要做好的工作。其它工作则是通过合作伙伴的赋能。”“单纯一个厂商是无法构建一个健康、有序的生成式人工智能生态的。我们借助亚马逊云科技的多种安全服务,例如威胁检测与事件响应(Amazon GuardDuty)、身份认证与访问控制(Amazon IAM)、网络与基础设施安全(Amazon WAF)、数据保护与隐私(Amazon CloudTrail)和风险管控及合规(Amazon Trusted Advisor)等相关服务,去构建相应的云上数据安全。”鲁京辉说。