近年来，随着数字经济成为驱动我国经济增长的新引擎，人工智能广泛应用于诸多领域已是大势所趋，人工智能服务的革新依赖收集海量数据以促使算法升级，而数据使用和储存的安全和隐私保护未来将成为制约人工智能产业发展的瓶颈问题之一，主要体现在以下方面：

　　一是在推动技术革新的同时形成“算力”的垄断和集权，而对算法的源头监管不足。近年来，诸如“困在系统里的外卖小哥”“大数据杀熟”等现象频发，大企业以资本驱动占据绝对市场，掌握数据搜集的绝对优势，从而迅速提升算法，而主管部门对企业算法的合理性、公平性、合法性缺乏审核和评判。以外卖企业为例，对订单完成速度设定的算法基于骑手每次送餐数据上传并每次都稍有缩减，不断倒逼骑手铤而走险，监管部门仅从道路安全角度加以监管，却无法实现源头上对“算法”的监管。

　　二是数据的搜集、储存和使用面临个人隐私侵犯和个人信息滥用，缺乏有效的监管。面向新技术新领域，现有法律很难提供充分的依据，而发展人工智能搜集的海量数据由于缺乏约束，往往成为各个企业的私产，缺乏面向用户的保护维权机制。以智能驾驶技术为例，一些企业推出的智能驾驶服务算法升级需要海量真实路况信息，其中涉及大量用户信息的搜集、储存和使用，虽然《民法典》从基本法层面强化了对隐私权和个人信息保护，但《消费者权益保护法》《网络安全法》《道路交通安全法》等受制于各自的立法目的和适用范围，面对智能驾驶这一飞速发展的新技术领域，均难以从法律法规层面为个人信息保护提供具体依据。

　　三是由于国家人工智能产业发展不平衡，极有可能产生威胁国家安全的重大隐患。在中美贸易摩擦和全球疫情蔓延的大背景下，位于境外的人工智能数据中心掌握我国重要的信息，极有可能形成重大威胁。如苹果手机、特斯拉汽车、思科交换机等均可视作信息搜集和上传的终端，目前尚未得到充分的管制。上述终端接触的信息与国土空间信息紧密相关，所搜集信息上传至数据中心后，不仅导致用户个人信息的泄露，更对国家地理信息系统安全造成重大威胁。随着中控技术、云技术的迅猛发展，用户信息管理不当还使黑客入侵智能系统并操纵汽车、手机等终端有机可乘，将严重影响国家安全。

　　基于上述风险的预判，建议：

　　一是前置信息立法、完善行政监管，建立算法开发者责任制。进一步完善个人信息保护、道路交通安全及相关部门法，研究出台人工智能专项法律法规，保障个人信息和公共信息安全，明确人工智能企业遵循合法、正当和必要原则，对所搜集信息经过缩小化、加密化处理成为匿名信息后方可纳入数据产权；考虑政府配置同等的技术力量评估算法成本巨大且不具可行性，应推动算法开发主体“责任自负”机制，对造成不良后果的算法应视严重程度定责量刑。长远来看，需面向人工智能技术发展建立对个人信息保护的行政监管机制，促进人工智能行业自律机制的形成和发展，探索对个人因信息泄露、算法不当而遭受不法侵害的情况给予充分多元的法律救济。

　　二是平台上预防关键垄断，充分保障个人信息和国家信息安全。对中控系统、传感器，参照贵州云上作为中国苹果用户数据中心的做法，针对境外独资的、涉及境外存储数据和处理运算的跨国物联网企业，将面向中国用户的数据中心迁入我国，使我国在本国数据产权和安全上获得主动权。

　　三是技术上掌握主动权，参与国际法则的制定。我国政府应主动参与数据开放、流通、共享等国际法则的制定，打破不同国家、不同企业之间的数据壁垒，通过“数据安全岛”的平台建设，推动数据联合建模商业化背景下的匿名化、脱个人化的迁移处理用于算法升级，实现“可用不可见”前提下的数据资源安全共享，使得参与者公平分配受益，进而推动我国人工智能产业健康发展。