1月6日，以“把握APEC机遇 扬帆新蓝海”为主题的粤港澳大湾区生成式人工智能安全发展联实验室（以下简称“联实验室”）福田服务站启用暨AI出海研讨会，在深圳市福田区华强科创广场举行。
活动现场，香港中文大学（深圳）人工智能学院终身教授、助理院长吴保元围绕“人工智能出海中的安全挑战与对策”展开主题分享，与来自政府、企业、高校、科研机构及应用端的代表齐聚一堂，深入探讨粤港澳大湾区人工智能产业出海的新机遇与新未来。
疾风暴雨下，新能源汽车是否有漏电风险呢？科技日报记者就此采访了相关家，为您答疑解惑。
手机：18632699551（微信同号）随着国内生成式人工智能的快速发展，相关监管政策正逐步落地，由国家互联网信息办公室等七部门联发布的《生成式人工智能服务管理暂行办法》(以下简称《办法》)于8月15日正式施行。作为我国份针对生成式人工智能的规范监管文件，《办法》以“促进生成式人工智能健康发展和规范应用”为目标，明确国家坚持发展和安全并重、促进创新和依法治理相结的原则，对生成式人工智能服务实行包容审慎和分类分级监管。
AI安全的三重维度与核心风险
在吴保元看来，“人工智能安全”可划分为AI助力安全、AI内生安全以及AI衍生安全三个层次。
具体而言，AI在身份安全、信息安全、网络安全等传统安全领域具备显著应用价值，能够提供切实有的保障助力，例如检测电信诈骗风险、防范恶意软件入侵等场景。但与此同时，AI也面临着隐私、精确、鲁棒的安全“不可能三角”困境——功能足够强大、输出足够精准的AI模型，往往容易出现隐私泄露和鲁棒不足等问题。多项研究成果及案例已表明，以ChatGPT为代表的大语言模型会“记忆”海量训练数据，而当前流行的视觉生成模型也能轻易生成如现实人物肖像等原始训练数据，这类现象不仅存在明显的隐私泄露隐患，更直接构成了AI内生安全风险。
AI衍生安全风险同样不容忽视。吴保元指出，AI技术在军事领域的武器化应用、在传播领域的虚假信息生成与扩散、对现有职场岗位的替代应，以及其可能诱发的“信息茧房”加剧、歧视偏见放大等问题，都可能对现实社会秩序和公共利益产生负面影响，形成不容忽视的衍生安全风险。
针对上述安全风险，吴保元认为，有要对AI模型开展价值对齐训练，确保AI的行为逻辑与人类的意图和价值观保持一致，符人类社会的法律法规、意识形态、宗教信仰及风俗习惯等。
AI产品跨境面临的三重规挑战
吴保元进一步强调，铝皮保温上述AI安全问题在跨境场景下会被进一步放大，给AI产品的出海进程带来额外的规与运营挑战。
先，作为特殊的数据载体和重要的数据资产，AI模型及其相关数据（包括训练数据、模型参数、理输入输出数据）均明确纳入数据跨境相关规定的监管范畴。若在境内收集用户个人信息、行业敏感数据等资源，并传输至境外用于AI模型训练，将直接受《个人信息保护法》《数据安全法》《促进和规范数据跨境流动规定》等法律法规的严格约束；部分功能强大或具备特殊属的AI模型，还可能受到技术出口管制相关政策的限制。与此同时，若AI模型训练过程中使用了境外数据，其跨境应用也需符目标国家和地区的相关数据出境规定。
其次，AI生成内容的规判定，与各地的法律法规、历史文化、宗教习俗、地域特点及时事热点高度相关。这就要求出海企业须精准把握目的地的规要求，针对设置个化的AI安全护栏，确保产品输出内容符当地监管与公序良俗。
此外，AI产品出海时还需考虑责任追溯难题。在法律管辖层面，AI服务的提供者、用户、数据存储地及损害发生地往往分属不同国家和地区，导致管辖权界定困难，且各国产品责任法及赔偿标准差异显著，易引发法律适用冲突。在技术溯源层面，AI服务的分布式跨境架构与“算法黑箱”特，使得安全事故的原因调查与证据固定难度大，跨国调取日志数据、获取有电子证据等环节均面临重重障碍。在监管标准层面，各国AI监管框架存在明显差异，缺乏统一的安全认证互认机制，直接导致企业出海规成本高昂且不确定强。
基于上述挑战，吴保元建议，出海企业需提前预判、充分考量各类AI安全与规风险，构建全流程的风险防控体系，为AI产品跨境布局筑牢安全根基。
此次活动由粤港澳大湾区生成式人工智能安全发展联实验室、中共深圳市福田区委员会主办，福田区委统战部（台港澳局、侨务局）、福田区人工智能产业办公室、联实验室福田服务站、深圳（福田）海联大模型和算法赋能服务中心、广东省网络数据安全与个人信息保护协会承办，南方都市报社、华强科创广场、深圳市人工智能行业协会协办。
